Izvršni direktor kompanije Anthropic iznosi plan za usporavanje razvoja vještačke inteligencije
Dario Amodei je upravo zatražio od industrije da… uspori. Ne stane. Ubrza tempo. Dug esej, tri koraka i upozorenje da se rekurzivno samousavršavanje već kuha brže nego što odrasli mogu to pratiti.
Anthropic jednostrano poziva evaluatore ugrađene u zgradu - značke, stolove, laptope i pravo objavljivanja nalaza bez PR filtera. Zatim želi da demokratske laboratorije koordiniraju sigurnosne standarde. Zatim, nekako, dogovor s autoritarnim vladama. Lako na papiru. Teško svugdje drugdje.
On i dalje kaže da bi vještačka inteligencija mogla biti čudo. Također kaže da bi sposobniji, nepravilno usklađeni roj mogao preuzeti internet s upornim botnetom i nanijeti stotine milijardi štete. Te dvije rečenice stoje jedna pored druge i ne slažu se.
O - i želi usko ograničeno odricanje od antimonopolskih propisa kako sigurnosni razgovori sami po sebi ne bi bili pravni problem. Kočnice dolaze s papirologijom. Naravno da dolaze.
Sam Altman potvrđuje da OpenAI neće izaći na berzu ove godine, rekavši da bi inicijalna javna ponuda sada došla u "nepromišljenom trenutku" s obzirom na zabrinutost za sigurnost umjetne inteligencije
Altman je dao ekskluzivni intervju i ugasio kalendar kotiranja. IPO u ovom trenutku, rekao je, bio bi "nepromišljen trenutak". Sigurnosni posao nije završen. Usklađivanje nije završeno. Društvo nije spremno. Kada su ga pritisnuli - ne ove godine.
Bankari su već kružili. Povjerljivi dosije postoji. Sada generalni direktor kaže da prvo imaju mnogo toga za uraditi, uključujući i to da shvate kako industrija i vlade uopće sarađuju. Zvučao je gotovo kao da mu je laknulo što čeka.
Također je rekao da je izgradnja umjetne inteligencije izvan ljudske kontrole "apsolutno" moguća - a zatim se zakleo da će pauzirati obuku ako je to put. Smjelo. Također i zgodno, možda. Moguće oboje. Sprječavanje neprofitnih/profitnih organizacija, tvrdio je, postoji kako bi mogli donositi odluke koje očito nisu u interesu dioničara. Vidjet ćemo hoće li ta rečenica preživjeti kontakt sa stvarnim prospektom.
Sam Altman iz OpenAI-a nagovještava sporazum s drugim AI kompanijama kako bi se riješili sigurnosni rizici
Isti intervju, drugačiji naslov, a ovo je šaputanje. Sastanak s Amodeijem, Muskom i Demisom Hassabisom je prirodan sljedeći potez. Altman: on misli da će se to dogoditi. Neće unaprijed najaviti privatne razgovore. Onda ih je u osnovi unaprijed najavio.
Dvocifreni katastrofalni rizik nije prihvatljiv, rekao je. Modeli koji još nisu objavljeni su već toliko sposobni da se daljnje nastojanje bez boljeg praćenja čini nepromišljenim. Pravi pakt i pažljivo procurila atmosfera mogu spolja izgledati identično.
Osoblje je već interno čulo verziju ovoga. Javno je još uvijek magla. Ako se soba dogodi, odlično. Ako se ne dogodi, citat je ipak poslužio.
Sam Altman podržava Dario Amodeijev poziv na usporavanje i kaže da će OpenAI učiniti isto
Nekoliko sati nakon eseja, Altman je objavio da će OpenAI ispuniti obećanje o ugrađenom evaluatoru. Pristup kao kod zaposlenika. Uskoro više informacija. Musk je napisao tri riječi: "Dario je u pravu." Tri suparnička izvršna direktora. Jedan slogan. Neugodna energija vikenda.
Koordinacija i pozorište mogu putovati zajedno. Prva prečka Amodeijevog plana sada ima dvije najveće laboratorije koje javno klimaju glavom. Hugging Face - da, to Hugging Face - zatražilo je da se pridruži programu evaluatora i pokrenulo nešto što se zove Inicijativa za otvoreno usklađivanje. Transparentnost od ljudi koji su hakovani. Poetski ili upereno.
Evropa, ako išta znači, nema nikoga od koga bi tražila to izuzeće u američkom stilu. Brisel je odavno prestao davati pojedinačna izuzeća. Dakle, rukovanje je američko. Ostatak mape je... slijeganje ramenima.
OpenAI samo želi pobijediti
Matematičari nisu u slavljeničkom raspoloženju nakon vikenda intervjua. OpenAI-jev Navier-Stokesov sprint - otprilike deset hiljada agenata, desetine miliona dolara računarskog vremena, osamdeset osam sati - iznutra izgleda kao lov na trofeje. Matematičari žele uvid. Laboratorija, stalno govore, želi pobijediti.
Tristan Buckmaster im je rekao da OpenAI nudi neograničenu računarsku snagu i isključivo autorstvo ako se riješi svog saradnika povezanog s Anthropicom. Nazvao je to mitom. Rekao je ne. OpenAI kategorički tvrdi da njegovi Codex upiti nisu mogli utjecati na sistem. Nije uvjeren. Andreas Thom se i dalje pita da li su ChatGPT razgovori o njegovom vlastitom radu hranili model koji je kasnije izgrađen na njemu. Samo bi kompanija znala. Sumnja da ni oni ne znaju.
I onda ključna stvar: OpenAI tvrdi da je već ostvario značajan napredak u rješavanju još jednog problema Milenijumske nagrade. Koji ostaje neimenovan. Clayu ionako još uvijek treba dug period prihvatanja od strane zajednice. Dakle, niko još nije "pobijedio". Oni se jednostavno već utrkuju ko će biti sljedeći. Slatko.
Često postavljana pitanja
Kakav je plan izvršnog direktora Anthropica, Daria Amodeija, za ubrzanje razvoja umjetne inteligencije?
Amodei je objavio dugi esej u kojem traži od industrije da uspori - a ne da stane - jer rekurzivno samousavršavanje napreduje brže nego što revizori mogu pratiti. Prvi korak je jednostrano pozivanje ugrađenih evaluatora u Anthropic sa značkama, stolovima, laptopima i pravom objavljivanja nalaza bez PR filtera. Zatim želi da demokratske laboratorije koordiniraju sigurnosne standarde i, na kraju, neku vrstu dogovora s autoritarnim vladama. Također želi usko odricanje od antimonopolskih propisa kako pregovori o sigurnosti sami po sebi ne bi bili pravni problem.
Zašto je Sam Altman rekao da OpenAI neće imati inicijalnu javnu ponudu ove godine?
U ekskluzivnom intervjuu, Altman je rekao da bi inicijalna javna ponuda dionica (IPO) u ovom trenutku bila nepromišljen trenutak jer rad na sigurnosti, usklađivanju i društvenoj spremnosti još uvijek nisu završeni. Kada je pritisnut, potvrdio je da se to neće dogoditi ove godine, iako bankari kruže oko toga i postoji povjerljiva dokumentacija. Tvrdi da neprofitna/profitna struktura postoji tako da OpenAI može donositi odluke koje očigledno nisu u interesu dioničara. Također je rekao da je izgradnja umjetne inteligencije izvan ljudske kontrole apsolutno moguća i obećao da će pauzirati obuku ako bi to bio put.
Da li je Altman nagovijestio sigurnosni pakt s drugim laboratorijama za vještačku inteligenciju?
U istom intervjuu, Altman je rekao da misli da će se održati sastanak s kolegama poput Amodeija, Muska i Demisa Hassabisa, ali je odbio unaprijed najaviti privatne razgovore. Tvrdi da dvocifreni katastrofalni rizik nije prihvatljiv i da su još uvijek neobjavljeni modeli već toliko sposobni da se daljnji napor bez boljeg praćenja čini nepromišljenim. Osoblje je već interno čulo verziju ovoga, tako da javni komentari mogu nagovijestiti koordinaciju, a ne potvrditi gotov dogovor.
Hoće li OpenAI ispuniti obećanje Anthropic-a o ugrađenom evaluatoru?
Nekoliko sati nakon Amodeijevog eseja, Altman je objavio da će OpenAI uskladiti obećanje o ugrađenom evaluatoru s pristupom zaposlenima, a uskoro će biti i više detalja. Elon Musk je napisao da je Dario u pravu, stavljajući tri rivalska izvršna direktora pod sličan slogan. Hugging Face je zatražio da se pridruži programu evaluatora i pokrenuo Inicijativu za otvoreno usklađivanje. Evropa ne može ponuditi isto odricanje od antimonopolskih propisa u američkom stilu koje je Amodei predstavio, tako da je rukovanje za sada uglavnom američko.
Zašto matematičari kritikuju OpenAI-jev Navier-Stokesov sprint?
Matematičari opisuju OpenAI-jev Navier-Stokesov test, koji traje otprilike deset hiljada agenata i traje osamdeset osam sati, kao lov na trofeje koji daje prioritet pobjedi nad uvidom. Tristan Buckmaster je rekao da je OpenAI ponudio neograničeno računanje i isključivo autorstvo ako otpusti saradnika povezanog s Anthropicom; on je to nazvao mitom i odbio. OpenAI kaže da njegovi Codex upiti nisu mogli utjecati na sistem, ali i dalje nije uvjeren. Andreas Thom i dalje insistira na tome da li su ChatGPT razgovori o njegovom vlastitom radu doprinijeli kasnijem napretku modela.
Da li je OpenAI tvrdio da je napredovao u rješavanju još jednog problema Milenijumske nagrade?
OpenAI tvrdi da je već ostvario značajan napredak u rješavanju još jednog problema Milenijumske nagrade, ali neće imenovati o kojem se radi. Clay Matematički institut još uvijek zahtijeva dug period prihvatanja od strane zajednice, tako da niko još nije zvanično pobijedio. Unutar same oblasti, ta tajnost, plus ranija Navier-Stokesova utrka, čita se kao da laboratorije već jure za sljedećim trofejem. Intervjui za The Verge prikazuju napetost kao da matematičari žele uvid, dok OpenAI želi pobijediti.