Vremenski okviri VI: koji su argumenti i šta misle „stručnjaci”

Ovaj članak počinje sižeom o tome kada treba da očekujemo da se pojavi transformativna VI, na osnovu višestrukih perspektiva koje su prethodno pokrivene u serijalu. Mislim da je ovo korisno, čak i ako ste pročitali sve prethodne delove, ali ako želite da preskočite ovaj članak, kliknite ovde.

Zatim se bavim pitanjem: „Zašto ne postoji čvrst konsenzus stručnjaka o ovoj temi, i šta to znači za nas?“

Procenjujem da postoji više od 10% šanse da ćemo videti transformativnu veštačku inteligenciju u roku od 15 godina (do 2036.); ~50% šanse da ćemo to videti u roku od 40 godina (do 2060.); i ~2/3 šanse da to doživeti u ovom veku (do 2100).

(Pod „transformativnom VI“ mislim na „dovoljno moćnu veštačku inteligenciju da nas uvede u novu, kvalitativno drugačiju budućnost.“ Tvrdio sam da bi napredna veštačka inteligencija mogla biti dovoljna da ovo postane najvažniji vek.)

Ovo je moj opšti zaključak zasnovan na brojnim tehničkim izveštajima koji pristupaju predviđanju veštačke inteligencije iz različitih uglova – mnogi od njih koje je proizvela Open Philanthropy u poslednjih nekoliko godina dok smo pokušavali da razvijemo detaljnu sliku predviđanja transformativne veštačke inteligencije kako bismo formirali našu dugoročnu politiku davanja grantova.

Evo sažetka različitih uglova predviđanja transformativne veštačke inteligencije koja sam razmatrao datih u jednoj tabeli, sa vezama do detaljnije diskusije u prethodnim člancima, kao i do osnovnih tehničkih izveštaja:

Perspektiva

Ključni detaljni članci (skraćeni naslovi)

Moji zaključci

Pretpostavke verovatnoće transformativne VI

Anketiranje eksperata. Šta istraživači VI očekuju?

Dokazi VI eksperata

Ekspertska anketa sugeriše (1) verovatnoću od ~20% do 2036. godine; ~50% verovatnoće do 2060. godine; ~70% verovatnoće do 2100.

Nešto drugačije formulisana pitanja (postavljena manjem broju ispitanika) daju mnogo kasniju procenu.

Metoda Bio Referenci. Na osnovu uobičajenih obrazaca koliko košta “obuka veštačke inteligencije“, koliko bi koštalo obučavanje VI modela velikog kao ljudski mozak da obavlja najteže zadatke koje ljudi rade? A kada će ovo biti dovoljno jeftino da možemo očekivati da će to neko uraditi?

Bio-reference, koje se oslanjaju na Operacije mozga.

>10% verovatnoća do 2036;

~50% verovatnoća do 2055; ~80% Verovatnoća do 2100.

Perspektive o teretu dokaza

Malo je verovatno da bi bilo koji vek bio „najvažniji“. (Više)

Istorijska Prekretnica; Odgovor na Istorijska Prekretnica

Imamo mnogo razloga da mislimo da je ovaj vek “poseban“ i pre nego što sagledamo činjenice o VI. Mnoge su obrađeni u prethodnim člancima; druge su obrađene u sledećem redu.

Šta biste prognozirali o vremenskim okvirima transformativne VI, samo na osnovu osnovnih informacija o (a) koliko godina ljudi pokušavaju da izgrade transformativnu VI; (b) koliko su “uložili“ u to (u smislu broja istraživača veštačke inteligencije i količine računanja koju koriste); (c) da li su to već uspeli (do sada nisu)? (Više)

Slabo informisane apriori pretpostavke

Glavne procene: 8% do 2036; 13% do 2060. godine; 20% do 2100. (2) Po mom mišljenju, ovaj izveštaj naglašava da je istorija veštačke inteligencije kratka, ulaganja u VI se brzo povećavaju, tako da ne bi trebalo previše da nas iznenadi ako se transformativna VI uskoro razvije.

Na osnovu analize ekonomskih modela i ekonomske istorije, koliko je verovatan ‘eksplozivni rast’

– koji se definiše kao >30% godišnjeg rasta svetske privrede – do 2100. godine?

Da li je ovo dovoljno daleko od onoga što je „normalno“ da bismo mogli da sumnjamo u zaključak? (Više)

Eksplozivni rast, Putanja čovečanstva

Putanja Čovečanstva projektuje prošlost u budućnost, što implicira eksplozivan rast do 2043-2065.

Eksplozivni Rast zaključuje: „Smatram da ekonomska razmatranja ne pružaju dobar razlog da se odbaci mogućnost razvoja transformativne VI u ovom veku. U stvari, postoji uverljiva ekonomska perspektiva prema kojoj se očekuje da će dovoljno napredni sistemi veštačke inteligencije izazvati eksplozivan rast.”

„Kako su ljudi predviđali VI… u prošlosti, i da li treba da prilagodimo svoje stavove danas da bismo ispravili obrasce koje možemo primetiti u ranijim predviđanjima? … Susreli smo se sa stavom da je tema veštačke inteligencije u prošlosti bila sklona čestoj preteranoj pomami, i da stoga treba očekivati da će današnje projekcije verovatno biti preoptimistične.” (Više)

Predviđanja o VI iz prošlosti

„Čini se da je vrhunac VI pomame bio od 1956-1973. Ipak, predstave o ushićenju na koje ukazuju neka od najpoznatijih predviđanja veštačke inteligencije iz ovog perioda obično su preuveličane.”

Transparentnosti radi, imajte na umu da su mnogi tehnički izveštaji analize Open Philanthropy, a ja sam sa-izvršni direktor Open Philanthropy.

Uzimajući u obzir gore navedeno, očekujem da će neki čitaoci i dalje biti nesigurni. Čak i ako misle da moji argumenti imaju smisla, možda se pitaju: ako je ovo istina, zašto se o tome naširoko ne raspravlja i ne prihvata? Šta je sa stručnim mišljenjem?

Moj rezime stanja stručnog mišljenja u ovom trenutku je:

• Tvrdnje koje iznosim ne protivreče nikakvom konsenzusu stručnjaka. (U stvari, verovatnoće koje sam naveo nisu previše daleko od onih koje istraživači veštačke inteligencije daju, kao što je prikazano u prvom redu.) Ali postoje neke naznake da ne razmišljaju previše o tome.

• Tehnički izveštaji Otvorene Filantropije na koje sam se oslanjao prošli su značajnu reviziju spoljnih stručnjaka saradnika. Istraživači mašinskog učenja su pregledali Bio utemeljenja; neuronaučnici su pregledali Operacije mozga; ekonomisti su pregledali Eksplozivni rast; akademici fokusirani na relevantne teme o neizvesnosti i/ili verovatnoći pregledali su Delimično informisana predubeđenja. (Neki od ovih pregleda su imali značajne tačke neslaganja, ali nijedna od tih tačaka nije delovala kao slučaj u kojem su izveštaji bili u suprotnosti sa jasnim konsenzusom stručnjaka ili literature.)

• Ali takođe ne postoji aktivan, snažan ekspertski konsenzus koji podržava tvrdnje poput “Postoji najmanje 10% šanse za transformativnu veštačku inteligenciju do 2036.“ ili “Postoje dobre šanse da smo u najvažnijem veku za čovečanstvo“, na način na koji postoji konsenzus koji podržava npr. potrebu da se preduzmu mere protiv klimatskih promena.

Na kraju krajeva, moje tvrdnje se odnose na teme koje jednostavno nemaju „područje“ stručnjaka posvećenih njihovom proučavanju. To je, samo po sebi, zastrašujuća činjenica i nešto za šta se nadam da će se na kraju promeniti.

Ali da li treba da budemo voljni da u međuvremenu delujemo na osnovu hipoteze „najvažnijeg veka“?

U nastavku ću razmatrati sledeće teme:

• Kako bi moglo da izgleda “istraživačko polje predviđanja VI“.

• “Skeptično gledište“ koje kaže da su današnje rasprave o ovim temama premale, homogene i izolovane (sa čime se slažem) – i da stoga ne treba da postupamo po hipotezi „najvažnijeg veka“ sve dok ne postoji zrelo, čvrsto polje (sa čim se ne slažem).

• Zašto mislim da bi u međuvremenu trebalo da ozbiljno shvatimo hipotezu, sve dok se takvo polje ne razvije, ako se uopšte i razvije:

• Nemamo vremena da čekamo čvrst konsenzus stručnjaka.

• Ako postoje dobra pobijanja – ili potencijalni budući stručnjaci koji bi mogli da razviju takva pobijanja – još ih nismo pronašli. Što se hipoteza ozbiljnije shvata, veća je verovatnoća da će se takva pobijanja pojaviti. (Teorija Kaningemovog zakona: „najbolji način da dobijete tačan odgovor je da objavite pogrešan odgovor.“)

• Mislim da je dosledno insistiranje na čvrstom konsenzusu stručnjaka opasan obrazac rezonovanja. Po mom mišljenju, u redu je biti izložen nekom riziku od samoobmane i izolovanosti, u zamenu za to da uradimo pravu stvar kada je to najvažnije.

Kakva je to ekspertiza za predviđanje VI?

Pitanja analizirana u gore navedenim tehničkim izveštajima uključuju:

• Da li mogućnosti veštačke inteligencije vremenom postaju impresivnije? (VI, istorija VI)

• Kako možemo uporediti VI modele sa životinjskim ili ljudskim mozgom? (VI, neuronauka)

• Kako možemo da uporedimo sposobnosti veštačke inteligencije sa sposobnostima životinja? (VI, etologija)

• Kako možemo da procenimo troškove obuke velikog VI sistema za težak zadatak, na osnovu informacija koje imamo o obuci prošlih sistema veštačke inteligencije? (VI, prilagođavanje krive)

• Kako možemo da napravimo procenu sa minimalnim informacijama o transformativnoj veštačkoj inteligenciji, zasnovanu samo na tome koliko je godina, istraživača, dolara do sada prošlo kroz polje? (Filozofija, verovatnoća)

• Koliko je verovatan eksplozivan ekonomski rast u ovom veku, zasnovan na teoriji i istorijskim trendovima? (Ekonomija rasta, ekonomska istorija)

• Kako je izgledala „pomama za VI“ u prošlosti? (Istorija)

Kada govorimo o širim implikacijama transformativne VI za „najvažniji vek“, takođe sam razmatrao stvari poput „Koliko su izvodljivi digitalni ljudi i uspostavljanje svemirskih naselja širom galaksije?“ Ove teme dotiču fiziku, neuronauku, inženjerstvo, filozofiju uma i još mnogo toga.

Ne postoji očigledan posao ili akreditiv koji nekoga čini stručnjakom za pitanje kada možemo očekivati transformativnu VI, ili pitanje da li smo u najvažnijem veku.

(Posebno se ne bih složio sa bilo kojom tvrdnjom da se za ove prognoze treba oslanjati isključivo na istraživače veštačke inteligencije. Pored činjenice da oni ne razmišljaju mnogo o ovoj temi, mislim da se oslanjanje na ljude koji su specijalizovani za izgradnju sve moćnijih VI modela koji će nam reći kada će se transformativna VI pojaviti je kao oslanjanje na kompanije za istraživanje i razvoj solarne energije – ili kompanije za ekstrakciju nafte, u zavisnosti od toga kako na to gledate – da predvide emisije ugljenika i klimatske promene. One svakako imaju deo celokupne slike. Ali predviđanje je različita aktivnost od inovacija ili izgradnje najsavremenijih sistema.)

I nisam čak ni siguran da ova pitanja imaju pravi oblik za akademsko polje. Pokušavajući da predvidimo transformativnu VI, ili odredimo šanse da se nalazimo u najvažnijem veku, izgleda:

• Sličniji izbornom modelu FiveThirtiEight („Ko će pobediti na izborima?“) nego akademskim političkim naukama („Kako se saodnose vlast i birači?“);

• Sličnije trgovanju finansijskim tržištima („Da li cena ovoga ide gore ili dole u budućnosti?“) nego akademskoj ekonomiji („Zašto postoje recesije?“); (3)

• Sličnije GiveWell-ovom istraživanju („Koja dobrotvorna organizacija će najviše pomoći ljudima, po dolaru?“) nego ekonomiji akademskog razvoja („Šta uzrokuje siromaštvo i šta ga može smanjiti?“) (4)

Odnosno, nije mi jasno kako bi izgledao prirodni „institucionalni dom“ za ekspertizu transformativnog predviđanja VI i „najvažnijeg veka“. Ali mislim da je fer reći da danas ne postoje velike, snažne institucije posvećene ovoj vrsti pitanja.

Kako da postupamo u odsustvu čvrstog konsenzusa stručnjaka?

Skeptični pogled

U nedostatku čvrstog stručnog konsenzusa, očekujem da će neki (zapravo većina) ljudi biti skeptični bez obzira na argumente koji se iznose.

Evo verzije vrlo opšte skeptične reakcije za koju imam priličnu količinu empatije:

1. Sve ovo je suludo.

2. Preterujete kada tvrdite da živite u najvažnijem veku. Ovaj obrazac odgovara samoobmani.

3. Tvrdili ste da teret dokaza ne bi trebalo da bude tako visok, jer na mnogo načina mi živimo u izuzetnom i nestabilnom vremenu. Ali… nemam poverenja u sebe da dajem sud o tim tvrdnjama, ili vašim tvrdnjama o veštačkoj inteligenciji, ili zaista bilo šta o ovim čudnim temama.

4. Zabrinut sam time što se malo ljudi bavi ovim argumentima. I time koliko se rasprava čini malom, homogenom i izolovanom. Sve u svemu, ovo više liči na priču koju pametni ljudi pričaju sami sebi – sa mnogo grafikona i brojeva da bi to racionalizovali – o svom mestu u istoriji. Ne deluje „stvarno“.

5. Dakle, pozovite me kada postoji zrelo polje od možda par stotina ili hiljada stručnjaka, koji kritikuju i procenjuju jedni druge, i kada postignu istu vrstu konsenzusa koji vidimo za klimatske promene.

Vidim kako bi neko mogao da misli ovako, a i ja sam ponekad tako mislio – posebno u tačkama 1-4. Ali navešću tri razloga zbog kojih tačka broj 5 ne izgleda ispravno.

Razlog 1: nemamo vremena da čekamo čvrst konsenzus stručnjaka

Brinem se da bi se dolazak transformativne VI mogao odigrati kao neka vrsta usporene verzije pandemije COVID-19 sa većim ulozima. Razlog za očekivanje da će se dogoditi nešto veliko postoji, ako pogledate najbolje informacije i analize dostupne danas. Ali situacija je uglavnom nepoznata; ne uklapa se u obrasce kojima se naše institucije redovno bave. I svaka dodatna godina za delanje je vredna.

O tome možete razmišljati i kao o ubrzanoj verziji dinamike sa klimatskim promenama. Zamislite da su emisije gasova sa efektom staklene bašte počele da rastu tek nedavno (5) (umesto sredinom 1800-ih) i da nije bilo uspostavljene oblasti nauke o klimi. Bila bi zaista loša ideja čekati decenijama da se polje pojavi, pre nego što pokušate da smanjite emisije.

Razlog 2: Kaningemov zakon („najbolji način da dobijete tačan odgovor je da objavite pogrešan odgovor“) možda je naša najbolja nada za pronalaženje mane u ovim argumentima

Ali ozbiljno.

Pre nekoliko godina, neke kolege i ja smo sumnjali da bi hipoteza „najvažnijeg veka“ mogla biti tačna. Ali pre nego što smo uradili nešto po tom pitanju, želeli smo da vidimo da li možemo da nađemo fatalne mane u ideji.

Jedan od načina tumačenja naših postupaka u poslednjih nekoliko godina je taj da smo činili sve što smo mogli da naučimo da je hipoteza pogrešna.

Prvo smo pokušali da razgovaramo sa ljudima o ključnim argumentima – istraživačima veštačke inteligencije, ekonomistima, itd. Ali:

• Imali smo nejasne ideje o argumentima u ovom serijalu (uglavnom ili možda u potpunosti preuzete od drugih ljudi). Nismo bili u mogućnosti da ih navedemo sa dobrom oštrinom i specifičnošću.

• Bilo je mnogo ključnih činjeničnih tačaka za koje smo mislili da će verovatno ispasti tačne, (6) ali ih nismo zakucali i nismo mogli da ih priložimo kritici.

• Sve u svemu, nismo mogli čak ni dovoljno da artikulišemo konkretan argument da bismo drugima dali fer šansu da ga obore.

Zato smo uložili mnogo posla u kreiranje tehničkih izveštaja o mnogim ključnim argumentima. (Oni su sada javni i uključeni u tabelu na vrhu ovog dela.) Ovo nas dovodi u poziciju da objavimo argumente i potencijalno naiđemo na fatalne kontraargumente.

Zatim smo unajmili spoljne stručne revizije. (2)

Govoreći samo o mojim stavovima, čini se da je hipoteza „najvažnijeg veka“ preživela sve ovo. Zaista, nakon što sam ispitao mnoge aspekte i ušao više u detalja, verujem u to jače nego ikad.

Ali recimo da je to samo zato što pravi stručnjaci – ljudi koje još nismo pronašli, sa razornim kontraargumentima – smatraju da je cela stvar toliko glupa da se ne trude da se angažuju. Ili, recimo da danas postoje ljudi koji bi jednog dana mogli postati stručnjaci za ove teme i srušiti ove argumente. Šta bismo mogli da uradimo da do ovoga dođe?

Najbolji odgovor do kojeg sam došao je: „Kada bi ova hipoteza postala poznatija, šire prihvaćena i uticajnija, dobila bi više kritičke analize.“ 

Ovaj serijal je pokušaj koraka u tom pravcu – da se krene ka široj verodostojnosti hipoteze „najvažnijeg veka“. Ovo bi bilo dobro da je hipoteza tačna; takođe se čini kao najbolji sledeći korak ako bi moj jedini cilj bio da osporim svoja uverenja i saznam da su ona netačna.

Naravno, ne kažem da prihvatite ili promovišete hipotezu „najvažnijeg veka“ ako vam se ne čini tačnom. Ali mislim da ako je vaša jedina rezerva u vezi sa nedostatkom čvrstog konsenzusa, nastavak ignorisanja situacije izgleda neobično. Kada bi se ljudi uopšteno ponašali na ovaj način (ignorišući bilo koju hipotezu koja nije podržana čvrstim konsenzusom), ne vidim kako bi bilo koja hipoteza – uključujući i one istinite – prešla od marginalnih do prihvaćenih.

Razlog 3: skepticizam ovog generala izgleda kao loša ideja

Kada sam se usredsredio na GiveWell, ljudi bi povremeno rekli nešto u stilu: „Znate, ne možete svaki argument porediti sa standardom prema kojem GiveWell drži svoje vrhunske dobrotvorne organizacije – tražeći nasumično kontrolisana ispitivanja, robusne empirijske podatke, itd. Neke od najboljih prilika da se čini dobro biće one koje su manje očigledne – tako da ovaj standard rizikuje da isključi neke od vaših najvećih potencijalnih mogućnosti da ostvarite učinak.”

Mislim da je ovo tačno. Mislim da je važno proveriti nečiji opšti pristup rasuđivanju i standardima dokazivanja i zapitati se: „Koji su neki scenariji u kojima moj pristup ne uspeva, a u kojima bih zaista voleo da uspe?“ Po mom mišljenju, u redu je biti izložen nekom riziku od samoobmane i izolovanosti, u zamenu za to da uradimo pravu stvar kada je to najvažnije.

Mislim da nedostatak čvrstog stručnog konsenzusa – i zabrinutost oko samoobmane i izolovanosti – daju dobar razlog da se ozbiljno kopa po hipotezi „najvažnijeg veka“, umesto da se ona odmah prihvati. Vredno je pitati gde bi mogla biti neotkrivena mana, tražiti neku pristrasnost prema naduvavanju sopstvenog značaja, istraživati delove argumenta koji su najsumnjiviji, itd.

Ali ako ste istražili stvar onoliko koliko je razumno/praktično za vas – i niste pronašli nedostatak osim razmatranja poput „Ne postoji čvrst konsenzus stručnjaka“ i „Zabrinut sam zbog samoobmane i izolovanosti“ – onda mislim da je otpisivanje ove hipoteze ona vrsta stvari koja u suštini garantuje da nećete biti među prvim ljudima koji će primetiti i reagovati na izuzetno važno pitanje, ako se ukaže prilika. Mislim da je to prevelika žrtva, u smislu odustajanja od potencijalnih prilika da se učini mnogo dobra.