Da li “idemo ka” transformativnoj veštačkoj inteligenciji (i kako bismo to znali?)

Ovo je jedna od 4 objave koje sumiraju stotine stranica tehničkih izveštaja usredsređenih skoro u celosti na prognoziranje jednog broja. Najviše bih cenio dobru procenu sledećeg broja: godine u kojoj će transformativna VI biti razvijena. (1)

Pod transformativnom VI mislim na VI dovoljno moćnu da nas odvede u novu, kvalitativno drukčiju budućnost. Posebno se fokusiram na nešto što zovem PASTA: sisteme VI koji mogu da automatizuju sve ljudske aktivnosti potrebne da se ubrza naučni I tehnološki napredak.

Što bi pre PASTA bila razvijena, to bi pre svet mogao da se radikalno promeni, i čini se tim važnij razmišljati danas o tome kako da ta promena prođe dobro, a ne loše.

U ovoj i sledećoj objavi, govoriću o predviđanju metoda koje potcrtavaju moj pogled: verujem da ima više od 10 posto šanse da ćemo videti nešto nalik na PASTA u dovoljnoj meri da se kvalifikuje kao transformativna VI u narednih 15 godina (do 2036); 50 posto šanse da ćemo to videti u narednih 40 godina (do 2060); I dve trećine šanse da ćemo to videti u ovom veku (o 2100).

Dole ću:

Diskutovati o tome /kojom se vrstom predviđanja bavim/
Nisam siguran da li ćemo osetiti da transformativna VI nailazi dok ne bude došla. Nadam se da ćemo umesto toga moći da koristimo glavne činjenice o svetu (kao što su kapaciteti VI-ja, veličina modela itd) da previdimo kvalitativno nepoznatu budućnost.
Analogija za ovu vrstu predviđanja bila bi nešto kao: Ova voda nema mehuriće, nema naznaka vrenja. Ali temperature je otišla sa 70 stepeni Farenhajta (2) na 150, I ako dođe do 212, voda će se ispuniti mehurićima I provriće. Ili: kao kada predviđamo zatvaranje škola i prezauzetost bolnica, onda kad ih još nema, a na osnovu trendova i prijavljenih infekcija.
Diskutovati o tome da li možemo da tražimo trendove u tome koliko su “impresivni” I “sposobni” VI sistemi. Mislim da je ovaj pristup nepouzdan: a) napredak VI ne mora da “trenduje” na način koji očekujemo; b) u mom iskustvu, različiti istraživači VI imaju radikalno različitu intuiciju o tom koji sistemi su impresivni ili sposobni, i kako napreduju.
Ukratko diskutovati istraživanje Grace i dr. 2017, najbolje postojeće istraživanje o vremenskim linijama transformativne veštačke inteligencije. Njegovi zaključci uglavnom izgledaju u skladu sa mojim sopstvenim predviđanjima, iako postoje znaci da istraživači nisu mnogo razmišljali o pitanjima.

Sledeći deo u ovom serijalu će se fokusirati na ”Prognoziranje transformativne VI metodom bioloških referenci“ Adžeje Kotre (koju ću u nastavku skratiti kao „Bio Reference“), prognozu za koju smatram da je najinformativnija za transformativnu VI.

Na kakvu prognozu ciljam?

Postoji nekoliko načina na koje se predviđanje transformativne VI razlikuje od vrste predviđanja na koju smo možda navikli.

Prvo, predviđam na veoma duge vremenske horizonte (decenijama), za razliku od npr. vremensku prognozu (dani) ili prognozu za izbore (meseci). Ovo čini zadatak nešto težim, (3) i čini procenu težom autsajderima budući da ja nemam relevantnu evidenciju o predviđanjima na slične teme.

Drugo, nedostaju mi bogati, jasno relevantni izvori podataka i ne mogu da se osvrnem na gomilu sličnih predviđanja iz prošlosti. Izborne prognoze kompanije FiveThirtyEight gledaju stotine anketa i imaju model toga koliko su ankete dobro predviđale izbore u prošlosti. Predviđanje transformativne veštačke inteligencije treba više da se oslanja na intuiciju, nagađanje i rasuđivanje, u smislu određivanja koji podaci su najrelevantniji i koliko su relevantni.

Konačno, pokušavam da predvidim kvalitativno nepoznatu budućnost. Transformativna VI- i čudna budućnost sa kojom dolazi – ne izgleda kao nešto ka čemu “trendujemo” iz godine u godinu.

Da sam pokušavao da predvidim kada će svetska populacija dostići 10 milijardi, mogao bih jednostavno ekstrapolirati postojeće trendove svetske populacije. Poznato je da sama svetska populacija raste i može se direktno proceniti. Po mom mišljenju, ekstrapolacija dugotrajnog trenda je jedan od boljih načina da se napravi prognoza.
Kada FiveThirtyEight pravi izborne prognoze, postoji podrazumevanje da će na određeni datum biti održani izbori, a ko god pobedi stupiće na dužnost drugog datuma. Svi prihvatamo taj osnovni okvir i postoji opšte razumevanje da bolje anketiranje znači i veće šanse za pobedu.
Nasuprot tome, transformativna veštačka inteligencija – i čudna budućnost sa kojom dolazi – nisu nešto ka čemu se krećemo na bilo koji jasno merljiv način. Ne postoji jasno merenje „transformativnosti VI“ ili „čudnosti sveta“, koji se redovno povećavaju svake godine, tako da možemo da to projektujemo budućnost i dobijemo datum kada će se razviti nešto poput PASTA.

Možda, za neke, ove tačke daju dovoljno razloga da ignorišu čitavu mogućnost transformativne VI ili pretpostave da je ona veoma daleko. Ali mislim da ovo nije dobra ideja, iz nekoliko razloga.

Prvo, imam pozadinsko gledište da je nešto poput PASTA-e u izvesnom smislu „neizbežno“, pod pretpostavkom kontinuiranog napretka u društvu i računarstvu. Osnovna intuicija ovde – koju bih mogao da proširim ako postoji interesovanje – jeste da su ljudski mozgovi brojni i čini se da im nisu potrebni posebni retki materijali da bi se proizvodili, tako da bi u nekom trenutku trebalo da bude moguće sintetički replicirati ključne delove njihove funkcionalnosti. (4)

U isto vreme, nisam siguran da će se PASTA kvalitativno osećati kao da je „na putu“ mnogo pre nego što stigne. (Više o ovome u nastavku.) Tako da sam sklon da tražim načine da procenim kada možemo da očekujemo ovaj razvoj, uprkos izazovima, i uprkos činjenici da se danas ne oseća kao da je „iza ugla”.

Mislim da postoji mnogo primera slučajeva u kojima se kvalitativno nepoznata budućnost može unapred sagledati iscrtavanjem trenda u nekim osnovnim, povezanim činjenicama o svetu. Nekoliko takvih koje mi padaju na pamet:

Kada se COVID-19 prvi put pojavio, mnogi ljudi su imali problema da ga shvate ozbiljno jer se nije činilo da smo „trendovali“ ili „krenuli ka“ svetu prepunom bolnica, zatvorenih kancelarija i zatvorenih škola, itd. U to vreme (recimo, januar 2020.) postojao je relativno mali broj slučajeva, još manji broj smrtnih slučajeva i nije bilo kvalitativnog osećaja globalne vanredne situacije. Jedina stvar koja je bila alarmantna u vezi sa COVID-19, na početku jeste to što je broj slučajeva rastao brzom eksponencijalnom brzinom (iako je ukupan broj slučajeva i dalje bio mali). Ali bilo je moguće ekstrapolirati od brzog rasta u slučaju brojanja na rizik od globalne vanredne situacije, a neki ljudi jesu. (A neki nisu.)

Klimatolozi predviđaju značajan globalni porast temperature više od onoga što smo videli u poslednjih nekoliko decenija, I to bi moglo da ima velike posledice daleko od onoga što vidimo danas. Oni to rade predviđanjem trendova u emisiji gasova staklene bašte i “ekstrapolacijom” odatle na temperaturu i posledice. Ako ste jednostavno pokušali da pitate „Koliko brzo raste temperatura?“ ili „Da li se uragani pogoršavaju?“, i na tome zasnivali sva svoja predviđanja budućnosti, verovatno ne biste predvideli iste vrste ekstremnih događaja oko 2100. godine. (5)

Da damo dugoročniji primer, možemo predvideti datum do kojeg će sunce izgoreti i zaključiti da će svet do tog datuma izgledati mnogo drugačije nego sada, iako nema “trenda” da stvari postaju hladnije ili tamnije danas.

Slučajevi Kovid-19 infekcije po SZO. Podaci o zatvaranju radnih mesta dolaze odavde, jednostavno poređani kao 1 za “preporučeno”, 2 “preporučeno za neke”, i 3 “obavezno za sve osim neophodne zaposlene”, sumirano po svim zemljama.

Analogija za ovakvu vrstu predviđanja bila bi nešto poput: „Ova voda ne bubri, i nema znakova da bubri, ali temperatura je otišla sa 70° Farenhajta (6) na 150°, a ako dostigne 212°, voda će provriti.” U idealnom slučaju, mogu da pronađem neke osnovne faktore koji se menjaju dovoljno redovno da ih možemo predvideti (kao što je rast veličine i cene modela VI), a zatim da tvrdim da ako ti faktori dostignu određenu tačku, šanse za transformativnu VI će biti visoke. Ovaj pristup možete zamisliti kao odgovor na pitanje: „Ako mislim da je nešto poput PASTA-e neizbežno, a pokušavam da pogodim tajming za to koristeći nekoliko različitih metoda analize, šta da pretpostavim?“ Možemo odvojeno da pitamo „I da li postoji razlog da ovo nagađanje bude neuverljivo, ili previše ’divlje?’“ – o tome je bilo reči u prethodnom delu ove serije.

Subjektivne ekstrapolacije i “impresivnost VI“

Za drugačiju prezentaciju nekog sličnog sadržaja, pogledajte ovaj odeljak BioReferenci-a. Ako tražimo neke osnovne faktore u svetu koji predviđaju kada transformativna VI dolazi, možda prva stvar koju treba da tražimo su trendovi u tome koliko su „impresivni“ ili „sposobni“ sistemi veštačke inteligencije. Najlakša verzija ovoga bila bi da se svet zatrese tako da:

Jednog dana, po prvi put, sistem veštačke inteligencije uspeo je da dobije prolaznu ocenu na ispitu iz nauke u 4. razredu.

Onda smo videli da je prvi VI položio (a potom i prošao) ispit za 5. razred, zatim ispit za 6. razred, itd.
Zatim smo videli prvu veštačku inteligenciju koja je stekla doktorat, zatim prvu veštačku inteligenciju koja je pisala objavljen rad, itd., sve do prve veštačke inteligencije koja je mogla da uradi naučni rad vredan Nobelove nagrade.

Sve ovo je regularno raspoređeno tokom decenija, tako da smo mogli jasno da vidimo stanje umetnosti kako napreduje od 4. razreda do 5. razreda do 6. razreda, sve do „postdoka“ i dalje. I sve se ovo dešavalo sporo i dovoljno redovno da bismo mogli da počnemo da stavljamo datum „potpune naučne veštačke inteligencije“ nekoliko decenija unapred.

Bilo bi veoma zgodno – skoro da želim da kažem „ljubazno” od sistema veštačke inteligencije da napreduju na ovaj način. Takođe bi bilo „pristojno“ ako bi veštačka inteligencija napredovala na način na koji neki ljudi slučajno zamišljaju: prvo preuzima poslove kao što su „vozač kamiona“ i „radnik na montažnoj liniji“, zatim poslove kao što su „učitelj“ i „IT podrška, “, a zatim poslove kao što su „doktor” i „advokat”, pre nego što napreduje do „naučnika”.

Bilo koja od ovih opcija bi nam dala dosta vremena i solidnu osnovu za projektovanje kada dođe VI za automatizaciju nauke. Nažalost, mislim da ne možemo da računamo na tako nešto.

Čini se da VI napreduje mnogo drugačije od ljudi. Na primer, postojali su nadljudski VI šahisti (7) mnogo pre nego što je postojala veštačka inteligencija koja je mogla pouzdano da razlikuje slike pasa i mačaka. (8)

Jedna od mogućnosti je da će sistemi veštačke inteligencije biti sposobni za najteže intelektualne zadatke koje insekti mogu da urade, zatim za najteže zadatke koje mogu da urade miševi i drugi mali sisari, zatim majmuni, zatim ljudi – efektivno usklađujući sposobnosti sve većeg i većeg mozga. Ako bi se to dogodilo, ne bismo nužno videli mnogo znakova da VI može da se npr. bavi se naukom dok nismo bili veoma blizu. Usklađivanje sa učenikom 4. razreda se možda neće dogoditi do samog kraja.

Druga mogućnost je da će sistemi veštačke inteligencije moći da urade sve što čovek može da uradi u roku od 1 sekunde, zatim sve što čovek može da uradi u roku od 10 sekundi, itd. Ovo takođe može biti prilično zbunjujuća progresija zbog koje nije očigledno kako prognozirati napredak.

U stvari, ako ne bismo već znali kako ljudi imaju tendenciju da sazrevaju, mogli bismo smatrati da je napredak deteta prilično zbunjujući i teško ga je ekstrapolirati. Gledanje kako neko napreduje od rođenja do 8. godine ne bi vam nužno dalo predstavu da je on, recimo, na trećini puta do pokretanja posla, do značajnog originalnog naučnog otkrića, itd. (Čak i ako znate uobičajeni tok ljudskog razvoja, teško je iz posmatranja osmogodišnjaka reći sa kakvim sposobnostima na profesionalnom nivou bi mogli/će završiti u odraslom dobu.)

Sve u svemu, prilično je nejasno kako bi trebalo razmišljati o spektru od „nije impresivno/sposobno“ do „veoma impresivno/sposobno“ za VI. I zaista, prema mom iskustvu, različiti istraživači veštačke inteligencije imaju radikalno različite intuicije o tome koji sistemi su impresivni ili sposobni, i kako napreduju. Često sam imao iskustvo da vidim jednog prijatelja istraživača veštačke inteligencije kako ukazuje na neki novi rezultat i kaže „Ovo je ogromno, kako neko može da ne vidi koliko smo blizu moćne veštačke inteligencije?“ dok drugi kaže „Ovo je mali napredak sa malim značajem.“ (9)

Bilo bi sjajno kada bismo mogli da predvidimo godinu kada će transformativna VI biti razvijena, korišćenjem grafikona poput ovog (od Bio Reference; „TVI“ znači „transformativna VI“):

Ali koliko mogu da kažem, ne postoji način da se definiše y-osa o kojoj se ne bi žestoko raspravljalo između stručnjaka.

Anketiranje stručnjaka

Jedan od načina da se izborite sa ovom neizvesnošću i konfuzijom bio bi anketiranje velikog broja stručnjaka i jednostavno ih pitanje kada očekuju da se razvije transformativna VI. Možemo se nadati da svaki od stručnjaka (ili barem mnogi od njih) radi svoju verziju „ekstrapolacije impresivnosti“ iznad – ili ako ne, da rade nešto drugo što im može pomoći da dobiju razumnu procenu. Uzimanjem proseka mnogih procena, mogli bismo da dobijemo zbir koji odražava „mudrost gomile“. (10)

Mislim da je najbolja verzija ove vežbe Grace i dr. 2017, anketa 352 istraživača veštačke inteligencije koja je uključivala pitanje „kada mašine bez pomoći mogu da izvrše svaki zadatak bolje i jeftinije od ljudskih radnika“ (što bi verovatno uključivalo zadatke koji unapređuju nauku i tehnološki razvoj, pa bi se stoga kvalifikovao kao PASTA). Dva velika zaključka iz ove ankete, prema Bio Referencama i meni, su:

Verovatnoća od ~20% ove vrste VI do 2036. godine; ~50% verovatnoće do 2060. godine; verovatnoća od ~70% do 2100. Ove se poklapa sa ciframa koje dajem u uvodu.

Mnogo kasnije procene za samo malo drugačije formulisana pitanja (postavljena manjoj grupi ispitanika), što implicira (za mene) da istraživači jednostavno nisu mnogo razmišljali o pitanjima. (11)

Moj zaključak: ovi dokazi su u skladu sa mojim trenutnim verovatnoćama, iako potencijalno nisu baš informativni. Sledeći deo u ovom serijalu biće u potpunosti fokusiran na „Prognoziranje transformativne veštačke inteligencije metodom Bio Referenci“ Adžeje Kotre, metod predviđanja koji ovde smatram najinformativnijim.

1 Naravno, odgovor bi mogao biti i „za zilion godina“ ili „nikad“.

2 Ekvivalenti u stepenima Celzijusovim za ovu rečenicu: 21°, 66°, 100°

3 Beleške o predviđanjima na duže staze pogledati ovde.

4 Pogledajte i ovaj deo za malo detaljnije argumente u ovom pravcu, sa kojim se ne slažem u potpunosti kao što je navedeno (mislim da to ne predstavlja jak argument za transformativnu VI), ali mislim da daje dobar nagoveštaj moje intuicije o načelnoj izvodljivosti. Takođe pogledajte O nemogućnosti velikih mašina za neke implicitne (šaljive) odgovore na mnoge uobičajene argumente zašto je možda nemoguće stvoriti transformativnu VI.

5 Na primer, pogledajte temperaturni grafikon ovde – najniža linija izgleda kao da bi bila razumna projekcija, da je temperatura jedina stvar koju gledate.

6 Ekvivalenti u stepenima Celzijusovim 21°, 66°, 100°.

7 1997.

8 Kaggle “psi protiv mačaka” izazov kreiran je 2013.

9 Iz Bio Referenci: „Čuli smo stručnjake za MU sa relativno kratkim vremenskim rokovima kako tvrde da sistemi veštačke inteligencije danas u suštini mogu da vide isto kao i ljudi, razumeju pisane informacije i pobeđuju ljude u skoro svim strateškim igrama, a skup stvari koje mogu da urade se širi brzo, što ih je navelo da očekuju da će transformativna VI biti dostižna u sledećoj deceniji ili dve obučavanjem većih modela o široj distribuciji problema MU koji su više usmereni na stvaranje ekonomske vrednosti. Nasuprot tome, čuli smo stručnjake za MU sa relativno dugim vremenskim rokovima kako tvrde da sistemi MU zahtevaju mnogo više podataka za učenje nego ljudi, da nisu u stanju da prenesu ono što nauče u jednom kontekstu u nešto drugačiji kontekst i da ne izgledaju sposobni za mnogo strukturirano logičko i kauzalno rezonovanje; ovo ih navodi da veruju da bismo morali da napravimo više velikih otkrića da bismo razvili TVI. Najmanje jedan tehnički savetnik Open Philanthropy je unapredio svaku od ovih perspektiva”.

10 Vikipedija: „Klasični uvid mudrosti gomile… Na seoskom sajmu 1906. u Plimutu, 800 ljudi je učestvovalo u takmičenju u proceni težine zaklanog i obrađenog vola. Statističar Frensis Galton je primetio da je srednja pretpostavka, 1207 funti, odstupa samo 1% u odnosu na pravu težinu od 1198 funti.

11 Bio Reference: Od nekih istraživača je zatraženo da predvide MINČ („HLMI“) kako što je gore definisana [mašinska inteligencija visokog nivoa, za koju bih smatrao da uključuje nešto poput PASTA], dok je od nasumično odabranog podskupa zatraženo da predvidi „potpunu automatizaciju rada“, vreme kada su „sva zanimanja potpuno automatizovana“. Uprkos činjenici da se čini da bi postizanje MINČ-a trebalo brzo da dovede do potpune automatizacije porođaja, srednja procena za potpunu automatizaciju porođaja bila je ~2138, dok je srednja procena za MINČ bila ~2061, skoro 80 godina ranije.

Od nasumičnih podskupova ispitanika zatraženo je da predvide kada će pojedinačne prekretnice (npr. savijanje veša, StarCraft na ljudskom nivou ili matematičko istraživanje na nivou ljudi) biti postignute. Srednja godina do koje su ispitanici očekivali da će mašine biti u stanju da automatizuju istraživanje veštačke inteligencije bila je ~2104, dok je srednja procena za MINČ bila ~2061 – još jedna jasna nedoslednost budući da je „istraživanje VI“ zadatak koji obavljaju ljudski radnici.