Mislio sam da bi bilo dobro da napišem nekoliko članaka koji pokrivaju najslabije tačke u serijalu /“Najvažniji vek“/, sada kada sam dobio neke reakcije i kritike.
Trenutno mislim da najslabija tačka u serijalu ide otprilike ovako:
-
Istina je da ako bi veštačka inteligencija mogla bukvalno da automatizuje sve što je potrebno da /izazove naučni i tehnološki napredak/, da bi posledice navedene u serijalu (dramatično ubrzanje naučnog i tehnološkog napretka, koje vodi u radikalno nepoznatu budućnost) usledile.
-
Ali šta ako VI može da automatizuje samo 99% onoga što je potrebno za naučni i tehnološki napredak? Šta ako sistemi veštačke inteligencije mogu da predlažu eksperimente, ali ne i da ih vode? Šta ako bi mogli da predlažu eksperimente i da ih sprovode, ali da ne i da dobiju regulatorno odobrenje za njih? U ovom slučaju, verovatno je da bi tih 1% stvari koje veštačka inteligencija ne bi mogla da radi brzo i automatski dovelo do efekta “uskog grla“ napretka, što bi rezultovalo dramatično manjim rastom.
-
Serijal navodi ekspertsko mišljenje o tome kada će se razviti transformativna VI. Tehnički, situacija koju ispitanici predviđaju – “mašine bez pomoći mogu da urade svaki zadatak bolje i jeftinije od ljudskih radnika“ – trebalo bi da bude dovoljna za eksploziju produktivnosti. Ali ispitanici možda zamišljaju malo manje moćuj vrstu veštačke inteligencije nego što se bukvalno podrazumeva u toj izjavi – što bi moglo dovesti do dramatično manjih uticaja. Ili bi mogli zamišljati da čak i VI sa intelektualnom sposobnošću da parira ljudima i dalje možda nema sposobnost da u praksi obavlja ključne zadatke jer joj (na primer) ljudi instinktivno ne veruju. U svakom slučaju, oni (ispitanici u anketi) mogli bi da zamisle nešto skoro jednako sposobno – ali ni približno toliko uticajno – kao tip veštačke inteligencije o kojoj govorim.
-
Štaviše, čak i kada bi veštačka inteligencija mogla da uradi sve što ljudi rade da automatizuju naučni i tehnološki napredak, njen naučni i tehnološki napredak bi možda morao da sačeka rezultate eksperimenata u stvarnom svetu, što bi je moglo u velikoj meri usporiti.
Ukratko: mali jaz u onome što VI može da automatizuje može dovesti do mnogo manjeg uticaja nego što ovaj serijal podrazumeva. Automatizacija „skoro svega“ mogla bi biti veoma različita od automatizacije svega.
Ovo je važan kontekst za pokušaje /predviđanja transformativne VI/, koja zaista predviđaju nešto prilično ekstremno.
Moj odgovor
Mislim da sve gore navedeno i jeste otprilike tačno kako je rečeno: zaista bi nam bili potrebni ekstremni nivoi automatizacije da bismo proizveli posledice koje predviđam. (Možda postoji nekoliko zadataka koje treba da urade ljudi, ali oni bi morali da budu prilično mali i ograničeni kako bi se izbeglo značajno usporavanje stvari zbog efekta uskog grla.)
Takođe je tačno da nisam precizirao kako se takva ekstremna automatizacija može postići – kako se svaka aktivnost potrebna za unapređenje naučnog i tehnološkog napretka (uključujući pokretanje eksperimenata i čekanje da se završe) može obaviti na brz i/ili automatizovan način , a da uska grla izazvana ljudima ili nečim drugim ne usporavaju stvari mnogo.
Uz to, takođe je vredno napomenuti da ekstremni nivoi automatizacije ne moraju da se primenjuju na celu ekonomiju: ekstremna automatizacija za relativno mali skup aktivnosti mogla bi biti dovoljna da se dođe do zaključaka u serijalu.
Na primer, moglo bi biti dovoljno da sistemi veštačke inteligencije razviju sve efikasnije (a) računare; (b) solarne ploče (za energiju); (c) rudarske i proizvodne roboti; (d) svemirske sonde (za pravljenje više računara u svemiru, gde energije i metala ima u izobilju). To bi moglo biti dovoljno (preko /povratne sprege/) za eksplozivan rast raspoložive energije, materijala i računarske snage, a postoji mnogo načina na koje bi takav rast mogao biti transformativan.
Na primer, konkretno, može dovesti do:
-
/Neusklađene VI/ sa pristupom opasnim količinama materijala i energije.
-
/Digitalnih ljudi/, kada bi sistemi veštačke inteligencije takođe imali neki način (a) “virtuelizacije“ neuronauka (putem virtuelnih eksperimenata ili jednostavno dramatično povećanje stope učenja iz eksperimenata iz stvarnog sveta); ili (b) na drugi način imaju uvid u to kako da stvorimo nešto što bismo ispravno smatrali “digitalnim potomcima“.
Suština
Mislim da nisam temeljno (ili, za čitaoce sa jakim početnim skepticizmom po ovom pitanju, ubedljivo) pokazao da napredna veštačka inteligencija može da izazove eksplozivno ubrzanje naučnog i tehnološkog napretka, a da ne udari u uska grla koja zavise od ljudi ili druga “uska grla“. Mislim da sam dobro prikazao intuiciju zašto bi mogla, ali ovo je svakako tema koju nisam gurao koliko sam mogao; Nadam se i očekujem da će neko u nekom trenutku to uraditi.
Mislim da će takvo istraživanje na kraju podržati sliku koju sam dao u /serijalu “najvažniji vek“/. Ovo je delimično zasnovano na gorenavedenom obrazloženju: relativno ograničen opseg onoga što bi trebalo da bude potpuno automatizovano da bi se podržali moji zaključci šire uzev. Takođe je delimično zasnovan na sličnom procesu rezonovanja koji sam koristio u prošlosti da pogodim neke ključne zaključke pre nego što smo uradili sav pešački posao: učestvovanje u puno razgovora i formiranje stavova o tome koliko su razne strane informisane i koliko je smisleno ono što govore. Ali priznajem da ovo nije tako zadovoljavajuće ili pouzdano koliko bi bilo kada bih dao veoma detaljan opis koje precizne aktivnosti mogu da se automatizuju.