Predviđanje transformativne VI: Kakav je teret dokaza?

Ovo je jedan od 4 članka koji sumiraju stotine stranica tehničkih izveštaja koji su skoro u potpunosti fokusirani na predviđanje jednog broja: godine do koje će se razviti transformativna VI. (1)

Pod „transformativnom veštačkom inteligencijom“ mislim na „dovoljno moćnu veštačku inteligenciju da nas uvede u novu, kvalitativno drugačiju budućnost“. Posebno se fokusiram na ono što zovem /PASTA/: Sistemi veštačke inteligencije koji u suštini mogu da automatizuju sve ljudske aktivnosti potrebne za ubrzanje naučnog i tehnološkog napretka.

Što pre se PASTA razvije, pre bi se svet mogao /radikalno/ promeniti, a čini se da je danas važnije razmišljati o tome kako da ta promena prođe dobro umesto naopako.

U budućim člancima, izložiću dve metode za dolaženje do „najbolje pretpostavke“ kada možemo očekivati da se razvije transformativna VI. Ali ću se prvo u ovom tekstu pozabaviti pitanjem: koliko dobre treba da budu ove metode predviđanja da bismo ih shvatili ozbiljno? Drugim rečima, koji je „teret dokaza“ za predviđanje vremenskih rokova transformacije VI? 

Kada neko prognozira transformativnu veštačku inteligenciju u 21. veku – posebno kada su jasne /sve posledice/ koje bi ona donela – uobičajena intuitivna reakcija ide otprilike ovako: „Zaista je neverovatna i čudna tvrdnja da transformativna VI dolazi u ovom veku. Zato se nadam da su vam argumenti zaista dobri.”

Mislim da je ovo vrlo razumna prva reakcija na prognoze o transformativnoj VI (i poklapa se sa mojom sopstvenom prvom reakcijom). Pokušao sam da ispitam šta stoji iza ove reakcije i kako bi ona mogla da se opravda i došao do toga da se ne slažem sa njom.

• Mislim da postoji više razloga da se misli da je transformativna VI – ili nešto jednako važno – donekle verovatno u ovom veku, čak i pre nego što ispitamo detalje istraživanja VI, napredak na polju VI, itd.

• Takođe mislim da bi u višedecenijskim vremenskim okvirima o kojima govorim, generalno trebalo da budemo prilično otvoreni za veoma otkačene, remetilačke, čak i revolucionarne promene. Imajući to u vidu, mislim da specifične i dobro istražene procene o tome kada transformativna VI dolazi mogu biti verodostojne, čak i ako uključuju mnogo nagađanja i nisu čvrste.

Ovaj članak pokušava da objasni moje gledište.

U nastavku ću (a) biti malo konkretniji o tome koje transformativne prognoze VI branim; zatim (b) razmatrati kako da formalizujem „To je previše čudno“ reakciju na takve prognoze; zatim (c) proći kroz svaki od redova ispod, svaki od kojih je drugačiji način formalizovanja ove misli.

“Teret dokaza” pogled

Ključni opširni članci (skraćeni naslovi)

Moji zaključci

Malo je verovatno da bi bilo koji vek bio “najvažniji“. (/Više/)

Istorijska Prekretnica; Odgovor na Istorijsku Prekretnicu

Imamo mnogo razloga da mislimo da je ovaj vek
“poseban“ pre nego što pogledamo detalje o VI. Mnogi su obrađeni u prethodnim člancima; drugi je pokriven u sledećem redu.

Kakva bi bila vaša prognoza vremenskih okvira transformativne VI, samo na osnovu osnovnih informacija o (a) koliko godina ljudi pokušavaju da stvore transformativnu VI; (b) koliko su “uložili“ u to (u smislu broja istraživača veštačke inteligencije i količine proračuna koju koriste); (c) da li su to već uradili (do sada nisu)? (/Više/)

Slabo informisane apriori pretpostavke

Glavne procene: 8% do 2036. godine; 13% do 2060. godine; 20% do 2100. (2) Po mom mišljenju, ovaj izveštaj naglašava da je istorija veštačke inteligencije kratka, ulaganja u veštačku inteligenciju se brzo povećavaju, pa ne bi trebalo da budemo previše iznenađeni ako se transformativna VI uskoro pojavi.

„Kako su ljudi predviđali veštačku inteligenciju… u prošlosti, i da li treba da prilagodimo svoje stavove danas da bismo ispravili obrasce koje možemo primetiti u ranijim predviđanjima? … Susreli smo se sa stavom da je pitanje veštačke inteligencije u prošlosti često bilo sklono preterivanju, i da stoga treba očekivati da će današnje projekcije verovatno biti preoptimistične.” (/Više/)

Eksplozivni Rast, Putanja Čovečanstva

Putanja Čovečanstva projektuje prošlost u budućnost, što implicira eksplozivan rast do 2043-2065.

Eksplozivni Rast zaključuje: „Smatram da ekonomska razmatranja ne pružaju dobar razlog da se odbaci mogućnost razvoja transformativne VI u ovom veku. U stvari, postoji uverljiva ekonomska perspektiva prema kojoj se očekuje da će dovoljno napredni sistemi veštačke inteligencije izazvati eksplozivan rast.

Transparentnosti radi, skrećem pažnju na to da su izveštaji u poslednja tri reda svi analize Open Philanthropy, a ja sam sa-izvršni direktor Open Philanthropy.

Neke grube verovatnoće

Evo nekih stvari u koje verujem o transformativnoj veštačkoj inteligenciji, a koje ću pokušati da branim:

• Mislim da postoji više od 10% šanse da ćemo videti nešto dovoljno nalik PASTA što se može kvalifikovati kao „transformativna veštačka inteligencija“ u narednih 15 godina (do 2036.); ~50% šanse da ćemo to videti u roku od 40 godina (do 2060.); i ~2/3 šanse da ćemo to doživeti u ovom veku (do 2100).

• Pod uslovom gore navedenog, mislim da postoji najmanje 50% šanse da ćemo ubrzo nakon toga videti svet kojim upravljaju /digitalni ljudi/ ili /neusklađena VI/ ili nešto drugo zbog čega bismo mogli reći da smo „prešli u stanje u kojem ljudi kakve poznajemo više nisu glavna sila u svetskim događajima.” (Ovo odgovara tački broj 1 u mojoj definiciji „najvažnijeg veka“ u /sižeu/.)

• I pod uslovom gore navedenog, mislim da postoji najmanje 50% šanse da će ono što bude glavna sila u svetskim događajima moći da stvori /stabilnu galaktičku civilizaciju/ za milijarde godina koje dolaze. (Ovo odgovara tački #2 u mojoj definiciji „najvažnijeg veka“ u sižeu.)

Takođe sam priložio malo više detalja o tome šta ovde podrazumevam pod „najvažnijim vekom“ /ovde/.

Formalizacija „To je previše čudno“ reakcije

Često neko iznosi stav u kojem ne mogu odmah da pronađem konkretnu manu, ali za koji instinktivno mislim da je „previše čudan“ da bi bio verovatan. Na primer, „Moj startap će biti sledeći Gugl“ ili „Koledž će biti zastareo za 10 godina“ ili „Kao predsednik, okupio bih obe strane umesto da budem samo pristrasan“.

Pretpostavljam da se „Ovo je previše čudno“ reakcija na izjave poput ovih obično može formalizovati na sledeći način: „Kakvi god da su vaši argumenti za to da je X verovatno, postoji neki načelni način gledanja na stvari (često previše pojednostavljen, ali relevantan) koji čini da X izgleda malo verovatno.”

Za primere koje sam upravo naveo:

• „Moj startup će biti sledeći Google.” Postoji veliki broj startapa (milioni?), a ogromna većina njih ne završi ni blizu Guglu. (Čak i kada njihovi osnivači misle da hoće!)

• „Koledž će biti zastareo za 10 godina.“ Koledž je bio veoma nezastareo stotinama godina.

• „Kao predsednik, okupio bih obe strane umesto da budem samo pristrasan.” Ovo je uobičajena stvar za buduće američke predsednice da kažu, ali se čini da se partijska privrženost ipak zaoštrava već najmanje nekoliko decenija.

Svaki od ovih slučajeva uspostavlja neku vrstu polazne tačke (ili “prethodnu“ verovatnoću) i “teret dokaza“, a zatim možemo razmotriti dodatne dokaze koji bi mogli da savladaju ovaj teret. To jest, možemo pitati stvari kao što su sledeće: Po čemu se ovaj startap razlikuje od mnogih drugih startapa koji misle da mogu biti sledeći Gugl? Po čemu se naredna decenija razlikuje od svih prethodnih decenija u kojima je koledž ostao važan? Po čemu je ovaj predsednički kandidat drugačiji od prethodnih?

Postoji nekoliko različitih načina da se razmišlja o teretu dokaza za moje /tvrdnje iznad/: brojni načini za dobijanje prethodne („početne tačke“) verovatnoće, koja se zatim može ažurirati daljim dokazima.

Mnogi od njih obuhvataju različite aspekte “To je previše čudno“ intuicije, generišući prethodne verovatnoće zbog kojih (barem u početku) verovatnoće koje sam dao izgledaju neverovatno.

U nastavku ću proći kroz nekoliko ovih „prethodnih verovatnoća“ i ispitati šta one znače za „teret dokaza“ o metodama predviđanja koje ću razmatrati u kasnijim člancima.

Različiti pogledi na teret dokaza

Skepticizam „najvažnijeg veka“

Jedan pogled na teret dokaza ide ovako:

• Holden tvrdi da je šansa 15-30% da je ovo „najvažniji vek“ u nekom smislu. (3)

• Ali ima mnogo vekova, a po definiciji većina njih ne može biti najvažnija. Konkretno:

• Ljudi postoje 50.000 do ~5 miliona godina, u zavisnosti od toga kako definišete „ljude“. (4) To je između 500 i 50.000 vekova.

• Ako pretpostavimo da je naša budućnost duga otprilike koliko i naša prošlost, onda ima 1.000 do 100.000 vekova ukupno.

• Dakle, prethodna (početna) verovatnoća za „najvažniji vek“ je između 1/100.000 i 1/1.000.

• Zapravo je gore od toga: Holden je govorio o /civilizaciji koja traje milijardama godina/. To su desetine miliona vekova, tako da je prethodna verovatnoća „najvažnijeg veka“ manja od 1/10.000.000.

(Da li živimo na istorijskoj raskrsnici? uopšteno argumentuje u skladu sa gore navedenim, iako sa nekim razlikama.) (5)

Čini se da je ovaj argument prilično blizu obuhvatanja mog najvećeg razloga oklevanja oko hipoteze „najvažnijeg veka“ u prošlosti. Međutim, mislim da postoji mnogo pokazatelja da ovo nije prosečan vek, čak i pre nego što razmotrimo konkretne argumente o VI.

Jedna ključna tačka je naglašena u mom ranijem članku, /Svi mogući pogledi na budućnost čovečanstva su otkačeni/. Ako mislite da ljudi (ili naši potomci) imaju milijarde godina ispred nas, onda mislite da smo među najranijim ljudima, što čini mnogo verovatnijim da je naše vreme među najvažnijim. (Ova tačka je takođe naglašena u Razmišljanjima o tome da li živimo u najuticajnijem vremenu u istoriji, kao i komentarima na raniju verziju „Da li živimo na istorijskom raskršću?“).

Pored toga, dok čovečanstvo postoji nekoliko miliona godina, većinu tog vremena imali smo izuzetno nisku populaciju i vrlo malo načina za povećanje tehnološkog napretka. Ljudska civilizacija je počela pre oko 10.000 godina i od tada smo već došli do tačke izgradnje digitalnih programabilnih računara i istraživanja našeg solarnog sistema.

Imajući ove ideje na umu, čini se razumnim da mislimo da ćemo na kraju pokrenuti stabilnu civilizaciju širom galaksije, nekad u narednih 100.000 godina (1000 vekova). Ili da pomislimo da postoji 10% šanse da ćemo to učiniti nekad u narednih 10.000 godina (100 vekova). U svakom slučaju, ovo implicira da određeni vek ima ~1/1000 šanse da bude najvažniji vek za pokretanje te civilizacije – mnogo više od cifara datih ranije u ovom odeljku. Još uvek je ~100 puta manje od brojeva koje sam /naveo gore/, tako da još uvek postoji teret dokaza.

Postoje dodatni razlozi da se smatra da je ovaj vek neobičan. Na primer, pogledajte /Ovako ne može više/:

• Ukupna veličina svetske ekonomije je porasla više u poslednja 2 veka nego u celoj ostatku istorije ukupno.

• Trenutna stopa ekonomskog rasta ne može se održati više od narednih 80 vekova. (I kao što je objašnjeno u nastavku, ako bi se njegov prošli trend ubrzanja nastavio, to bi impliciralo eksplozivan rast i dostizanje granica mogućeg u ovom veku.)

• Moguće je da je nauka napredovala više u poslednjih 5 vekova nego u ostatku istorije zajedno.

Poslednja činjenica koja naše vreme čini posebnim: govorimo o tome kada očekivati transformativnu VI i živimo veoma blizu vremena samih početaka napora u cilju dostizanja VI. Za nešto manje od jednog veka, prošli smo od prvog programabilnog elektronskog računara opšte namene do modela VI koji mogu da se takmiče sa ljudima u prepoznavanju govora, (6) klasifikaciji slika i još mnogo toga.

Više o implikacijama ovoga u sledećem odeljku.

Slabo informisane apriori pretpostavke

Izveštaj o slabo informisanim apriori pretpostavkama (skraćeno u ovom delu kao „slabo informisane apriori pretpostavke“) je opsežan pokušaj predviđanja vremenskih okvira transformativne VI uz korišćenje što manje informacija o specifičnostima VI. Dakle, to je jedan od načina da se pristupi “teretu dokaza“ – to jest, uspostavljanjem apriori (početnog) skupa verovatnoća o tome kada će se transformativna VI razviti, pre nego što pogledamo detaljne dokaze.

Centralne informacije koje koristi su o tome koliko je truda do sada uloženo u razvoj VI. Osnovna ideja:

• Da smo pokušavali i nismo uspeli da razvijemo transformativnu veštačku inteligenciju hiljadama godina, šanse da uspemo u narednim decenijama bile bi male.

• Ali ako smo samo nekoliko decenija do sada pokušavali da razvijemo sisteme veštačke inteligencije, to znači da bi naredne decenije mogle sadržati veliki deo truda koji je ikada uložen. Šanse da razvijemo VI u tom vremenskom periodu nisu tako niske.

• Jedan način razmišljanja o ovome je da pre nego što razmotrimo detalje napretka veštačke inteligencije, trebalo bi da budemo pomalo agnostični u pogledu toga da li je razvoj transformativne veštačke inteligencije relativno „lako“ (može da se uradi za nekoliko decenija) ili „teško“ (potrebno je hiljade godine). Pošto su stvari još uvek sveže, mogućnost da je „lako“ još uvek je otvorena.

Još malo o pristupu i zaključcima izveštaja:

Pristup analizi. Izveštaj postavlja sledeće pitanje (parafrazirano):

„Pretpostavimo da ste otišli u izolaciju onog dana kada su ljudi počeli da ulažu u stvaranje VI sistema. A sada pretpostavimo da ste dobijali godišnje ažurirane informacije o (a) koliko godina ljudi pokušavaju da izgrade transformativnu VI; (b) koliko su ‘uložili’ u to (u smislu vremena i novca); (c) da li su još uspeli (do sada nisu). Šta možete da predvidite o vremenskim okvirima transformativne VI, ako imate samo te informacije, počev od 2021.?“ 

Njegove metode su inspirisane problemom izlaska sunca: „Pretpostavimo da niste znali ništa o univerzumu osim da li je sunce izlazilo svakog dana. Pretpostavimo da je do sada bilo N dana, a sunce je izašlo svaki od tih dana. Kolika je verovatnoća da će sunce izaći sutra?“ Ne morate da znate ništa o astronomiji da biste dobili dobar odgovor na ovo pitanje – postoje jednostavne matematičke metode za procenu verovatnoće da će se X dogoditi sutra, na osnovu činjenice da se X dešavao svaki dan u prošlosti. “Slabo informisane apriori pretpostavke“ proširuju ove matematičke metode kako bi ih prilagodili transformativnim vremenskim okvirima VI. (U ovom slučaju, “X“ je “Neuspeh u razvoju transformativne VI, što je bilo stanje u prošlosti.“)

Zaključci. Neću da ulazim u detalje kako analiza funkcioniše (vidite članak na blogu koji rezimira izveštaj za više detalja), ali zaključci izveštaja uključuju sledeće:

• Smešta verovatnoću opšte veštačke inteligencije (eng. AGI, koja bi uključivala PASTA) do 2036. između 1-18%, sa najboljom pretpostavkom od 8%.

• Smešta verovatnoću AGI do 2060. između 3-25% (najbolja pretpostavka ~13%), a verovatnoću AGI do 2100. na oko 5-35%, najbolja pretpostavka 20%. 

Ove verovatnoće su manje od onih koje sam naveo gore, ali ne mnogo manje. Ovo implicira da teret dokaza nije ogroman kada se unesu dodatne činjenice o specifičnostima ulaganja u veštačku inteligenciju i napretku na tom polju.

Napomene o datumu početka režima. Nešto što je zanimljivo ovde je da je izveštaj manje osetljiv nego što bi se moglo pomisliti na to kako definišemo „datum početka“ za pokušaj razvoja opšte VI. (Pogledajte ovaj odeljak celog izveštaja.) To jest:

• Podrazumevano, „slabo informisane apriori pretpostavke” modeliraju situaciju kao da je čovečanstvo počelo da „pokušava” da izgradi opštu VI 1956. (7) To implicira da su napori stari samo ~65 godina, tako da će naredne decenije predstavljati veliki deo napora.

• Ali izveštaj se takođe bavi i drugim merama „napora da se napravi opšta VI“ – posebno, vreme istraživača i „računanje“ (procesorska moć). Čak i ako želite da kažete da implicitno pokušavamo da izgradimo opštu VI od početka ljudske civilizacije pre ~ 10.000 godina, naredne decenije će sadržati veliki deo istraživačkih napora i proračuna uloženih u pokušaje da to uradimo.

Zaključak o ovom odeljku.

• Povremeno čujem da neko kaže nešto ovako “Decenijama pokušavamo da izgradimo transformativnu veštačku inteligenciju, a još nismo – zašto mislite da će budućnost biti drugačija?“ U najmanju ruku, ovaj izveštaj podržava ono što vidim kao zdravorazumski stav da nekoliko decenija „još nema transformativne veštačke inteligencije, uprkos naporima da se ona izgradi“ ne pruža mnogo da se ospori mogućnost da transformativna VI stigne u sledećih nekoliko decenija.

• U stvari, uopšte uzev, mi živimo izuzetno blizu vremena početaka pokušaja razvoja veštačke inteligencije – još jedan način na koji je naš vek „poseban“, tako da ne bismo trebali biti previše iznenađeni ako se ispostavi da je bio ključan za razvoj VI.

Ekonomski rast

Drugi pristup teretu dokaza ide ovom linijom:

Ako bi se PASTA uskoro razvila i ako bi to imalo posledice navedene u ovom serijalu članaka, ovo bi bila ogromna promena u svetu – a svet se jednostavno ne menja tako brzo. 

Da kvantifikujemo ovo: svetska ekonomija je rasla po nekoliko procenata godišnje u poslednjih 200+ godina, a PASTA bi /podrazumevala/ mnogo bržu stopu rasta, verovatno 100% godišnje ili više.

Kada bismo se kretali ka svetu eksplozivnog ekonomskog rasta , ekonomski rast bi danas trebalo da se ubrzava. To nije slučaj – on stagnira, bar u najrazvijenijim privredama. Ako bi veštačka inteligencija zaista mogla da transformiše sve, najmanje što bi sada mogla da uradi jeste da stvori dovoljno vrednosti – dovoljno novih proizvoda, transakcija i kompanija – da ubrza ukupni ekonomski rast SAD.

VI može dovesti do sjajnih novih tehnologija, ali nema znakova bilo čega toliko značajnog kao što bi bila PASTA. Prelaz od stanja u kojem se nalazimo do stanja u koje bi nas PASTA odvela je vrsta iznenadne promene koja se nije dogodila u prošlosti, a malo je verovatno da će se desiti u budućnosti.

(Ako niste upoznati sa ekonomskim rastom, možda biste želeli da pročitate /moj kratki pregled/ pre nego što nastavite.)

Mislim da je ovo razumna perspektiva, a čini me posebno skeptičnim prema prognozama o vrlo skorom nastanku transformativne VI (2036. i ranije).

Moj glavni odgovor je da slika stabilnog rasta – „svetska ekonomija raste za nekoliko procenata godišnje“ – postaje mnogo komplikovanija kada se povučemo i pogledamo celokupnu ekonomsku istoriju, za razliku od samo poslednjih nekoliko vekova. Iz te perspektive, ekonomski rast se uglavnom ubrzava, (8) a projektovanje ubrzanja unapred moglo bi dovesti do veoma brzog ekonomskog rasta u narednim decenijama.

O tome sam pisao ranije u /Duplikatoru/ i /Ovako ne može dalje/; ovde ću vrlo ukratko rezimirati ključne izveštaje koje sam tamo citirao.

Da li bi napredna veštačka inteligencija mogla da podstakne eksplozivan ekonomski rast? eksplicitno postavlja pitanje: „Koliko je verovatan ’eksplozivni rast’ – definisan kao >30% godišnjeg rasta svetske ekonomije – do 2100. godine?“ Članak razmatra argumente obe strane, uključujući i (a) dug pogled na istoriju koji pokazuje ubrzani rast; kao i (b) činjenicu da je rast bio izuzetno stabilan u poslednjih ~200 godina, što implicira da se nešto možda promenilo.

Zaključuje: „Mogućnosti za dugoročni rast su širom otvorene. I eksplozivni rast, ali i stagnacija su verovatni.”

Modeliranje ljudske putanje postavlja pitanje kakvu budućnost možemo očekivati ako projektujemo postojeće trendove na predstojeću ekonomsku istoriju. Odgovor je eksplozivan rast do 2043-2065 – ne previše daleko od onoga što moje /gore navedene verovatnoće sugerišu/. Ovo za mene znači da bi nedostatak ekonomskog ubrzanja u poslednjih ~200 godina mogao da bude „blip“ – koji će se uskoro rešiti razvojem tehnologije koja nas vraća u povratnu spregu (o kojoj se govori u /Duplikatoru/) koja može da izazove nastavak ubrzanja.

Naravno, postoje i dobri razlozi da se ne pridaje prevelika težina ovome kao projekciji, (9) i ja to predstavljam više kao perspektivu o „teretu dokaza“ nego kao glavnu prognozu kada će PASTA biti razvijena.

Istorija “pomame za VI“

Još jedan pogled na teret dokaza: ponekad čujem ovakve komentare „U prošlosti je bilo preterano entuzijazma za VI, a transformativna VI (10) je stalno ’odmah iza ugla’ ako je verovati ushićenim tehnolozima. Vaše procene su samo najnovije u ovoj tradiciji. Pošto su prethodne procene bile pogrešne, verovatno su i vaše.” 

Međutim, ne mislim da istorija “ushićenja oko VI“ potkrepljuje ovu vrstu tvrdnji. Šta treba da naučimo iz prethodnih predviđanja o veštačkoj inteligenciji? Je pregled istorije veštačke inteligencije u pokušaju da pruži razumevanje toga šta je bio stvarni istorijski obrazac “preteranog ushićenja oko veštačke inteligencije“. 

Njegov rezime daje sledeće utiske (imajte na umu da je „MINČ“ ili „mašinska inteligencija na nivou čoveka“ prilično slična ideja PASTA):

• Čini se da je vrhunac pomame za VI bio od 1956-1973. Ipak, ushićenje koje impliciraju neka od najpoznatijih predviđanja veštačke inteligencije iz ovog perioda je obično preuveličano.

• Posle ~1973, činilo se da je mali broj stručnjaka razmatralo MINČ (ili nešto slično) kao srednjoročnu mogućnost, delom zato što su mnogi stručnjaci naučili iz neuspeha ranijeg preteranog optimizma na terenu.

• Drugi veliki period pomame za VI, ranih 1980-ih, izgleda da se više odnosio na mogućnost komercijalno korisnih, uskonamenskih „ekspertskih sistema“, a ne na MINČ (ili nešto slično)…

• Nisam siguran da li bi me, u to vreme, ubedile savremene kritike ranog optimizma veštačke inteligencije ili bi mi palo na pamet da postavljam prave vrste skeptičnih pitanja. Najsadržajnija kritika tokom ranih godina bila je od Hjuberta Drejfusa, i pretpostavljam da bih je smatrao ubedljivom u to vreme, ali ne mogu da budem siguran u to.

Moj rezime je da nije naročito fer reći da je bilo mnogo talasa odvojenih, preagresivnih predviđanja o transformativnoj VI. Očekivanja su verovatno bila previsoka u periodu 1956-1973, ali mislim da nema mnogo razloga da se danas nameće ogroman „teret dokaza“ na dobro istražene procene.

Drugi pogledi na teret dokaza

Evo nekih drugih mogućih načina da pojmite /“To je previše čudno“/ reakciju:

“Moj cilj je veoma važan“ tvrdnje. Mnogi ljudi – širom sveta danas i kroz istoriju – tvrde ili su tvrdili da je bilo koje pitanje na kome rade izuzetno važno, a često i da bi to moglo da ima globalne ili čak galaktičke posledice. Mora biti da većina njih greši.

Ovde mislim da je ključno pitanje da li je ova tvrdnja podržana boljim argumentima i/ili ljudima od više poverenja od drugih „Moj cilj je veoma važan“ tvrdnji. Ako ste čitajući stigli ovako duboko u hipotezu o „najvažnijem veku“, mislim da se stavljate u dobru poziciju da sami odgovorite na ovo pitanje.

Stručno mišljenje će biti detaljno obrađeno u budućim člancima. Za sada, moj glavni stav je da tvrdnje koje iznosim niti su u suprotnosti sa određenim konsenzusom stručnjaka, niti ih bilo kakav konsenzus podržava. To su, pre, tvrdnje o temama koje jednostavno nemaju ”područje“ čijem proučavanju bi se posvetili stručnjaci. Neki ljudi mogu odlučiti da ignorišu sve tvrdnje koje nisu aktivno podržane čvrstim konsenzusom stručnjaka; ali s obzirom na ulog, mislim da to nije ono što bi trebalo da radimo u ovom slučaju.

(I pored toga, najbolja dostupna anketa istraživača veštačke inteligencije ima zaključke koji se u velikoj meri slažu sa /mojim/, o čemu ću raspravljati u sledećem članku.)

Neobuhvaćene „To je previše čudno“ reakcije. Siguran sam da ovaj članak nije obuhvatio svaku moguću perspektive koja bi mogla biti u osnovi reakcije „To je previše čudno“. (Mada ne zbog nedostatka truda!) Neki ljudi će jednostavno imati nesvodljive intuicije da su tvrdnje u ovom serijalu previše otkačene da bi ih shvatili ozbiljno.

Opšti pogled na ove perspektive. Nešto što me muči u većini pogleda u ovom odeljku je to što izgledaju previše uopšteno. Ako jednostavno odbijete (u nedostatku naročito ubedljivog dokaza) da verujete u bilo koju tvrdnju koja se uklapa u obrazac „moj uzrok je veoma važan“ ili nije već podržana čvrstim konsenzusom stručnjaka, ili jednostavno zvuči čudno, to izgleda kao opasan obrazac rezonovanja. Verovatno će neki ljudi, ponekad, zapravo živeti u najvažnijem veku; trebalo bi da budemo sumnjičavi prema bilo kakvim obrascima rezonovanja koji bi pouzdano naveli (11) ove ljude da zaključe da nisu.