Ovo bi mogao biti najvažniji vek
Hoće li budućnost čovečanstva biti otkačena ili dosadna? Prirodno je misliti da ako pokušavamo da budemo trezveni i odmereni, i da predvidimo šta će se zaista desiti, a ne da vrtimo uzbudljivu priču, veća je verovatnoća da ćemo biti nekako… dosadni.
Ali postoji i dobar razlog da mislimo da je to jednostavno nemoguće. Ideja da postoji dosadna budućnost koja jeu sebi koherentna je iluzija koja proizilazi iz toga što se ti scenariji ne ispituju previše pažljivo.
Barem tako tvrdi Holden Karnofski - osnivač organizacije GiveWell koja ocenjuje dobrotvorne organzacije i fondacije Open Philanthropy - u svom novom serijalu članaka, “Najvažniji vek”.
Radi se o sledećem: tokom prvih 99% ljudske istorije, globalna ekonomija (u početku uglavnom proizvodnja hrane) rasla je veoma sporo: ispod 0,1% godišnje. Ali od industrijske revolucije oko 1800. godine, rast je eksplodirao na preko 2% godišnje.
Nama u 2020. to zvuči savršeno razumno i kao prirodni poredak stvari. Ali Holden ističe da je to bez presedana, kao i da ne može dugo trajati.
Efekat povećanja složenosti znači da bi za održavanje rasta od 2% za samo 10.000 godina — 5% dužine trajanja čovečanstva — bilo potrebno da svaki pojedinačni atom u galaksiji pretvorimo u ekonomiju veličine čitave današnje Zemlje. Nije vrlo verovatno.
Dakle, koje su opcije? Prvo, možda će rast usporiti, a zatim prestati. U tom slučaju, mi danas živimo u jednom minijaturnom delu istorije života tokom kojeg se svet ubrzano menjao usled stalnog tehnološkog napretka, pre nego što je inteligentna civilizacija trajno stagnirala ili čak propala. Kakvo otkačeno vreme za život!
Alternativno, možda će se rast nastaviti hiljadama godina. U tom slučaju, mi smo na samom početku onoga što bi nužno moralo da postane stabilna civilizacija koja se prostire galaksijom i koja, među ostalim inženjerskim dostignućima, koristi energiju celih zvezda. Tada bismo se nalazili među prvim sićušnim delićima od svih kvadriliona inteligentnih bića koja su ikada postojala. Kakvo otkačeno vreme za život!
Zar ne postoji druga opcija u kojoj je budućnost manje izuzetna, a naš trenutni trenutak nije tako poseban?
Iako puna verzija gornjeg argumenta ima niz napomena, kratak odgovor je „ne baš“. Možda smo u kompjuterskoj simulaciji i naš galaktički potencijal je iluzija, mada to nije ništa manje otkačeno. A možda se najuzbudljiviji događaji neće desiti još generacijama. Ali u kosmičkim razmerama, mi bismo i dalje živeli u najneverovatnijem vremenu univerzuma:
Sam Holden nije bio voljan da prihvati ideju da je današnja civilizacija u čudnoj i privilegovanoj poziciji, ali je na kraju zaključio da su „svi mogući pogledi na budućnost čovečanstva otkačeni“.
U celom serijalu, Holden navodi tehnologije koje bi mogle doprineti da ovo postane najvažnija era u istoriji, uključujući kompjuterske sisteme koji automatizuju istraživanja u nauci i tehnologiji, mogućnost stvaranja „digitalnih ljudi“ na računarima ili same transformativne veštačke inteligencije - i kako bi mogli stvoriti svet mnogo otkačeniji od većine naučne fantastike.
A ako jednostavno projektujemo raspoloživu računarsku snagu ili koristimo predviđanja stručnjaka, možemo dokazati da je šansa da se ove tehnologije pojave tokom našeg života iznad 50%.
Sve ove tehnologije donose potencijal za ogromne prednosti i velike nedostatke. Holden se muči da kaže da se ne treba ni radovati ni očajavati zbog okolnosti u kojima se nalazimo. Njegovo osećanje je „čudna mešavina intenziteta, hitnosti, konfuzije i oklevanja“. U budućnosti, ova pitanja zahtevaju trezveno razmišljanje o tome kako želimo da se budućnost odigra i kako bismo kao vrsta mogli da usmeravamo stvari u tom pravcu.
Ako vam ovakve stvari zvuče ludo, Holden razume – prvi deo svoje karijere proveo je fokusiran na jednostavne načine da pomogne ljudima u siromašnim zemljama. Naravno da ovo zvuči čudno.
Ali on misli da je, ako nastavite da nastojite da činite još više dobra, razumno preći od „stalo mi je do svih ljudi — čak i ako žive na drugom kraju sveta“ preko „stalo mi je do svih ljudi — čak i ako još nisu rođeni“ do „Stalo mi je do svih ljudi — čak i ako su digitalni“.
Ako je ova ideja tačna, šta bi to moglo da znači u praktičnom smislu? Još nismo sigurni. Više Holdenovih misli o posledicama možete videti ovde u serijalu.
Jedna od posledica je da naše akcije mogu imati ogromne uloge, zbog čega je još važnije razmisliti o tome na šta da se fokusiramo.
Neki specifični prioriteti koji izgledaju korisni uključuju:
- Istraživanje usklađivanja VI
- Istraživanje globalnih prioriteta da bi nam dalo više strateške jasnoće
- Građenje zajednica koje ovu ideju shvataju ozbiljno (npr. zajednica efektivnog altruizma)
- Povećanje verovatnoće da vlade mogu donositi promišljene odluke zasnovane na vrednostima
Ali pre svega, moramo da shvatimo ovu ideju ozbiljnije i bolje razumemo njene implikacije.
Da biste saznali više, poslušajte naš intervju sa Holdenom:
Pročitajte ceo serijal
Celu seriju možete pročitati ili poslušati na Holdenovom blogu:
- Svi mogući pogledi na budućnost čovečanstva su divlji
- The Duplicator
- Digitalni ljudi bi bili još veća stvar
- Ovo ne može dalje
- Predviđanje transformativne VI, deo 1: kakva VI?
- Predviđanje transformativne VI, deo 2: koji je teret dokazivanja?
- Da li smo „trend ka“ transformativnoj veštačkoj inteligenciji? (Kako bismo znali?)
- Predviđanje transformativne VI: ukratko metoda „bioloških sidra“.
- Vremenski okviri VI: gde stoje argumenti i „stručnjaci“.
- Kako izvući najbolje iz najvažnijeg veka?
- Poziv na budnost
Saznajte više
- Da li živimo u najuticajnijem vremenu u istoriji? od Vil MekAskil-a, sa nekim razlozima da budete skeptični prema tezi
- Naši podkast epizode sa Vilom o moralnom argumentu protiv napuštanja kuće, mogućnosti da smo na istorijskoj prekretnici, i kulturi efektivnog altruizma i šta dugujemo budućnosti
- Nova škola strpljive dugoročnosti
- Predviđanje TVI sa biološkim markerima od Adžeje Kotre
- Podkast: Predviđanje VI sa Katjom Grejs
- Džozef Karlsmit Izveštaj o tome koliko je računarske snage potrebno da bi se dostigao ljudski mozak
- Modeliranje ljudske putanje Dejvida Rudmana
- Može li napredna veštačka inteligencija pokrenuti eksplozivan ekonomski rast? autora Toma Dejvidsona
- Polu-informativni priori u odnosu na vremenske okvire VI Toma Dejvidsona