Miriši li vam sve ovo na novi totalitarizam? Meni da…

Veteran američke diplomacije, stari lisac Henry Kissinger jedan je od onih koji je na vrijeme prepoznao važnost umjetne inteligencije za moderno ratovanje, ali i za sve aspekte ljudskoga djelovanja. Pred dvije godine tako je zajedno s Ericom Schmidtom i Danielom Huttenlocherom napisao knjigu "The Age of AI: And Our Human Future". 

U uvodu knjige autori podsjećaju da je čovječanstvo tijekom svoje povijesti iskusilo niz tehnoloških promjena, no tehnologija je rijetko suštinski transformirala društvenu i političku strukturu naših društava. Češće se događalo da postojeći okviri, kroz koje određujemo naš društveni svijet, prihvaćaju i apsorbiraju novu tehnologiju, razvijajući se i inovirajući unutar već prepoznatljivih kategorija. Automobil je, primjerice, zamijenio konja bez prisiljavanja na potpunu promjenu društvene strukture. S druge strane, ističu autori, umjetna inteligencija obećava da će transformirati sva područja ljudskog iskustva, a jezgra njegovih transformacija će se na kraju dogoditi na filozofskoj razini, pri čemu će se transformirati način na koji ljudi razumiju stvarnost, kao i našu ulogu u njoj.

U sadašnjem trenutku, djelomični kraj pretpostavljene superiornosti ljudskog razuma, zajedno s proliferacijom strojeva koji mogu parirati ili čak prevladati ljudsku inteligenciju, obećava transformacije potencijalno dublje i od onih iz Prosvjetiteljstva, smatraju autori.

"Čak i ako napredak u umjetnoj inteligenciji ne proizvede opću umjetnu inteligenciju (AGI, Artificial General Intelligence) – tj. softver koji je sposoban za obavljanje bilo kojeg intelektualnog zadatka na razini čovjeka, kao i sposobnost povezati zadatke i koncepte iz različitih disciplina - pojava umjetne inteligencije će promijeniti koncept stvarnosti kakvo čovječanstvo ima, pa samim tim i samo sebe. Napredujemo prema velikim dostignućima, ali ta dostignuća trebala bi potaknuti filozofsko razmišljanje. Četiri stoljeća nakon što je Descartes objavio svoju maksimu, postavlja se pitanje: ako umjetna inteligencija 'misli' ili se približava razmišljanju, tko smo onda mi?".

Promjene u vojnom-obrambenom području

Umjetna inteligencija, prognoziraju autori, stvorit će svijet u kojemu se odluke donose na tri osnovna načina: preko ljudi (što nam je poznato), zatim putem strojeva (što nam postaje poznato) i suradnjom između ljudi i strojeva (što ne samo da je nepoznato, već je i bez presedana).

Kissinger, Schmidto i Danielo Huttenlocher posebno se osvrću na vojno-obrambeno područje gdje će se zapovjednici suočiti s dubokim promjenama. Kad više vojski usvoji strategije i taktike oblikovane od strojeva koje percipiraju obrasce koje ljudski vojnici i stratezi ne mogu, promijenit će se ravnoteža moći, koju će biti potencijalno teže postići. Ako su takvi strojevi ovlašteni uključiti se u autonomne odluke o ciljanju, tradicionalni koncepti obrane i odvraćanja – i zakoni rata u cjelini – mogu se pogoršati ili, u najmanju ruku, zahtijevati prilagođavanje.

U takvim slučajevima pojavit se nove podjele, kako između društava, tako i unutar društava. Podjele će se dogoditi između onih koji usvajaju novu tehnologiju i onih koji od nje odustaju, ili nemaju sredstva razviti ju ili nabaviti neke od njenih aplikacija. Kad različite grupe ili države usvoje različite koncepte za primjenu umjetne inteligencije, njihova iskustva stvarnosti mogu se početi razlikovati na načine koje je teško predvidjeti ili premostiti.

Mnogi kritičari tzv. u transhumanizmu vide distopijsku ideju prema kojoj će u budućnosti postojati superelite i njihovi robovi. Predsjednik Svjetskoga ekonomskog foruma Klaus Schwab izjavio je da će četvrta industrijska revolucija dovesti do spajanja našeg fizičkog, našeg digitalnog i našeg biološkog identiteta. U knjizi "Homo deus: kratka povijest sutrašnjice" savjetnik Svjetskoga ekonomskog foruma Yuval Harari bio je još jasniji:

"Na početku dvadeset prvog stoljeća vlak napretka ponovno polazi s kolodvora – i vjerojatno će biti posljednji vlak koji će ikad napustiti postaju zvanu Homo sapiens. Oni koji ga propuste nažalost ne će dobiti novu priliku. Da biste osigurali mjesto u tom vlaku, morate dobro razumjeti tehnologiju dvadeset prvog stoljeća, posebice moć biotehnologije i računalnih algoritama. Te su sile mnogo moćnije od pare i telegrafa i ne će se upotrebljavati samo za proizvodnju hrane, tkanina, vozila i oružja. Glavni proizvodi u dvadeset prvom stoljeću bit će tijela, mozgovi i umovi, a jaz između onih kojih znaju projektirati tijela i mozgove te onih koji to ne znaju bit će mnogo veći od jaza između Dickensonove Britanije i Mahdijeva Sudana. Zapravo će biti veći jaz nego između sapiensa i neandertalaca. U dvadeset prvom stoljeću oni koji se ukrcaju na vlak napretka steći će božanske sposobnosti stvaranja i razaranja, a oni koji će ostati iza suočit će se s izumiranjem".

U odnosu čovjeka i tehnike Nikolaj Berdjajev uočio je ponavljanje prvotne pobune stvora protiv Stvoritelja. Još od Knjige Postanka postoji staro čovjekovo iskušenje: "I vi ćete biti kao bogovi". Oni koji danas zagovaraju "božanske sposobnosti stvaranja i razaranja" zapravo zagovaraju stara ponašanja prvotne pobune. Transhumanizam zadnji je stadij ludila koje proizvode ideologije iz inkubatora kulture smrti. Dok su ranije ideologije zagovarale stvaranje "novoga čovjeka" tranashumanizam želi njegovo prevladavanje, tj. stvaranje nadčovjeka. Miriši li vam sve ovo na novi totalitarizam? Meni da…