Hararijeva nova knjiga, ki svari pred UI, se sooča s kritikami o neizvirnosti

Yuval Noah Harari, eden najbolj znanih zgodovinarjev našega časa, ki je množično slavo doživel s knjigo Sapiens: Kratka zgodovina človeštva, prodano v več kot 25 milijonov izvodih, je v svoji novi knjigi, ki bo uradno izšla 10. septembra, posvaril pred apokalipso umetne inteligence (UI). Pravi, da ta lahko izniči ne samo človeško prevlado na Zemlji, temveč tudi samo zavest.

V svoji najnovejši knjigi Nexus: Kratka zgodovina informacijskih omrežij od kamene dobe do UI izraža dvome o koristnosti tehnoloških prebojev. Harari opozarja, da lahko napačno ravnanje z UI povzroči katastrofalne posledice.

Kljub temu da ga tehnološki velikani, kot so Bill Gates, Mark Zuckerberg in Jeff Bezos, globoko spoštujejo (Gates je pohvalil Sapiens, Zuckerberg ga je promoviral, Bezos pa je med pričanjem pred kongresom imel na svojih knjižnih policah dve Hararijevi knjigi.) in z njim delijo življenjske filozofije, predvsem kar se tiče meditativnih praks in digitalne abstinence, pa Harari ostaja kritičen do tehnološkega napredka.

Harari primerja prihod UI z izumom tiskarskega stroja, ki je v Evropo prinesel knjige, vendar je spodbujal tudi širjenje napačnih in škodljivih informacij, kot je bilo v primeru knjige Heinricha Kramerja Kladivo čarovnic, ki je povzročila množične lovce na čarovnice. Harari trdi, da bi lahko UI povzročila še večjo škodo, saj omogoča natančno in personalizirano manipulacijo informacij.

Poziv k začasni zaustavitvi razvoja UI

Njegova kritika ni omejena le na tehnologijo, temveč tudi na njene ustvarjalce. Harari meni, da UI razvijajo posamezniki in korporacije, ki morda ne razumejo popolnoma posledic svojih dejanj. Podpisal je tudi odprto pismo, ki opozarja na »globoke nevarnosti za družbo in človeštvo«, ki jih predstavlja UI, in poziva k začasni ustavitvi razvoja naprednih sistemov UI.

Čeprav je skeptičen do tehnološkega napredka, ostaja optimističen, da lahko človeštvo najde načine za obvladovanje izzivov. Po njegovem mnenju informacija ni zgolj reprezentacija resničnosti, temveč predvsem povezava med ljudmi in idejami. Ta definicija poudarja, da so informacije orodja za organizacijo družbenega reda in ne nujno zrcalo resničnosti.

FOTO: Aleš Černivec/Delo

Harari trdi, da so miti in birokracija ključni elementi, ki so skozi zgodovino oblikovali družbene strukture. Miti, kot so religiozne zgodbe, so omogočili sodelovanje v velikih skupinah, medtem ko je birokracija, ki temelji na seznamih in pravilih, omogočila vzdrževanje reda. Ta dvojnost med mitom in birokracijo je bila ključna za razvoj človeških družb, saj je omogočila prilagodljivost in stabilnost hkrati.

V političnem kontekstu Harari primerja demokracijo in totalitarizem kot različne vrste informacijskih omrežij. Demokracija temelji na decentraliziranem pretoku informacij in priznavanju napak vladarjev, medtem ko totalitarizem stremi k centralizaciji informacij in neomajni avtoriteti. Digitalni mediji danes močno vplivajo na politične sisteme, saj omogočajo hitrejši in širši pretok informacij, kar lahko vodi do večje transparentnosti, a tudi do manipulacij in nadzora.

Harari v svoji kritiki opozarja na algoritmično pristranskost, ki lahko vodi do nepravičnih odločitev, spletna radikalizacija pa lahko spodbuja ekstremizem. Razčlenjuje tudi nevarnosti kibernetskih napadov in posledice vseprisotnega nadzora. V tej luči meni, da UI ne prinaša le novih tehnologij, temveč tudi nove oblike nadzora in manipulacije, ki lahko resno ogrozijo demokratične vrednote.

Preveč očitnosti in premalo svežine

Kljub vznemirljivemu branju pa se knjiga še pred izidom sooča s kritikami. Ena izmed glavnih kritik Hararijevih argumentov je njihova očitnost. Na primer, njegova teza, da informacije v demokratičnih družbah krožijo skozi mrežo povezav, medtem ko se v avtoritarnih režimih zbirajo pri diktatorju, je resnična, vendar očitna. To je že dobro znano skozi koncepte, kot so liberalizem ter sistem zavor in ravnovesij. Harari ne prinaša novih vpogledov ali podatkov, ki bi to tezo podkrepili ali jo razširili, recimo navajajo pri Newscientistu.

»Poleg tega knjiga trpi zaradi pomanjkanja novih idej. Harari pogosto ponavlja že znane koncepte brez dodajanja svežih perspektiv. Na primer njegova trditev, da informacije ustvarjajo nove resničnosti, ni nova in je bila že večkrat obravnavana v filozofiji in družbenih vedah. Harari ne ponuja novih načinov za razumevanje ali uporabo te ideje, kar zmanjšuje vrednost njegovega prispevka.«

Knjiga je po navedbah omenjenega medija tudi polna neizvirnih in očitnih trditev. Harari, na primer, trdi, da ljudje ne zaupajo birokracijam, ker jih ne razumejo. »To je sicer res, vendar je to preprosto opazovanje, ki ne ponuja globljega vpogleda ali rešitve problema. Poleg tega Harari krivi pripovedovalce zgodb, ker ne pripovedujejo zgodb o tem, kako birokracije obdelujejo informacije, temveč se osredotočajo na družinske rivalitete. To je nenavadna trditev, saj obstaja veliko zgodb o policiji, odvetnikih in vojski, ki obravnavajo delovanje institucij.«

Harari se tudi zapleta v zmedene koncepte in krožno sklepanje, pravijo in navajajo: »V prvem poglavju knjige postavi tezo, da večina informacij ni poskus predstavljanja resničnosti, temveč ustvarja nove resničnosti. To je sicer zanimiva ideja, vendar Harariju ne uspe jasno razlikovati med različnimi vrstami povezav, ki jih informacije ustvarjajo. Na primer, povezava med Winstonom Churchillom, Harryjem Trumanom in Adolfom Hitlerjem ni enaka kot povezava med ljudmi, ki plešejo na glasbo. Harari te različne vrste povezav meša, kar vodi v zmedo in zmanjšuje jasnost njegovega argumenta.«

»Čeprav Nexus prinaša nekaj zanimivih vpogledov, pa morajo bralci pogosto prebirati banalnosti in očitne trditve. Harari pogosto zmede bralce z nejasnimi koncepti in krožnim sklepanjem, kar zmanjšuje vrednost knjige. Kljub temu pa Nexus ostaja pomemben prispevek k razumevanju, kako informacije oblikujejo naše družbe,« so še zapisali pri omenjeni reviji.