Lahko izbiramo?

Ko so Sama Altmana, izvršnega direktorja podjetja OpenAI, vprašali, kakšna »presenečenja« lahko pričakujemo leta 2024, je izstrelil, da bodo spletni chatboti, kot je chatGPT, naredili »skok naprej, ki ga nihče ne pričakuje«.

Vprašanje je, kam »naprej«.

Od novembra 2022, ko je OpenAI izdal chatGPT, je umetna inteligenca vstopila v kulturni mainstream. Učitelji, pisatelji, umetniki, oblikovalci, novinarji, hollywoodski scenaristi in seveda politiki, vsi so, smo poskušali razumeti, kaj to pomeni za našo prihodnost.

Letos nameravajo tehnološka podjetja sisteme umetne inteligence napolniti s še več podatki, s slikami, zvoki in besedili. Kmalu se bodo sistemi naučili reševati vse bolj zapletene probleme in se tako pripravili na življenje v fizičnem svetu. Podjetja in podjetniki, ki se ukvarjajo z UI, si prizadevajo ustvariti »generativno umetno inteligenco« – stroj, ki bo zmogel vse, kar zmorejo človeški možgani –, vendar je to še vedno težka naloga, piše Ross Anderson za Atlantic. Naj bi nas to potolažilo?

Zakaj bi sploh želeli ustvariti stroj, ki bo presegel človeške možgane, se sprašujem. In če je to stroj, ki ga hranijo z dosežki civilizacije na vseh področjih, od medicine, fizike, literature, glasbe, umetnosti nasploh, zakaj o njem odloča peščica tistih, ki so vanj investirali? Kaj je njihov cilj? Ne bojim se stroja, ki bi ga eden od tehnoloških voditeljev natrpal zgolj s svojim znanjem in svojimi osebnimi podatki. Naj počne z njim, kar želi.

A to, kar se dogaja, je po mojem kraja, največja kraja v zgodovini civilizacije, in nihče me ne bo prepričal, da je za tem human namen, »dobrobit človeštva«.

Mednarodno priznana pisateljska imena so tožila podjetja, ki so njihove romane pretočili v UI - in izgubila tožbo. Podobno se je zgodilo z umetniki. Bo imel več uspeha  New York Times, ki je prejšnji mesec tožil OpenAI in Microsoft zaradi kršitve avtorskih pravic? Guardian je dostop do svojih člankov za UI zablokiral, a je že deležen številnih kritik.

Zakaj bi stroj sploh napolnili z vsemi dosežki civilizacije, z življenjskim delom genialnih umov? Zakaj bi si sploh želeli slik, simfonij ali romanov, ki bi jih proizvajal stroj iz ukradenih umetnin?

Da bi nam olajšal delo, odgovarjajo zagovorniki. Katero delo? Bolj kaže, da bo tudi zato vse več ljudi ostalo brez dela. Bodo pa zato tv-serije, s katerimi se je svet zasvojil med pandemijo, nastajale še hitreje, in to brez pomoči premalo plačanih scenaristov, in vplivneži bodo lahko izdajali knjige po tekočem traku in za to ne bodo potrebovali niti ghost writerja, in umetniki bodo z AI, ki se je pred tem napojil z deli mojstrov, ustvarjali svoje podobe, ne da bi si umazali prste z barvo ... Za koga?

Stavek Irene Štaudohar v članku v prejšnji Sobotni prilogi se mi je zasadil v možgane: »Velike korporacije iz sveta izsesavajo humanizem, kot bi srkale limonado.«

Ne, umetna inteligenca ne bo uničila sveta, nas potolaži Nir Eisikovits, profesor filozofije in direktor Centra za uporabno etiko na Univerzi Massachusetts v Bostonu. »Vendar pa njeno vse bolj nekritično sprejemanje pomeni postopno zmanjševanje nekaterih najpomembnejših človeških sposobnosti. Algoritmi že zmanjšujejo sposobnost ljudi, da bi presojali, uživali v naključnih srečanjih in izpopolnjevali kritično mišljenje.«

Slika, ki jo je ustvarila umetna inteligenca. Lahko ugibamo, s katerim mojstrom se je navdahnila. FOTO: Tehniški muzej Dunaj/Heimat Wien  

Najbolj od vsega me je strah tega, kako bodo ti umetni možgani, ki so dostopni na klik otrokom in mladostnikom na snapchatu, spreminjali njihovo vedenje in čustvovanje. Snapchat je lansko pomlad vsem uporabnikom samodejno odprl klepete z myAI, berem. Kaj s tem myAI počnejo otroci, ne vemo več. Vemo samo to, da si umetna inteligenca lahko izmišljuje dejstva, ki nekomu delujejo resnična, torej »halucinira«. In haluciniranja uči že najmlajše.

Umetna inteligenca ne more presojati, ne more odpuščati, z njeno pomočjo lahko ponarejamo podobe, posnetke in ti se potem razmnožijo na spletu. Z njeno pomočjo lahko tisti, ki jim to koristi, vplivajo na javno mnenje, na volitve, na širjenje predsodkov, sovraštva. Kdo bo ločeval, kaj je res in kaj ne? Kdo bo ločeval, ali je sovražni govor, ki se bo pojavil na spletu, del agentov in botov ali dejanski odsev družbe?

Kako bomo kot družba nadaljevali? Čigava naloga je, da uravnoteži oblikovanje orodij umetne inteligence in odloča o tem, kdaj sisteme uporabiti in kako ublažiti škodo, ki jo lahko naredijo? Kdo bo generacije učil kritičnega mišljenja, oblikovanja misli?

Naomi Klein je v majevski kolumni za Guardian z naslovom Vse mašine ne halucinirajo, njihovi ustvarjalci pa opozarjala prav na vprašanje nadzora. Umetna inteligenca počasi prevzema nadzor nad vsem in hkrati deluje brez nadzora. To je ta paradoks. Je v rokah tistih, ki imajo vprašljive moralne kompase.

Kleinova je nato na omrežju x objavila strašno misel: »Množični poboji so vedno odvisni od tehnologije svojega časa. Smo v dobi UI in rezultat je srhljiva kombinacija nadzora, ki se uporablja za upravičevanje obsežnih območij eksplozij. En sam upornik postane izgovor za zavestno ubijanje več sto ljudi.« Njene besede ne potrebujejo razlage. To gledamo pred našimi očmi.

In potem poslušam govor Delove osebnosti leta 2023, županje Črne na Koroškem Romane Lesjak, ki je spomnila na besede predsednice RS Nataše Pirc Musar iz novoletne poslanice: »Narava ne izbira: človek lahko.« In nato dodala, da verjame, da človek lahko vedno izbere: človečnost, dobroto, solidarnost.«

Tudi jaz upam, da bomo znali izbrati. Za začetek vsaj med tem, kaj je res in kaj ne.