Umetna inteligenca ne sme biti zgolj posel. Delovati mora v skupno dobro

Pravna regulacija navadno zamuja, hodi za novimi pojavi, novimi družbenimi odnosi. Kje smo s pravno regulacijo, ko gre za umetno inteligenco (UI)?

Vzporedno tečeta dve globalni tekmi. V prvi tekmujejo korporacije: katera bo najhitreje dala na trg najsposobnejšo tehnologijo. V drugi tekmujejo države in mednarodne organizacije: kateri bo uspelo prvi urediti področje UI.

Zdi se, da na stezi regulacije v tem trenutku vodi Evropska unija. Predsednica evropske komisije Ursula von der Leyen želi, da bi ji še v tem mandatu uspelo sprejeti regulacijo UI. Zdi pa se, da si v zadnjem času mnogi prizadevajo, da s tem ne bi bilo nič.

EU je tradicionalno kar hitra, ko gre za regulacijo novih pojavov.

V tem ne vidim nič slabega.

Tudi jaz ne.

EU, denimo, je vodilna, ko gre za pravila o varstvu zasebnosti. GDPR, splošna uredba o varstvu podatkov, je celostna regulacija. Evropi počasi sledijo tudi v drugih pravnih okoljih. Ko gre za UI, se EU regulacije ni lotila tako velikopotezno kot pri varovanju osebnih podatkov. EU AI Act, torej predlog evropske ureditve o umetni inteligenci, o katerem se zdaj pogajajo, je dejansko le ureditev o varnosti produktov in storitev s področja UI. A če bi evropski komisiji z zakonodajnim postopkom uspelo, bi bila to vendarle prva tovrstna regulacija na svetu. Ne bi bila celostna, a bila bi prva.

EU se je vnaprej odrekla, da bi postavila pravila glede avtonomnega orožja, to je z umetno inteligenco vodenega orožja. To je velik problem. Vojsko si navadno predstavljamo kot obrambno institucijo države. V resnici pa je vojska oziroma oboroževanje odličen vir za finančno napajanje izredno močnih korporacij.

V zadnji fazi je na mizi pogajanj o predlogu evropske ureditve o umetni inteligenci tudi vprašanje transparentnosti. Ta je sicer zelo pomembna, vendar je problematično, da to vprašanje zastavljajo predvsem industrije zabave in založništva ter kolektivne organizacije za upravljanje avtorskih pravic. Ko je bil chatgpt pred enim letom dan na trg v splošno uporabo in se razbohotil vsepovsod, se zdi, da so se zdramili tudi imetniki avtorskih pravic in se začeli zavzemati za svoj kos pogače v tej igri.

Evropska unija je v avtorsko-pravni reformi, ki je potekala v obdobju 2016–2019, že rešila določena vprašanja, povezana tudi z UI. Gre za nove izjeme za podatkovno in besedilno rudarjenje od izključnih avtorskih pravic. Zdi se, da imetniki pravic niso razumeli, za kaj gre.

Se z UI odpirajo vprašanja, ki leta 2019 še niso bila na mizi?

Ne. Vsaj ne glede avtorskih vprašanj treniranja algoritmov na vsebinah. Avtorsko pravo in generativna UI se sicer prepleteta na več stičnih točkah. Glede vprašanja nastajanja generativne UI, ki, kot jaz razumem, nastaja z metodo strojnega učenja, kar pomeni, da računalniški algoritem postaja pametnejši s tem, da sprocesira ogromne količine podatkov. Algoritem torej nima celostnega recepta, kaj naj UI počne, temveč postaja pametnejši z učenjem. Predstavljajte si, da algoritem vstopi v knjižnico in prebere vse knjige. Ko izstopi iz knjižnice, govori jezik, v katerem so knjige napisane.

In podobno kot če v knjižnico vstopi človek in prebere vse knjige, ne uporablja knjig v avtorsko-pravnem smislu, tudi računalniški program počne enako. Vendar se nekateri vseeno sprašujejo, ali počne kaj avtorskopravno relevantnega. Na to vprašanje so zakonodajalci odgovorili na različne načine. Japonci pravijo, da program lahko gre v knjižnico in prebere vse.

Torej je stroj izenačen s študentom, ki požira knjige?

Japonci so že pred petimi leti sprejeli zakonodajo, ki dovoljuje, da se algoritem »trenira« na podatkih in vsebinah. Zakaj Japonci dovolijo, da je to dovoljeno za komercialne in nekomercialne namene? Ker menijo, da je to pot napredka. Mimogrede, le majhen del teh podatkov oziroma vsebin je sploh varovan z avtorskimi pravicami, bistveno več pa je podatkov, navadnih podatkov, osebnih podatkov, skupnih podatkov.

EU se je zadeve lotila drugače. Če se algoritem v knjižnici uči za znanstvenoraziskovalne namene, je zadeva drugačna, kot če se uči za komercialne namene. Vsebine, ki so kupljene za branje, se lahko uporabljajo tudi za znanstvenoraziskovalne namene in tega ni možno prepovedati, rudarjenje pa je dovoljeno tudi na tistem delu svetovnega spleta, ki je odprt. Tako naj bi bilo, slovenski zakonodajalec je v zakonu o avtorskih in sorodnih pravicah ta zadnji del izpustil.

Obstaja dve velesili UI, ZDA in Kitajska. Kakšen je njihov pristop?

V ZDA prevladuje koncept t. i. fair use, utemeljitev, da je uporaba avtorskih del poštena. Gre za pravilo, ki ga je oblikovala sodna praksa. Inženirji so ves čas mislili, da je treniranje mašin dovoljeno na tej podlagi. Vendar zdaj, ko je OpenAI na trg vrgel chatgpt in njemu podobne tehnologije ter razburkal vse pore življenja in seveda še posebej imetnike avtorskih pravic, se zbuja potreba po dodatni regulaciji. Zakonodajalci čutijo, da je treba nekaj narediti.

V ZDA teče več sodnih postopkov, med katerimi se ukvarjajo z vprašanjem, ali gre res za t. i. pošteno rabo. Postopki kažejo, da bo sodstvo najverjetneje pritrdilo trditvi, vendar bo treba izkazati nekaj dodatnih prizadevanj glede preprečevanja posegov. Če pa bi sodišča odločila v prid tožnikom, potem se družbe, ki razvijajo UI, ne bodo mogle več zanašati, da je njihovo početje zakonito. Hipotetično bi lahko avtorsko pravo te družbe spravilo na kolena. In o varstvu osebnih podatkih sploh še nisva začela govoriti.

Glede avtorskih pravic so najbolj glasni Francozi?

Njihove kolektivne organizacije so celo predlagale zakon, da bi morala podjetja, ki gradijo UI, njim plačevati nadomestila.

Sama ocenjujem, da je Evropa v tej regulatorni mineštri, ki jo spremljamo, vzpostavila dober sistem. Podatkovno in besedilno rudarjenje je v kontekstu UI dovoljeno na vsebinah, do katerih se zakonito dostopa ali pa so na odprtem spletu, ko gre za znanost in raziskave. Za komercialne namene pa v Evropi velja, da lahko imetniki pravic prepovedo rudarjenje. Kar manjka, je, da bi evropska komisija bolje pojasnila, kako naj imetniki pravic izločajo vsebine, za katere ne dovolijo, da bi se UI na njih trenirala. Za imetnike pravic je to velika novost, saj je doslej veljalo, da je vse prepovedano, razen če je dovoljeno. Zdaj pa morajo imetniki avtorskih pravic aktivno izraziti voljo, da rabe avtorskega gradiva ne dovolijo.

Skratka, pri avtorskih pravicah se kažejo rešitve. UI pa posega tudi na področje varstva osebnih podatkov. Ali je žetev orjaške količine podatkov, med njimi tudi veliko osebnih podatkov, zakonita? Glede tega vprašanja obstajajo veliko večje razlike med ureditvami po svetu. Lahko pa rečemo, da že obstajajo mehanizmi, s katerimi bi UI spravili na kolena.

Pa to res hočemo?

Upam, da se to ne zgodi. Verjamem, da ta tehnologija prinaša ogromne potencialne koristi. Reši lahko velike probleme, ki pestijo človeštvo. Vendar moramo to najmočnejšo tehnologijo upravljati bolje; treba je izkoristiti potenciale v korist skupnega dobrega in hkrati zmanjševati nevarnosti.

Ključno vprašanje je, ali obstoječi mehanizmi in institucije omogočajo, da bi šel razvoj v smer splošnih koristi za vse.

Ne omogočajo.

Tudi sama mislim, da ne.

Omenili ste EU, ZDA, Francijo. Vprašanja UI presegajo meje teh entitet. EU ali ZDA ali Kitajska so premajhne enote.

Drži.

S problemom bi se torej morala na svetovni ravni ukvarjati povsem nova agencija.

Lastniki tehnologij, ki generirajo veliko bogastvo, so res mogočni. Imajo gromozanski vpliv. Zato se zdi, da so države premajhne in prešibke, da bi lahko same zagotovile ustrezno regulacijo. Sistemi avtorskega prava ali varstva zasebnosti so lahko pravni instrumenti, ki bi te velike korporacije spravili v negotovost. Zavedajo se hipotetične možnosti, da jih obstoječa regulacija avtorskih pravic lahko spravi na kolena. Morebiti bi jih s to hipotetično grožnjo lahko povabili za pogajalsko mizo.

Gre za tehnologijo, ki spreminja vse, kar poznamo. Ta tehnologija lahko prinaša velike koristi, lahko pa je tudi zelo škodljiva. Pa ne govorim samo o tem, da superračunalniki, ki krmilijo umetno inteligenco, porabijo ogromno elektrike in imajo zato negativne vplive na okolje. Zaradi umetne inteligence se bo radikalno spremenil trg dela in mnogi bodo izgubili službe. Si predstavljate industrijsko revolucijo, v kateri delavski razred ne bo imel nobene vloge, ne bo faktor, ki bi imel pogajalsko moč?

Skrbi me tudi zaradi dveh lastnosti, ki ju imamo ljudje. Ena je pohlep. Vedno hočemo več. Druga je bolj zapletena. Gre za utvaro, da se slabe reči, ki se bodo zgodile, ne bodo zgodile meni, temveč bodo udarile nekje daleč – na drugi celini, v drugi državi, v drugem mestu, v drugi četrti, drugi ulici, drugi stolpnici, drugem nadstropju … Ponavljam: nove tehnologije lahko prinesejo neizmerno veliko dobrega. Pričakujemo preboje v farmaciji, medicini, zelo verjetno bo UI lahko pomagala pri reševanju okoljske krize …

… ali veliko slabega …

… če bomo dovolili, da gredo stvari naprej, tako kot gredo zdaj, bo nova tehnologija le še en vzvod za maksimizacijo profita. To pa je nekako tako, kot da bi atomsko bombo razvila zasebna gospodarska družba s ciljem, da maksimizira dobiček. Če maksimizacija družbene koristi ne bo prvi cilj razvoja UI in bo nova tehnologija še naprej prepuščena ozki skupini ljudi, bodo ti ljudje še naprej maksimizirali dobiček in si na skrivaj postavljali bunkerje na oddaljenih varnih lokacijah. Da bodo pripravljeni na Dogodek, ko bo šlo vse k vragu. Za preostanek človeštva in za planet pa jim je malo mar.

To je črni scenarij?

Ja. In vsi si moramo prizadevati, da se ne zgodi. Obstaja še en slab scenarij: da bi se razvoj koristne UI zatrlo zaradi interesov starih industrij. V mislih imam založniško industrijo in industrijo zabave, ki hoče delež od tega, da se UI v enem majhnem delu trenira na teh vsebinah.

Izhodišče bi moralo biti drugačno. V korist človeštva in planeta in zaradi maksimizacije koristi družbe bi morali imeti ti stroji na voljo čim več dobrih podatkov, na katerih bi se učili, da bi postali pametni in zmogljivi. UI potrebujemo, vendar za prave cilje. UI naj ima na voljo najboljše podatke, na katerih se lahko uči. Vendar mora biti potem del nove vrednosti, ki bo ob tem nastala lastnikom teh tehnologij (ali v obliki prihrankov tistih, ki bodo te tehnologije uporabljali), vrnjen družbi. Davki so tak mehanizem prerazporejanja koristi. Že slišim, kako se strelski vod nasprotnikov davkov postavlja v vrsto. Nekaj bo treba storiti.

Ponavljam: ta tehnologija lahko prinese ogromno koristi in bogastva, na drugi strani drugim povzroča veliko škode. Najbolj optimalno bi bilo, da bi za gradnjo dobre tehnologije, ki bi prinašala družbene koristi, vsi dali na voljo kvalitetne podatke, v zameno pa bi bil sklenjen nov družbeni dogovor, kam bi se del tega ogromnega bogastva usmeril.

Kam?

Za globalni univerzalni dohodek. Pa za globalne univerzalne storitve. Ljudje bodo morali imeti zagotovljeno preživetje in možnost izražanja svojega smisla, tudi če ne bodo imeli več dela. Dodatno bi morali zagotoviti bolj demokratični dostop do najzmogljivejših superračunalnikov. Zdaj lahko dela generativno umetno inteligenco le peščica dovolj bogatih, ki imajo dostop.

Pri tem ne smemo pozabiti niti, da danes samo nekaj korporacij na svetu dela čipe, ki so potrebni za izdelavo superračunalnikov. Nekaterih geostrateških napetosti ne moremo razumeti, če ne razumemo, kje proizvajajo čipe.

Še to: vse, kar sva povedala doslej, je debata o UI kot o zelo zmogljivem orodju, ampak zgolj orodju. Kaj pa, če in ko bo to zmogljivo orodje sposobno samostojnega razmišljanja?

Govorite o stroju, ki bi imel zavest?

Da. O razmišljujoči UI. Ker to, kar imamo sedaj, čeprav je včasih videti zelo kunštno, ni rezultat razmišljujočega bitja, ampak »izpljunek« izredno zmogljivega orodja, ki deluje po statističnih principih. Kaj pa, ko bo znala UI samostojno razmišljati?

Pred nekaj časa nas je na Harvardu profesor Lawrence Lessig, oče licenc creative commons in odprtih modelov, šokiral s predavanjem in tezo, da imamo samo še 18, največ 24 mesecev časa, potem pa bo UI sposobna samostojnega razmišljanja. In da moramo v tem času najti rešitve. Lessig je predlagal, da bi morala biti nova tehnologija opremljena s stikali, ki bi omogočala, da se jo ugasne. In zelo poenostavljeno je navrgel, da ker je proizvodnja čipov pod kontrolo Američanov, rešitve ne bi smele biti pretežke: kdor bi hotel dostop do čipov, bi se moral zavezati, da bo spoštoval pravila igre. Predlog je vrgel na mizo pred poslušalci, ki se ukvarjamo predvsem s tveganji in prednostmi sedanje UI – in zaključil. Lessig je razprave o regulaciji UI, ki naj zagotovi skrb za človekove pravice, univerzalnost, trajnost, vključenost, enostavno preskočil. Problem je zvedel na to, da potrebujemo stikalo. In šokiral.

Vendar to mora biti dovolj, da se predramimo. Če razvoj nove tehnologije prepustimo ljudem, ki jih zanima zgolj maksimizacija dobička, nas ne čaka dobra prihodnost. Ne bi smeli dovoliti, da zmagajo samo ozki interesi. To so preveliki izzivi. Potrebujemo dober družbeni dogovor vseh.

Pri jedrski energiji je trajalo 12 let, da je bila ustanovljena Mednarodna agencija za jedrsko varnost. Bombi sta na Japonsko padli avgusta 1945, agencija posluje od leta 1957. Najbrž nimamo 12 let časa.

Absolutno ne. Hkrati jedrska tehnologija ni bila v rokah gospodarskih družb, temveč v rokah držav. Leta 1957 so jedrsko orožje že imele vse velike sile. Prevladala je ocena, da bi bila jedrska vojna katastrofa. Zato so države sprejele pravila igre. Zdaj za mizo ne sedijo države. Na odru so korporacije.

Države so bolj racionalni akterji?

Ne glede na vse slabosti je temeljno vodilo držav skupno dobro vseh njenih državljanov.

V zadnjih treh tednih je tehnološki svet pretresla odstavitev Sama Altmana, glavnega izvršnega direktorja družbe OpenAI. Sledile so grožnja zaposlenih, da bodo dali odpoved, menjava upravnega odbora družbe in triumfalna Altmanova vrnitev. To je družba, ki je razvila chatgpt. Imajo dogodki v OpenAI karkoli skupnega s povedanim? Gre za simptome dilem, ki so na mizi?

Družba OpenAI je skušala vzbujati vtis, da ji ne gre zgolj za dobiček. Imeli so profitni in neprofitni del družbe. Pomembna osebnost iz ozadja je Geoffrey Hinton – dedek umetne inteligence. Hinton je bil mentor glavnega znanstvenika OpenAI Ilye Sutskeverja. V njem vidim dedka, ki verjame v skupno dobro tehnologije in opozarja na nevarnosti. Nekateri ga imajo za komunista. Nekoliko spominja na Oppenheimerja, očeta atomske bombe. Zaveda se tveganj novih tehnologij. Zaradi njegovega vpliva na stari upravni odbor družba OpenAI ni bila povsem navadna korporacija. Tlelo je upanje, da OpenAI tehnologijo razvija v dobro človeštva. Rošade, ki so se dogajale zadnje tedne, kažejo na odmik od tega upanja. Največ nam pove sestava novega upravnega odbora. V njem sedijo ljudje, ki obvladajo biznis.

Torej še več biznisa, več usmerjenosti k dobičku?

Stari upravni odbor je Altmana odstavil, ker njegova poročila menda niso bila popolnoma iskrena. V delih omrežja X so biznis ljudje staremu upravnemu odboru očitali, da nima pojma o poslu. Novi upravni odbor slavijo. V njem so ljudje, ki znajo maksimizirati dobiček. V OpenAI je zmagal kapital.

Torej je Altmanova vrnitev slaba novica?

Je odlična novica za vlagatelje. Je pa to slaba novica za skupno dobro. Le kaj si misli Geoffrey Hinton, oče tehnologije nevronskih mrež?

Na ljubljanski pravni fakulteti ste organizirali šolo generativne umetne inteligence. Zakaj?

Gre za vprašanja, ki so pomembna za ves svet. Častna pokroviteljica dogodka je predsednica Nataša Pirc Musar. Menim, da morajo v razpravah sodelovati različni strokovnjaki. Po svetu sodelujem v diskusijah, ki so izjemno spoštljive. Tu praviloma ni tako. Nekateri računalničarji si lastijo debato in znajo nakazati drugim, da nič ne vedo. Šola generativne UI, ki jo soorganizirajo moj inštitut, pravna fakulteta in fakulteta za računalništvo, je prvi poskus, ko v istem okviru sodelujejo različne discipline. S sopobudnikom šole Dušanom Omerčevićem sva upala, da se bo prijavilo vsaj 50 poslušalcev. Prijavilo se je 100 študentov in skupno več kot 130 udeležencev. Ni dobro, da fakultete živijo in delujejo v svojih silosih. Interdisciplinarnost je ključnega pomena. Ni res, da so inženirji že vse dorekli, potem pa smo prišli pravniki in drugi in vse zapletli.

Je takšna percepcija značilna za ves svet?

Obratno. Ko se z inženirji pogovarjam v tujini, poslušamo drug drugega in se učimo drug od drugega. Zadnja štiri leta sodelujem pri organizaciji Global Partnership for Artificial Intelligence. Sopredsedujem delovni skupini za upravljanje s podatki. Druga sopredsedujoča je Jeni Tennison, britanska inženirka, doktorica znanosti, prejemnica OBE. Jaz ji rečem mentorica. Zelo dobro razume, da se različne stroke ukvarjamo s skupnim poljem problemov.

Francoski državnik Georges Clemenceau je dejal, da je vojna preresna zadeva, da bi jo prepustili vojakom. Trdite torej, da je umetna inteligenca preresna zadeva, da bi jo prepustili zgolj inženirjem?

Inženirji se najbolje zavedajo, za kako močno orodje gre.

Tako kot je Oppenheimer razumel, kakšna je moč jedrske energije?

Tako je. Inženirji po svetu razumejo, da gre za zelo močno tehnološko orodje, ki prinaša velike spremembe. Zato pa je nujno potrebno tudi sodelovanje drugih strok – ne le pravnikov, tudi drugih. Prevrednotile se bodo vrednote. Spreminja se družba. Gre za nove oblike učenja, razširjanja novic in znanja, gre za delovna mesta. Kopica drugih izzivov je pred nami. Potrebujemo novi družbeni dogovor. Družbenega dogovora ne sklepajo le inženirji ali pravniki. Mnogo širši dialog je potreben. Najbolj narobe je, če ključne odločitve nastajajo v ozki, zaprti sobi, v katero imajo dostop le zelo zelo redki posamezniki.

Prepričanje, da smo s tem, ko smo v preteklosti dorekli načela človekovih pravic ali pa npr. avtorskega prava, odgovorili tudi na prihodnja vprašanja, povezana z UI, je zgrešeno. Kar je dorečeno, ne zadošča. Potrebujemo nov dogovor in povsem nove institucije, ki bodo zagotovile, da bo dogovor udejanjen.

Kdo bo iskal nepridiprava, ki bo skušal UI zlorabiti?

Institucije posameznih držav ne bodo zadoščale. S tem bi se lahko ukvarjale le močne nadnacionalne institucije.

Zdi se, da je velika zunanja nevarnost edini dejavnik, ki lahko prisili človeštvo, da v zvezi z UI sprejme odločitve, ki bi iskale skupno dobro. Okoljska kriza je že ena velika zunanja nevarnost, a ni dovolj močan vzvod za spremembe. Pri UI si moramo vsi prizadevati, da bomo izkoristili njene potenciale in omilili tveganja. Brez izgubljanja časa. ●