Dr. Nina Beguš je predavateljica in raziskovalka na kalifornijski univerzi v Berkeleyju. Vodi skupino za umetno humanistiko, v kateri se osredotočajo na presečišče humanistike in umetne inteligence na treh raziskovalnih področjih: kulturni imaginarij in družbena pristranskost, naratologija in ustvarjalnost pisanja ter filozofija znanosti in tehnologije.

Diplomirala je iz primerjalne književnosti in slovenistike na ljubljanski filozofski fakulteti ter magistrirala in doktorirala na Harvardu. Je tudi ustanoviteljica podjetja InterpretAI, ki se ukvarja s svetovanjem in razvojem izdelkov s poudarkom na razumevanju in razlaganju umetne inteligence.

Kaj pravzaprav je umetna humanistika?

Termin sem skovala, ko sem v doktorski disertaciji proučevala umetno inteligenco (UI) skozi oči humanistike, torej z vidika literature, filozofije, etike; proučevala pa sem tudi biotehnologijo, pri kateri se briše meja, kaj je naravno, mehanistično in tehnološko. V disertaciji sem začela prevpraševati koncepte o tehnologiji kot nečem povsem umetnem in o naravi, med njima pa je človek.

Te raziskave nadaljujem tudi v sodelovanju z Nacionalnim laboratorijem Lawrence Berkeley, kjer proučujejo predvsem podnebne spremembe, biogeokemijo, znanosti o Zemlji. Na eni strani je človek samo eden od podsistemov na Zemlji, le del vseh procesov, vendar se zaradi antropocentričnosti človeka pogosto postavlja v središče, kot da je nekakšen vladar nad tehnologijo in naravo. Na drugi strani pa človeka težko izvržemo iz teh raziskav, saj njegova aktivnost pomembno vpliva tako na vreme, rastline, naravo. Poleg tega človek kot znanstvenik ni nevtralen proučevalec sveta, saj naše raziskovanje vodijo implicitne individualne in družbene vrednote ter način razmišljanja. UI omogoča znanosti novo, strojno interpretacijo sveta.

Umetna inteligenca bi lahko korenito spremenila področje medicine

Zakaj je humanistično znanje treba vključevati v tehnološki razvoj?

Ravno tehnologija je odličen pokazatelj, da ne zmoremo dobro premisliti posledic vseh aplikacij, pa tudi da zelo nekritično razmišljamo o tehnoloških produktih. Dober primer so klepetalniki, pri katerih so si razvijalci prizadevali samo za to, da so še bolj personificirani, še bolj človeški. Nihče pa se ni vprašal, kam to vodi. Kaj bo naslednji korak? Ali v družbi res želimo strojne posnemovalce človeka?

Pogosto pa je tudi težava sama komunikacija: kako široki javnosti predstaviti tehnološke izdelke ali pa, na primer, izsledke o podnebnih spremembah. Okoli teh in UI se vrti tudi veliko dezinformacij, strašenja in včasih se raziskovalke in raziskovalci ne znajdejo najbolje, kako dejstva dobro predstaviti.

»Človek kot znanstvenik ni nevtralen proučevalec sveta, saj naše raziskovanje vodijo implicitne individualne in družbene vrednote ter način razmišljanja. UI omogoča znanosti novo, strojno interpretacijo sveta.« FOTO: Jože Suhadolnik  

Na dodiplomskem študiju ste študirali primerjalno književnost. Kako se je nato zgodil preskok v raziskovanje UI?

Res gre za velik preskok. Začel pa se je, ko sem študirala zgodbo na svilni cesti, ki je imela podoben motiv kot Pigmalionov mit. Ta motiv, da bi nečloveško bilo človeško, je mogoče najti skoraj v vsaki mitologiji in folkloristiki. Ravno v tem času so se razširili »počlovečeni« virtualni asistenti, na primer Siri. Začela sem se spraševati, zakaj ima ženski glas, zakaj je personificirana, zakaj imajo klepetalniki neko zgodbo, nekakšno lastno biografijo, da so bolj prepričljivi, zakaj torej oponašajo človeka ... To je bilo pred dobrim desetletjem, ko je postajalo jasno, da bo UI kmalu pomemben del družbe.

Tu lahko potegnemo primerjavo s Shawovo dramo Pigmalion in njegovo Elizo, ki je navdihnila prvi tekstovni klepetalnik Eliza iz leta 1966. Virtualni asistenti, ki imajo tudi glas, se nam lahko predstavijo drugače kot le tekstovni klepetalniki. Iz glasu in govora je mogoče razbrati družbeni sloj, starost, raso, spol. Zanimivo je bilo spremljati, kako so tehnologi uredili, kakšen jezik uporabljajo asistenti in kaj šteje za standardno angleščino ...

Nedavno se je zgodil zanimiv primer, ko je podjetje Sanas vzpostavilo tehnologijo, ki je v realnem času slušatelju na drugi strani telefonske slušalke pretvarjala govor človeka z naglasom v angleščino ameriških belcev. Ustvarjalci tehnologije so to zagovarjali kot pomoč, da so ljudje bolj razumljivi, vendar so se kmalu pojavili očitki o diskriminaciji govorcev z naglasom. Takšnih in podobnih etičnih vprašanj okoli jezika je še zelo veliko.

Katera etična vprašanja vi raziskujete in kakšne so rešitve?

O določenih težavah, ki jih ima UI, se že zelo glasno govori, denimo o pristranskosti, diskriminatornosti, širjenju dezinformacij. Zelo malo pa se razpravlja o virtualnih »bitjih«, ki jih promovirajo in uporabljajo kot psihoterapevte ali pa preprosto kot nadomestke za prijateljske ali ljubezenske odnose. Tu bi lahko nastal velik problem, a tehnologija ostaja brez nadzora in temeljitih raziskav.

Sama poskušam predvsem spremeniti to, da se o etičnih vprašanjih ne pogovarjamo šele na koncu in iščemo obliž za rano, ampak da se ta vprašanja upošteva in raziskuje že od začetka, hkrati z grajenjem samega izdelka in vizije razvoja UI.

Razvoj na tem področju je zelo hiter, zato je pomembno, da smo humanisti prisotni v tehnoloških podjetjih. To se že kaže v regulaciji, na trgu je že tako veliko produktov, podprtih z UI, ki so si med seboj tako različni, da ni mogoče vse urediti le z enim zakonom. Tu so med državami velike razlike: v ZDA to področje ni zelo regulirano, v Evropi se je to dokaj uredilo z aktom o UI, na Kitajskem je regulacija še strožja. Pristopi razvoja UI so različni, problem se bo pojavil predvsem za manjše države, ki morajo uporabljati modele, zgrajene v večjih državah z drugačno kulturo. Model, učen na določenem jezikovnem naboru, seveda nosi s seboj kulturno prtljago in drugačne vrednote. Tako da bo pomembno paziti pri prevodih in implementaciji takšnih modelov v družbo.

Pri UI je zanimivo, da smo jo mi izumili, vendar ne vemo čisto natančno, kako deluje. Odprli smo skrinjico, zdaj pa eksperimentiramo, iščemo, kakšne možnosti in zmožnosti ima. Vprašanje je, kaj bo pokazala prihodnost. Ali bomo še imeli preboj za prebojem kot do nedavnega? Ne vemo, ali bo več podatkov pomagalo, da bodo modeli še boljši, ali bi morali imeti drugačno arhitekturo, ali pa kaj tretjega ... Prav daleč v prihodnost pravzaprav pri UI ne moremo gledati, saj jo sproti odkrivamo.

Alternative ni, prilagoditi se bomo morali svetu z umetno inteligenco

Katere so še vaše raziskave?

V umetni humanistiki raziskujem tudi filozofijo znanosti in tehnologije, pri tem popisujemo zgodovino UI. Predvsem pa poskušam s humanističnim znanjem prispevati k boljšim odločitvam na tehnološkem področju, ki bodo vodile do boljših izdelkov. Zelo pomembno se mi zdi, da ostajamo odgovorni za svoje delo: ne le da raziskavo sklenemo z objavo članka in nato spremljamo, ali bo sledila kakšna sprememba. Sama aktivno sodelujem pri spremembah, saj brez sodelovanja z mnogimi drugimi strokovnjaki na področju UI ne gre. Nobena tehnologija z našega stališča namreč ni nevtralna, vsako lahko uporabimo ali za dobro ali slabo.

Veliko se ukvarjam s tem, kako je UI lahko kreativna, kako lahko računalniško pisanje vpliva na pripovedovanje zgodb in kako seveda zaščititi avtorske pravice, saj UI črpa iz drugih del. Literarne nagrade so zdaj namenjene avtorjem, kaj pa v prihodnje: jih bodo lahko dobili tudi avtorji, ki so si pri pisanju pomagali z UI. Razmisliti moramo o kriterijih, kaj kreativnost sploh je, kaj je inteligenca, kakšen je lahko jezik. Menim, da se bo po eni strani pokazalo, kaj je tisto res človeško, po drugi strani bomo pa tudi določene človeške principe videli v jeziku, logiki in kreativnosti strojev.

Inženirji, naravoslovci, družboslovci, humanisti in umetniki smo vsak na svojem koncu, naše znanje je razdeljeno, ločeni smo po disciplinah in tudi fizično po stavbah. Z raziskavami se trudim v to razdeljenost vnesti sintezo in rušiti ideje, da so to popolnoma ločena področja. V tej preveliki segmentaciji so se izgubili pomembni uvidi.

Kot pravite, jezik prehaja v domeno računalnikov. Jezik je sicer fundamentalno produkt človeka, nekaj, kar nas definira. Kako se bo zdaj to spremenilo?

To je težko vedeti. Je pa izredno zanimivo, kako se računalniki učijo jezika, ker so zadaj povsem različne arhitekture. Arhitektura transformerjev, ki se uporablja za velike jezikovne modele, kot je chatgpt, potrebuje ogromno podatkov, da lahko producira jezik. Noben človeški otrok se na začetku ne nauči jezika iz besedil, ampak izključno iz govorne interakcije.

Zanimivo je proučevati podobnosti in razlike med učenjem računalnikov in ljudi. Obstajajo tudi generativne nasprotniške mreže, ki so znane predvsem po slikah in tudi po govoru. Generativne nasprotniške mreže se delno učijo jezika podobno kot otroci. Tem lahko ponudimo le nekaj besed in usvojijo fonologijo tega jezika ter nato producirajo nove besede ali potencialne besede. Nekaj teh univerzalnih lastnosti učenja, kot ga poznamo ljudje, torej obstaja tudi v računalnikih.

Diplomirala je iz primerjalne književnosti in slovenistike na ljubljanski filozofski fakulteti ter magistrirala in doktorirala na Harvardu. FOTO: Jože Suhadolnik  

Presenetilo nas je, da so se računalniki skozi jezik zmogli naučiti dovolj o jeziku. Zveni nekoliko filozofsko, vendar to pomeni predvsem to, da imajo računalniki dovolj informacij o pravilnem tvorjenju jezika iz jezika samega. Postali so tako dobri, da znajo jezik metaanalizirati, kot bi ga analiziral jezikoslovec. Računalniška disciplina obdelava naravnega jezika je rezultat naših dolgoletnih poskusov, da stroji osvojijo jezik, in v zadnjih letih je to področje zelo napredovalo.

Na drugi strani imamo živali, papige, na primer, so se sposobne naučiti nekaj človeških besed. Antropocentričnost nas ovira pri tem, da bi res spoznali, česa vse so živali sposobne, vendar se to končno spreminja, saj zdaj poskušamo nanje gledati še z drugih vidikov. Na tej točki nam bo gotovo lahko UI pomagala, saj bi iz podatkov lahko izluščila druge informacije, ki jih ljudje morda ne opazimo. Potencial za odkrivanje je res velik, ki pa se ne začne le s tehničnimi zmožnostmi, ampak tudi drugačnim pogledom na svet.

Časi za človekove pravice niso dobri, a ohraniti je treba optimizem

UI lahko prinese veliko dobrega, se pa jo številni tudi bojijo, ker bi UI lahko prevzela njihova delovna mesta, bojijo se potencialne nadvlade. Vprašanje je, ali bo UI kdajkoli lahko čuteča.

Problem je, kako si UI predstavljamo. Inteligentno in avtonomno stvar radi hitro počlovečimo. Zmožnost učenja strojev se je odprla, ampak to ne pomeni, da se bodo učili tako kot mi, ker so to vendarle drugačne entitete. Epistemološko je to res zanimivo. Zanimivo je tudi znanstveno, ker lahko to učenje primerjamo.

S pisatelji sodelujem pri projektu, v katerem pišejo refleksije o tem, kako se je pisanje samo spremenilo zdaj, ko obstaja generativna UI. Ljudje začnemo z opismenjevanjem že zelo majhni: ključno je, da znamo brati in pisati, skozi ti veščini teče učenje. Tudi sam akt pisanja se je v digitalnem svetu zelo spremenil, na primer, kako pogosto še pišemo na roko. Posledično se spreminjajo tudi naši možgani. Dogajajo se drastične spremembe, ki potrebujejo veliko raziskav.

Če bodo jezikovni modeli pomagali pri pisanju šolskih spisov, seminarskih nalog, diplom, novinarskih člankov, ne nazadnje tudi literarnih del, kaj to pomeni za nas, za našo ustvarjalnost, inteligenco?

UI nam seveda lahko pomaga, skrajša nam lahko čas, ki ga porabimo za pisanje določenih povsem tehničnih besedil. Vendar med samim pisanjem razmišljamo, vodimo in organiziramo misli, zato je ta akt pisanja toliko vreden. Človeška izvirnost je v primerjavi z UI povsem neprimerljiva. Bojim se, da bi z uporabo UI vsa besedila lahko postala preveč generalizirana. Paziti bomo morali. Problem je tudi, da pri določenih stvareh nimamo dovolj avtonomije. Slovenski jezikovni modeli bodo odvisni od tujih, pri tem se lahko izgubi slovenska kultura.

Proučevali ste tudi to, kako so tehnološki velikani črpali navdih v znanstvenofantastični literaturi.

Nekatera dela tega žanra, stara že več desetletij, na primer zgodbe Isaaca Asimova, še vedno ozaveščajo bralce, čeprav se je družba od nastanka dela do danes močno spremenila. Fikcija je že sama po sebi zanimiva, še posebej pa se zdijo zanimive študije, kakšno moč ima znanstvena fantastika – bodisi literatura bodisi filmi – v tehnološkem prostoru, kako ga napaja z idejami.

Tehnologijo uporabljajo ne le za kreativnost in dizajn, ampak tudi kot orodje za razlaganje tehnoloških novosti. Dober primer je Jack Clark, soustanovitelj Anthropica, ki piše fiktivne zgodbe, v katerih reflektira zagate določenih tehnoloških izumov.

Fikcija ima več funkcij, ena je ta kulturna, imaginarna funkcija. Pred leti, ko model gpt še ni bil predstavljen, sem opravila raziskavo, v kateri sem sodelujoče zaprosila za pigmalionske zgodbe, torej, človek je ustvaril umetnega človeka. Ugotavljala sem, od kod so črpali navdih. Zgodbo mi je po enakih navodilih kot za ljudi napisal tudi model gpt4 in ugotovila sem, da je črpal iz podobnih virov.

Fikcijska dela torej živijo v kulturi in so vir navdiha tako za ljudi kot za UI modele. Predstavljajo zelo specifično podobo UI, ki ni enaka dejanskim izdelkom, hkrati pa tehnologom pogosto služijo kot vizija, pri kateri pogosto prezrejo globlje implikacije.

Raziskujete tudi neposredno povezavo ljudi in strojev.

Spogledujem se s tem področjem, saj gre za pravo povezavo med UI in nevrotehnologijo. Že zdaj lahko določene bolezni zdravijo z možganskimi vsadki, je pa pomembno vedeti, da so se nekateri pacienti po prejemu vsadka počutili odtujene od samih sebe, kot da niso več povsem avtonomni, saj je pri nekaterih vsadek vplival na razpoloženje in odločitve, v najhujših primerih jim je močno spremenil značaj. Nekateri so po nekaj letih uporabe še vedno rekli, da se počutijo kot roboti. Vendar je v tem primeru šlo za zdravljenje bolezni, pri katerih se tehta v dobro pacienta. Vprašanje je, kaj bodo prinesli različni vmesniki za zdrave ljudi, ki jih obljubljajo nekatera futuristična podjetja. Področje se razvija počasi, ker je zelo zahtevno, saj naša telesa zavračajo strojno opremo in se hitro lahko pojavi infekcija, vendar je te etične probleme treba reševati že zdaj.

»Razvoj je zelo hiter, zato je pomembno, da smo humanisti prisotni v tehnoloških podjetjih.« FOTO: Jože Suhadolnik  

Na katerem področju menite, da bo UI prinesla največje spremembe?

Morda še najbolj spremljam izobraževanje, ker sem sama vključena vanj. Že zdaj imamo učitelji probleme, ko ne vemo, koliko so si študenti pri pisanju esejev pomagali z UI. Vendar sama UI vidim tudi kot veliko pomoč pri študiju, saj je lahko UI nekakšen osebni tutor. V izobraževanju bo vsekakor veliko spremenila.

Zavedati se je treba, da obstaja več različnih tipov umetne inteligence, še zdaleč ne gre le za chatgpt in podobne jezikovne modele. Generativna UI je sicer upravičeno v ospredju, treba pa jo bo uokviriti. Določena škoda je že narejena, na primer glede avtorskih pravic in uporabe podatkov za treniranje jezikovnih modelov, in zdaj moramo ugotoviti, kako bolj premišljeno in etično delati v prihodnje. Menim, da bi UI lahko zelo pomagala v medicini in farmaciji, a le, če jo bomo znali pravilno uporabljati. To pa ne more in ne sme ostati samo v rokah tehnologov.

Živite in delate v sami srčiki tega področja, v Silicijevi dolini v Kaliforniji.

Če se hočeš poglobiti v to področje, je res dobro, da si tam. Vpliv Silicijeve doline na ves svet je zgodba o uspehu Kalifornije. Povezave med univerzami in industrijo so kar močne, sploh ker je UI zadnje čase prevzelo področje industrije, ki nato prihaja v akademsko okolje. Berkeley je tudi zgodba o uspehu: je najboljša javna univerza v ZDA, uspešno konkurira manjšim zasebnim univerzam, ki imajo veliko več sredstev, čeprav izšolajo precej manj študentov.

Kalifornija je sicer prijetna z oceanom in mediteranskim podnebjem, če pa si zaželiš snega, se zapelješ štiri ure v notranjost do Sierra Nevade. Tudi tam so mesta natrpana, življenjski slog je hiter, a morda za malenkost vseeno bolj ležeren kot na vzhodni obali. Kulturno je precej drugačno življenje kot v Evropi; priznam, da sem doživela večji kulturni šok po selitvi iz Massachusettsa na zahodno obalo ZDA kot pri selitvi iz Slovenije na vzhodno obalo ZDA.