Umetna inteligenca zahteva izobraženega in kritičnega uporabnika

Umetna inteligenca je močno orodje in že spreminja tok zgodovine, pravi prof. dr. Sašo Džeroski, vodja Odseka za tehnologije znanja na Inštitutu Jožef Stefan. Področij uporabe je nič koliko, z njo lahko obravnavamo najbolj pereča vprašanja, s katerimi se srečujemo v modernem svetu. Z njo preverjamo ukrepe za blaženje podnebnih sprememb ali oblikujemo nova zdravila. Lahko pa jo zlorabimo. Zato je izobraževanje o uporabi umetne inteligence nujno.

Veliki jezikovni modeli, kot je chatgpt, globoke nevronske mreže, strojno učenje – vse to je umetna inteligenca oziroma je z njo povezano. Kakšna je pravzaprav definicija, kaj je umetna inteligenca (UI)?

Definicij je toliko, kolikor je raziskovalcev (nasmeh). Najbolj poenostavljeno lahko rečemo, da je to programje oziroma informacijska orodja, ki se obnašajo podobno kot ljudje. Seveda so mogoče zelo tehnične definicije, ampak bistvo je v tem, da podobno kot ljudje pri opravilih UI uporablja pridobljeno znanje in inteligenco.

Veliki jezikovni modeli so bili naučeni s strojnim učenjem. Sodijo na področje obravnave naravnega jezika, a to je le eno od področij UI, druga so še predstavitev znanja, načrtovanje, računalniški vid, strojno učenje in še bi lahko našteval. Vsa ta področja se prekrivajo, veliki jezikovni modeli so denimo nekje na presečišču obravnave naravnega jezika in strojnega učenja.

Poznamo različne vrste strojnega učenja, obstajajo metode, ki dajo relativno razumljive modele, za katere vemo, kakšno znanje so izluščili iz podatkov. Na drugi strani chatgpt oziroma veliki jezikovni modeli temeljijo na glomaznih nevronskih mrežah, za katere ni upanja, da bi čisto zares razumeli, kako delujejo, ampak vidimo le končni rezultat. Nevronska mreža za chatgptjem sicer počne nekaj zelo preprostega: napovedati skuša, kakšen tekst bo sledil v nadaljevanju. Zelo preprost primer je, da začnemo stavek Micka je po poklicu … Model bo dokončal, da je znanstvenica, zdravnica, medicinska sestra ali pa manekenka. Vmes med nevronsko mrežo in nami je še agent, ki se na osnovi jezikovnega modela z nami pogovarja.

Ponekod lažje, ponekod težje, ampak vsekakor, UI bo našla pot vsepovsod, pravi sogovornik. FOTO: Jože Suhadolnik  

In si seveda marsikaj tudi izmisli. Kako to preprečiti?

Za odgovor moram poseči nekoliko v zgodovino. Med prvimi pristopi UI so bili v sedemdesetih letih ekspertni sistemi, ki so se na nekem zelo ozkem področju obnašali podobno kot človek. Narejeni so bili na osnovi človeškega znanja in to znanje je bilo zapisano v razumljivi obliki pravil. Pri pripravi sistema so sodelovali inženirji znanja, ki so nabirali znanje z določenega področja in ga spreminjali v obliko, ki je bila računalniku razumljiva. Sistemi so delovali kot strokovnjak na nekem področju, na primer pri zdravstveni diagnostiki. Ekspertni sistem je na podlagi anamneze pacienta povedal, kakšna je diagnoza, in to znal tudi utemeljiti. Za uspešen sistem je bilo poleg znanja iz knjig treba dobiti tudi znanje strokovnjakov, na primer zdravnikov, kar pa se je izkazalo za zahtevno nalogo, saj je reševanje problemov pogosto intuitivno. Tudi strokovnjaki so včasih težko razložili, kako rešujejo probleme, ali pa so se jim kakšna dejstva zdela samoumevna, in to je bila glavna motivacija, da je začelo pridobivati pomen strojno učenje. Kajti to se je iz primerov rešenih nalog lahko naučilo pravil, kako se probleme s konkretnega področja rešuje.

Velika prednost tovrstnega strojnega učenja je, da je mogoče preveriti, ali se je pravil dobro naučilo in ali je kakšno pravilo že v osnovi slabo. Ko se ukvarjamo z razumljivimi oblikami znanja, veliko lažje dosežemo mehanizem kontrole in lažje trdimo, da v rezultatu ne bo škodljivih informacij.

Jezikovni model za chatgptjem je prebral več besedil, kot bi jih lahko katerikoli človek, vendar pri tem ni bilo omejitev, kakšna so ta besedila bila. Cilj je, da ustvari realističen pogovor, a ne nujno pravilen. Rezultati velikih jezikovnih modelov so impresivni, vendar jih je treba sprejemati z dozo realizma in kritičnosti. Če se vrnem k primeru Micka je ... Model lahko še kako hitro postane šovinističen. Prej bo zaključil, da je Micka medicinska sestra, ker izhaja iz besedil, v katerih je bolj verjetno, da je oseba ženskega spola medicinska sestra kot pa zdravnica. To so predsodki, ki so v okolju razširjeni in so v besedilih, ki jih je chatgpt prebral. Chatgpt zato zahteva izobraženega in kritičnega uporabnika. Takšen uporabnik lahko z njim veliko doseže.

Je chatgpt pot do superinteligence

Rešitev je torej v izobraževanju.

Edina možnost je izobraževanje. Napredka se prepovedati ne da. Zelo pomembno je, da uporabniki vedo, kaj so prednosti in kaj slabosti. Še veliko raziskav bo potrebnih na več področjih, ki se ukvarjajo z UI, da bomo dosegli jezikovne modele, ki niso diskriminatorni in nimajo pomanjkljivosti, je na nedavnem predavanju na IJS opozoril prof. dr. Thomas G. Dietterich, pionir v strojnem učenju. Tako je zelo pomembno, da uporabniki kritično sprejemajo informacije, sploh ko bo prišlo do tega, da ne bo popolnoma jasno, da jih je podal jezikovni model. Nedavno sem prebral, da je chatgpt sestavil vodnik za nabiranje gob. Zdaj pa pojdi po gobe in jih nato pojej, če si upaš! To je zelo močno orodje, chatgpt je načitan sogovornik, tudi sam ga uporabljam, toda vseskozi se je treba zavedati nevarnosti, ki jih lahko prinaša.

Kako to tehnologijo regulirati?

Ločiti je treba med uporabo tehnologije in samo tehnologijo. Regulirati je pravzaprav mogoče le uporabo, tehnologija je orodje. Vsekakor je treba prepovedati uporabo denimo za namene manipulacije, kar smo že videli v primeru Cambridge Analytica, ko so podatke zlorabili za manipulacijo volivcev. O tem zdaj teče debata, sam sem član medresorske delovne skupine na ministrstvu za digitalno preobrazbo, ki bo prispevala k uredbi o UI na evropski ravni.

»S tako močnim orodjem lahko delaš dobro ali pa seješ zlo.« FOTO: Jože Suhadolnik   

S kakšno UI se ukvarjate na vašem odseku?

Kot pove ime odseka, Odsek za tehnologije znanja, se ukvarjamo z metodami za UI, ki se osredotočajo na znanje. S strojnim učenjem iz podatkov in obstoječega predznanja pridobivamo novo znanje, ukvarjamo se tudi s podporo odločanju in z jezikovnimi tehnologijami, že leta skrbimo za jezikovne vire in orodja za slovenščino.

UI uporabljamo tudi v praksi: pri razvoju zdravil, pri rešitvah za trajnostno kmetijstvo, pa za evropske vesoljske odprave, od opazovanja Zemlje do upravljanja satelitov. V aplikativnem projektu smo za Evropsko vesoljsko agencijo razvijali programje, ki jim pomaga pri upravljanju satelita Mars Express, pri tem smo vključevali tako veliko strojnega učenja kot drugih računalniških tehnologij.

Katere projekte trenutno izvajate?

Naj omenim dva evropska. Pri enem gre za zaupanja vredno UI, Evropa zelo poudarja človeško podobo UI. Nedavno pa smo začeli projekt na temo UI in trajnostni razvoj. Prednost Instituta Jožef Stefan je, da smo zelo interdisciplinarni, pri nas izvajamo raziskave tako o informacijskih tehnologijah kot v naravoslovnih znanostih. To je odličen poligon za UI, teče denimo vrsta projektov načrtovanja novih materialov, relevantnih za energetiko, od katalizatorjev, ki hitreje razgradijo vodo na kisik in vodik, ki bi ga uporabljali za gorivne celice, do materialov za stene fuzijskih reaktorjev. Interdisciplinarnost je velika prednost, zaradi katere so raziskave še bolj atraktivne.

Umetna inteligenca, ki se osredotoča na znanje. Je ta bolj zanesljiva in manj zmotljiva?

Bolj transparentna. Svoje odločitve zna razložiti. Če poda kakšna priporočila, uporabnik izve, na temelju česa so podana. V medicini je to zelo pomembno.

Meni osebno pa je še posebej ljubo raziskovalno področje uporabe UI za podporo znanosti, za avtomatiziranje določenih vidikov znanosti, da pomaga, da pridemo hitreje do znanstvenih odkritij. To se mi zdi izjemno pomembno. Bojim se, da se večina niti ne zaveda, kako pomembno vlogo igra znanost v današnjem svetu, ko se človeštvo spoprijema z zelo resnimi težavami, od podnebnih sprememb, prehranske in energetske varnosti do groženj za globalno zdravje. Žal človeštvo večine resursov ne namenja reševanju teh problemov, na primer, najbolj pametni računalničarji se ne ukvarjajo s tem, kako zajeziti podnebne spremembe, ampak za nekatere tehnološke gigante iščejo metode, kako nas najbolj zasvojiti, da bomo čim dlje gledali v zaslon pametnega telefona in si pri tem ogledali čim več oglasov.

Z razvijanjem UI za podporo znanosti prispevamo k temu, da lahko obravnavamo najbolj pereča vprašanja. Če želimo avtomatizirati znanost, uporabimo obstoječe znanje, odkritja, dodamo nove podatke in pridobimo novo znanje. Naj navedem konkretne primere. Doktorski študent s fakultete za gradbeništvo in geodezijo je z našimi metodami za odkrivanje enačb iz podatkov preučeval uporabo ustreznejših ukrepov za obvladovanje meteornih voda. V Ljubljani so številni podhodi in podvozi ob močnem deževju pod vodo, s kombinacijami preprostih ukrepov, kot sta več zelenih streh in drugačno tlakovanje, bi padavine lahko drugače odtekale in ne bi bilo toliko pritiska na odtoke. Modeliranje pri takih rešitvah igra zelo veliko vlogo, z modeli lahko ovrednotimo različne ukrepe in izberemo take, ki so prilagojeni spremenjenim vzorcem padavin zaradi podnebnih sprememb.

Metode strojnega učenja so izredno koristne za načrtovanje novih zdravil. S kolegi smo preučevali spojine za zdravljenje tuberkuloze in zdravila za okrevanje po infarktu. V laboratoriju lahko raziskovalci preizkusijo nekaj deset ali sto različnih spojin, kako so učinkovite, s strojnim učenjem pa naučimo modele, ki iz strukture spojin napovedo, ali bi lahko bila spojina učinkovita ali ne. V sodelovanju s tržaškim inštitutom za gensko inženirstvo in biotehnologijo (ICGEB) smo tako odkrili spojino, učinkovito pri okrevanju po infarktu. To je res užitek delati, ko gre za reševanje perečih problemov človeštva.

Pri UI za podporo znanosti je zelo pomembna avtomatizacija izvajanja znanstvenih poskusov. Rezultati se lahko obdelajo s strojnim učenjem in se hitro povzamejo najbolj bistveni poudarki. Tako morda ni treba testirati tisoče spojin, ampak samo najbolj obetavne. Naredimo namreč lahko simulacijo poskusov in testiramo na milijone spojin. S tem se zagotovo povečuje učinkovitost znanstvenoraziskovalnega dela.

Strojno jezikanje ali kdo je napisal članek

Pa je UI na tem področju še vedno le orodje ali že sodelavec?

Mislim, da ni prava pot, da bo UI zamenjala človeka. To je orodje, ki bo človeku pomagalo doseči boljše rezultate. Razvoj bi moral potekati v smeri, da si bodo računalniki in ljudje znali izmenjevati hipoteze in rezultate znanstvenega dela. Treba je delati na tem, da znanje ni predstavljeno le v tekstovni obliki, ampak v oblikah, ki so bližje logiki, računalniškemu jeziku, ta jezik je lahko bolj natančen, v besedah se lahko marsikaj izgubi. Moja vizija je, da bomo v ne tako daljni prihodnosti raziskovalci in avtomatizirani sistemi oziroma računalniki opravljali znanstvenoraziskovalne dejavnosti in si pri tem uspešno izmenjevali podatke in produkte raziskovalnega dela.

Mnogi se UI bojijo, da nas bo nadvladala, prevzela naša delovna mesta, po drugi strani pa nam lahko življenje precej izboljša.

Absolutno nam lahko izboljša življenje. Spet je tu pomembna izobraženost uporabnikov in nenazadnje tudi njihova etična zrelost. S tako močnim orodjem lahko delaš dobro, lahko pa ušpičiš kaj za osebno korist ali pa celo seješ zlo.

»Bojim se, da se večina niti ne zaveda, kako pomembno vlogo igra znanost v današnjem svetu.« FOTO: Jože Suhadolnik  

Bo UI spremenila tok zgodovine?

Menim, da ga že spreminja, pa ne nujno na slabše. Zdaj smo še v zgodnjem obdobju, ko še ne vemo, kako se bo obrnilo. Potencial, da pomaga in naredi kaj dobrega, je res velik, velik pa je tudi potencial, da se uporabi v napačne namene. Bojim se, da se nekatere stvari ne obračajo v pravo smer. Kakšne so vrednote naše družbe? Bojim se, da na tem področju nazadujemo. Prof. Ivan Bratko je nedavno v Mladini opozoril, da lahko UI zamaje same temelje demokratične družbe, in to so realne nevarnosti, ki so se že dogajale: manipulacije na volitvah v ZDA, brexit. Zelo pomembno je, da bomo kot družba imeli prave vrednote, da bomo prepoznali dobro in slabo uporabo UI.

Njen razvoj je trenutno v rokah tehnoloških gigantov, večinoma iz ZDA, močna je Kitajska. Kje je tu Evropa?

Če se v to področje ne vlaga, se lahko zgodi, da bomo samo kolonija in ne velesila. Razvoj UI potrebuje veliko virov, treniranje nevronskih mrež je tako požrešno, da ima okoljski odtis. Velikih jezikovnih modelov ne more trenirati kar vsak, problem je tudi, da denimo v zadnjih letih ne moreš zlahka kupiti grafičnih procesorjev za nevronske mreže, dobavni roki so več kot eno leto. Tisti, ki jih imajo, so v prednosti. Google vse te vire ima. Nisem podkovan v politiki, vendar se lahko zgodi, da bodo posamezne korporacije vplivnejše od držav.

Če že ne bomo mogli sami razvijati UI, se moramo vsaj izobraževati na tem področju. Podpirati je treba celoten proces pridobivanja znanja, znanost in raziskave so prvi člen v verigi. Če nimaš sposobnih raziskovalcev, ki razumejo najnovejša dognanja, potem vse to vpliva navzdol po verigi. Ni usposobljenih učiteljev, da bi prenašali znanje, na koncu pridemo do neukih ljudi, ki ne bodo niti vedeli, kaj imajo v rokah in kaj s tem početi.

Žal živimo v družbi, v kateri je glavna vrednota denar, ne znanje. Znanje bi moralo biti temeljna vrednota, saj le na njem lahko družba napreduje. To bi morali razumeti vsi. Investicija v znanost ni investicija za čez sto let, ampak za jutri, glede na to, kako bliskovit je razvoj. Slovenija mora tu še veliko postoriti.

Raziskave UI so se pri nas sicer začele že v sedemdesetih, ko je to področje vpeljal prof. Bratko. Tako v evropskem kot svetovnem merilu smo prepoznani in naše delo je cenjeno. Ves svet razume, da je UI prihodnost, in vanjo se vozi denar s tovornjaki, Slovenija pa v kritičnem obdobju zadnjega desetletja ni naredila nič. Sprejela je nacionalno strategijo za UI, tudi sam sem bil v delovnem telesu, ko sem bil predsednik slovenskega društva za UI, in zdaj leži v predalu. To ima lahko velike posledice, mladi, perspektivni kadri odhajajo iz države.

Boj med Microsoftom in Googlom

Mlade to področje močno privlači, o čemer priča tudi udeležba na prvi evropski poletni šoli za umetno inteligenco, ki ste jo organizirali letos poleti v Ljubljani.

Res je bilo ogromno zanimanja. Na šoli, ki smo jo skupaj organizirali Univerza v Ljubljani, Institut Jožef Stefan in Univerza na Primorskem, smo imeli več kot 600 udeležencev, 60 predavateljev. Zelo me veseli, da je bilo veliko slušateljev iz Slovenije, več kot petina, sicer so udeleženci prišli iz 42 držav.

Ali bo UI prodrla v vse pore našega življenja?

Ponekod lažje, ponekod težje, ampak vsekakor, UI bo našla pot vsepovsod. To se že dogaja, to ni prihodnost. Kar lahko naredimo mi, je, da se izobrazimo, da povečamo človeški potencial. Na našem oddelku imamo delovna mesta za doktorske študente, podoktorske raziskovalce, trenutno je zanje pet mest za raziskave uporabe strojnega učenja za podporo znanosti. Država si na tako pomembnem področju, kot je razvoj in uporaba UI, neaktivnosti ne sme privoščiti. Za zdaj je Slovenija na tem področju dobro uveljavljena, toda če ne bomo okrepili izobraževanja in raziskav, lahko hitro stagniramo.