Močnejša, kot je umetna inteligenca, večja je naša odgovornost

Nobelovo nagrado za fiziko sta letos prejela John Hopfield in Geoffrey Hinton »za temeljna odkritja in izume, ki omogočajo strojno učenje z umetnimi nevronskimi mrežami«. Nevronske mreže so bistveni del umetne inteligence in so ključne za razumevanje, kako računalniki lahko razmišljajo in se učijo. 

Več v prispevku:

Nobelov nagrajenec se boji lastnega izuma

»To je priznanje pomenu, ki ga ima danes umetna inteligenca. Že nekaj časa nazaj sta opravila svoje zdaj nagrajene raziskave, šele zdaj s skokovitim razvojem UI in njene uporabe, se je pokazal vpliv njunega dela,« je poudaril dr. Sašo Džeroski, vodja Odseka za tehnologije znanja na Inštitutu Jožef Stefan.

Dr. Marko Grobelnik, sodelavec Laboratorija za umetno inteligenco pri IJS, je dodal, da je nagrada vendarle nekoliko presenetljiva, ker sta jo dobila raziskovalca za delo, ki ni neposredno povezano s fiziko, vendar pa ima velik vpliv na fiziko, pa ne le nanjo, ampak tudi na biologijo, matematiko, medicino ... Se pa Grobelnik strinja, da je to potrditev pomena »revolucije, ki jo je prinesla UI. Ta revolucija bazira na delu nagrajencev, vendar če bi izbiral, bi dodal še vsaj deset ljudi, ki so korenito prispevali k razvoju področja. Oba nagrajenca sta zelo dosledno prispevala k področju že od zgodnjih 80-ih let prejšnjega stoletja in sodelovala pri nekaterih izrazito pomembnih izboljšavah originalnih idej, ki so danes prisotne v skoraj vsakem modernem sistemu umetne inteligence. Posebej izpostavimo t.i. 'backpropagation' inovacijo (inovacijo s povratnim učenjem) iz leta 1980, ki je še posebej zaznamovala nevronske mreže. Za prebojne rešitve zadnjih let pa je morda najbolj zaslužna ekipa iz Googla, ki je razvila algoritem po imenu 'Transformer', ki v osnovi temelji na prispevkih Hopfielda in Hintona, a pomembno razširja pristop, kar je omogočilo chatgpt in sorodne sisteme.«

Džeroski je spomnil, da to ni prva Nobelova nagrada za raziskovalce s področja računalništva. Nobelovo nagrado za ekonomijo je leta 1978 dobil zdaj že pokojni Herbert Simon, ki je pomembno vplival na računalništvo, ekonomijo in kognitivno psihologijo. Tri leta pred tem je Simon prejel tudi Turingovo nagrado, ki je najvišja nagrada na področju računalništva. Hinton je drugi raziskovalec z obema tema prestižnima nagradama, Turingovo nagrado je skupaj s Yoshuo Bengioem in Yannom LeCunom prejel za leto 2018.

»Pred leti je japonski znanstvenik Hiroaki Kitano oblikoval iniciativo Nobel Turing, ki je namenjena razvoju metod umetne inteligence, sposobne vrhunskega raziskovanja, primerljivega z delom vrhunskih raziskovalcev. Odkritja te umetne inteligence pa bi bila tako pomembna, da bi si zaslužila tudi Nobelovo nagrado,« je povedal Džeroski. »Evropska komisija zdaj povečuje financiranje raziskav o uporabi umetne inteligence v znanosti, kar me seveda veseli, saj je ravno to moje glavno raziskovalno področje.«

Prejemnika Nobelove nagrade John Hopfield in Geoffrey Hinton sta pomembno vplivala na razvoj umetne inteligence. FOTO: Jonathan Nackstrand/AFP  

Marko Grobelnik je spomnil, da so se ideje o nevronskih mrežah sicer pojavile že v 40. letih prejšnjega stoletja. »Počasi se je premikalo naprej, vendar so bile še prezgodnje. Ideje so bile dobre, vendar sprva ni bilo jasno, kako daljnosežne so. Šele v zadnjih letih so dale rezultate s pomočjo silno močnih superračunalnikov, ki jih imajo največja tehnološka podjetja. Pravzaprav nihče ni pričakoval tega preboja.« Grobelnik je še pojasnil, da nevronske mreže delujejo podobno kot človeški možgani. »Kako nevronske mreže delujejo, pa je človeku popolnoma nerazumljivo.«

Ta nerazložljivost delovanja modelov pa je ena večjih pomanjkljivosti, zaradi katere ne moremo povsem zaupati umetni inteligenci, ker ne vemo, kako pride do svojih ugotovitev. »Dolgo časa je veljalo, da nimajo neke velike prednosti pred drugimi modeli za obdelavo podatkov. Potem pa so se začele zbirati velike količine podatkov, ko so bili na voljo vse hitrejši in boljši računalniki in pri velikih količinah podatkov pa nevronske mreže vsekakor presegajo tradicionalne metode,« je dodal dr. Aleksander Sadikov z ljubljanske fakultete za računalništvo in informatiko. 

Nevarnosti UI

Na opozorila o nevarnostih UI, ki jih izpostavlja letošnji Nobelov nagrajenec Hinton, pa je Sašo Džeroski poudaril, da »ne gre za problem UI, ampak je problem seveda, kako jo bomo uporabljali. To je povezano z našimi prevladujočimi moralnimi in etičnimi standardi. Res je UI vse močnejša in ima vse večji vpliv, to torej povečuje odgovornost tistih, ki jo razvijajo, še bolj pa tistih, ki jo uporabljajo. Graditi varovalke, ki bi preprečile neetično uporabo, je zelo težko. Razvoj UI se ne bo ustavil. Prav je, da se opozarja na nevarnosti, vendar so te še vedno na človeški in ne na umetnointeligenčni strani.«

»S temi nevarnostmi se nas ogromno ukvarja,« je nadaljeval Grobelnik. »Evropa je sprejela tudi poseben akt, cel kup organizacij se ukvarja s tem. Raziskovalci smo navdušeni in začudeni nad vsemi preboji na tem področju, marsikdo si ne bi mislil, da bo to spremljala že ta generacija. Nevarnosti so velike, posledice uporabe tehnologije vidimo v vojnah, generirajo se lažne novice manipulacije, vendar ta tehnologija tudi omogoča boj proti vsem tem slabim platem. Nevarnosti so, ampak je pa tudi ogromno prednosti,« je poudaril.