Nobelov nagrajenec se boji lastnega izuma

Kraljeva švedska akademija znanosti se je odločila Nobelovo nagrado za fiziko podeliti Johnu J. Hopfieldu in Geoffreyju E. Hintonu »za temeljna odkritja in izume, ki omogočajo strojno učenje z umetnimi nevronskimi mrežami«. Nevronske mreže so bistveni del umetne inteligence in so ključne za razumevanje, kako računalniki lahko razmišljajo in se učijo. Nevronske mreže so sicer modeli računalniškega učenja, ki so zasnovani tako, da posnemajo človeške možgane. 

Nobelova nagrajenca sta razvila metode, ki so temelj današnjega zmogljivega strojnega učenja. John Hopfield je ustvaril model, ki lahko shrani in rekonstruira slike in druge vrste vzorcev v podatkih. Geoffrey Hinton pa je izumil metodo, ki lahko avtonomno najde lastnosti v podatkih in tako izvaja naloge, kot je prepoznavanje določenih elementov na slikah, so pojasnili pri Nobelovem komiteju. 

Preberite še:

John J. Hopfield je bil rojen leta 1933 v Chicagu v ZDA. Doktoriral je leta 1958 na univerzi Cornell v New Yorku, trenutno pa je profesor na Univerzi Princeton. Geoffrey E. Hinton pa se je rodil leta 1947 v Londonu. Doktoriral je leta 1978 na Univerzi v Edinburgu, danes je profesor na Univerzi v Torontu v Kanadi, deset let je delal tudi za Google, lani pa je podjetje zapustil, da lahko jasno in glasno opozarja, da tehnologija, ki jo je pomagal ustvariti, predstavlja eksistenčno grožnjo človeštvu.

John Hopfield FOTO: Denise Applewhite/Princeton/Reuters  

Hinton je poudaril, da ga je nagrada ujela popolnoma nepripravljenega. »Trenutno sem v enem poceni hotelu v Kaliforniji, kjer ni dobrega ne telefonskega ne internetnega signala. Moral bi iti na diagnostično slikanje z magnetno resonanco, vendar bom pregled očitno moral odpovedati,« je dejal ob razglasitvi nagrade.

Umetna inteligenca (UI) bo po njegovem mnenju svet spremenila tako, kot ga je industrijska revolucija. »Toda namesto da bi presegla ljudi v fizični moči, bo presegla ljudi v intelektualnih sposobnostih. Z UI bi lahko imeli boljšo zdravstveno oskrbo, bolj bomo učinkoviti, vendar imam tudi veliko skrbi zaradi slabih posledic. Nimamo namreč izkušenj z nečim, kar je pametnejše od nas,« je poudaril.

V zadnjem času je večkrat opozoril na prehiter razvoj umetne inteligence. Ko je lani zapustil Google, je podal več intervjujev, v katerih je skušal svetu dopovedati, da »ni nepredstavljivo«, da lahko UI izbriše človeštvo. Dejal je celo, da obžaluje nekatere svoje raziskave. »V enakih okoliščinah bi znova naredil isto,« je povedal na Nobelovi novinarski konferenci. »Vendar me skrbi, da bi lahko bila splošna posledica tega sistemi, inteligentnejši od nas, ki bi sčasoma prevzeli nadzor.« Dodal je, da sam sicer uporablja gpt4 (močnejša različica chatgpt). »Ko želim kaj vedeti, ga vprašam. Mu seveda ne zaupam popolnoma, ker halucinira, a je zelo uporabno orodje.«

Hinton, 76-letni akademik, je svoje otroštvo opisal kot bivanje pod visokim pritiskom, da bi izpolnil pričakovanja družine, polne slovitih znanstvenikov, navaja Reuters. Za revijo Toronto Life je povedal, da se vse življenje bori z depresijo in da je v delu našel uteho. Njegova prva žena je umrla zaradi raka kmalu po tem, ko je par v začetku devetdesetih posvojil otroka. »Ne morem si predstavljati, kako ima lahko ženska z otroki akademsko kariero. Navajen sem, da lahko svoj čas porabim samo za razmišljanje o idejah ... Toda z majhnimi otroki to preprosto ne gre,« je dejal za Toronto Life.

Johna J. Hopfielda pa je, kot so zapisali na spletni strani Univerze Princeton, novica o nagradi ujela v hiški v Angliji. »Z ženo sva se šla cepiti proti gripi, na poti domov sva se ustavila še na kavi,« je dejal 91-letnik. Ko sta se vrnila domov, ju je pričakala kopica sporočil s čestitkami. Izpostavil je, kako bistvena je pravzaprav povezava med bazično znanostjo in tehnološkimi inovacijami. »Znanost, ki pospešuje tehnologijo, je lahko znanost, ki pravzaprav izvira iz radovednosti,« je dejal.

Kdo se boji umetne inteligence

Hopfieldova mreža in Boltzmannov stroj

John Hopfield je izumil omrežje, ki uporablja metodo za shranjevanje in ponovno ustvarjanje vzorcev, so pojasnili pri Kraljevi švedski akademiji znanosti. Ko Hopfieldova nevronska mreža dobi popačeno ali nepopolno sliko, metodično pregleda vozlišča in posodobi njihove vrednosti, tako da se energija omrežja zmanjša. Mreža tako postopoma poišče shranjeno sliko, ki je najbolj podobna nepopolni sliki, s katero je bilo oskrbljeno. Bistvo Hopfieldovih mrež je, da si lahko zapomnijo (hranijo) množico učnih vzorcev kot množico stabilnih stanj.

Geoffrey Hinton je v zadnjih letih že večkrat izpostavil svoje bojazni zaradi razvoja umetne inteligence. FOTO: Mark Blinch/Reuters

Geoffrey Hinton, ki je leta 2019 prejel Turingovo nagrado, ki je v svetu računalništva in tehnologije enakovredna Nobelovi, pa je Hopfieldovo omrežje uporabil kot osnovo za novo omrežje, ki uporablja drugačno metodo: Boltzmannov stroj. Ta se lahko nauči prepoznavati značilne elemente v dani vrsti podatkov. Hinton je uporabil orodja iz statistične fizike, znanosti o sistemih, zgrajenih iz številnih podobnih komponent. Stroj se uči tako, da se mu posredujejo primeri, za katere je zelo verjetno, da se bodo pojavili, ko bo stroj deloval. Boltzmannov stroj je mogoče uporabiti za razvrščanje slik ali ustvarjanje novih primerov vrste vzorcev, na katerih je bil usposobljen. Svoje delo je nato še nadgradil. Leta 1986 je napisal tudi prelomni članek, v katerem je utemeljil uporabo nevronskih mrež s povratnim učenjem (backpropagation), ki so danes ena najpogostejših vrst, ki se uporablja pri prepoznavanju fotografij, strojnem prevajanju itd.

Lani so nagrado prejeli francoski znanstvenik Pierre Agostini, madžarsko-avstrijski znanstvenik Ferenc Krausz in francosko-švedska znanstvenica Anne L'Huillier »za eksperimentalne metode, ki ustvarjajo atosekundne impulze svetlobe za preučevanje dinamike elektronov v snovi«.

Letošnje razglasitve nobelovcev so se začele v ponedeljek z razglasitvijo dobitnikov nagrade za medicino in fiziologijo. Prejela sta jo ameriška znanstvenika Victor Ambros in Gary Ruvkun za odkritje mikro RNK (miRNK) in njene vloge pri posttranskripcijskem uravnavanju genov. 

V sredo bo na sporedu razglasitev dobitnikov nagrade za kemijo, za literaturo v četrtek, v petek pa še za mir. Dobitniki nagrade za ekonomijo bodo razglašeni v ponedeljek, 14. oktobra.

Podelitev nagrad bo 10. decembra v Oslu in Stockholmu, na obletnico smrti Alfreda Nobela. Vsaka nagrada prinaša ček v višini 11 milijonov švedskih kron oziroma nekaj več kot 900.000 evrov. Če je dobitnikov več, se znesek mednje razdeli.