Kitajski taostični filozof Zhuang Zi se je pred 2300 leti spraševal, ali je človek, ki sanja o metulju, ali metulj, ki sanja o človeku. Zavest, ki ni le ločnica med živim in neživim, ampak tudi med človekom in na primer drevesom, buri človeški um od začetka naše vrste. Povezava med inteligenco, zavestjo in razumom je ključna za naše zavedanje, kdo in kaj smo, ter hkrati eno najbolj raziskovanih, a najslabše razumljenih znanstvenih vprašanj.

Prevpraševanje o zavesti z napredkom pri razvoju umetne inteligence znova postaja zelo aktualno. Podobno kot so se filozofi in znanstveniki že od nekdaj spraševali, ali na spektru živih bitij lahko potegnemo mejo med bitji z zavestjo in tistimi brez nje in kje, ista vprašanja postavlja umetna inteligenca. Pralni stroj nima zavesti, močna umetna inteligenca pa jo bo bržkone imela. Kaj pa vmes?



Inženirska definicija inteligence se opira na nalogo, ki jo od stroja ali bitja zahtevamo. Šibka umetna inteligenca zna opraviti manjše število dobro definiranih nalog. Pralni stroj je za svojo nalogo inteligenten; zna oprati različne vrste različno umazanega perila, in sicer bolje kot nevešč človek. Tudi avion z avtopilotom je inteligenten, saj zna v predvidljivih razmerah pristati brez pomoči pilota. Toda ko se razmere spremenijo, ta inteligenca ne pomaga več. Inteligenca je zmožnost prilagajanja, da v različnih okoljih opravimo nalogo. Čim več nalog v čim različnejših razmerah lahko uspešno opravi, tem inteligentnejši je stroj ali bitje. Močna umetna inteligenca bi bila sposobna opraviti vsa opravila, ki jih zmore tudi človek. Superinteligenca bi zmogla še več.
 

Računalnik, ki laže

Alan Turing si je že v 50. letih minulega stoletja zamislil preizkus računalniške inteligentnosti: človek prek računalnika v običajnem jeziku komunicira z dvema sogovornikoma – s človekom in računalnikom. Če ne glede na postavljena vprašanja iz odgovorov ne more ugotoviti, kdo je kdo, je računalnik opravil Turingov test. Vede se inteligentno.



Turingov preizkus je izrazito antropocentričen, ker preverja le človeku podobno inteligenco. Gotovo ima neko stopnjo inteligence tudi šimpanz, pa Turingovega testa ne bo nikoli opravil. Še več: Turingov preizkus je izrazito kulturno odvisen. Če se angleško govoreči preizkuševalec pogovarja z Googlovim robotkom in Japoncem brez znanja angleščine, bo verjetno Japonec označen kot neinteligenten stroj.

Turingov preizkus tudi ne upošteva možnosti, da je računalnik superinteligenten ali da ne želi sodelovati z nami. Predstavljajmo si distopično prihodnost, kjer bi vesoljci radi ugotovili, ali smo jim ljudje grožnja ali pa nas lahko pustijo pri miru. V človeškem interesu bi se bilo pretvarjati, da smo neinteligentni, in namenoma pasti na Turingovem preizkusu. Kaj pa če vloge zamenjamo in se superinteligentni računalnik namenoma obnaša kot neumen kos železja?
 

Od inteligence do zavesti

Toda Turingov preizkus preverja inteligentno vedenje, ki pa še ni sinonim za inteligenco ali celo zavest. Poučen je hipotetičen razmislek o računalniku, ki se vede, kot da razume kitajsko. Denimo, da izdelamo računalnik, ki na vsak stavek v kitajščini pripravi smiseln odgovor v kitajščini. Algoritem, ki ga poganja, to počne tako prepričljivo, da oseba na drugi strani ne more ugotoviti, ali se »pogovarja« z računalnikom ali človekom, ki razume kitajsko. Opisani miselni eksperiment se imenuje kitajska soba in ga je leta 1980 predlagal ameriški filozof John Searle in se pri tem vprašal, ali tak računalnik resnično razume kitajsko ali zgolj simulira razumevanje.

Razmislek, ali je med obema odgovoroma na Searlovo vprašanje sploh razlika, sega v samo jedro prevpraševanja o zavesti. Običajen človeški odgovor pravi, da razlika obstaja. Zavest naj bi vključevala zavedanje o notranjih občutkih, o zunanjih mejah telesa in relaciji do zunanjosti, sposobnost razmišljanja o prihodnosti, sedanjosti in preteklosti, tok misli itn. Takšna definicija je nujno antropocentrična, ker si vse doslej nismo mogli zamisliti, kako bi lahko obstajala inteligentna in zavestna entiteta, ki ne bi imela jasno definiranih fizičnih meja in fizične interakcije z okoljem. Toda razvoj računalnikov in umetne inteligence postavlja ta vprašanja na preizkus.
 

Pogled v ogledalo

Da zremo v lastno podobo, ko stojimo pred zrcalom, ni trivialen uvid, temveč proces, ki zahteva kompleksno zavest o sebi in okolici. Otroci na primer šele pri približno dveh letih ugotovijo, da so podoba v zrcalu oni sami. Pri preizkušanju te stopnje v razvoju otroku na obraz nanesemo packo in ga spet postavimo pred ogledalo. Če se dotakne pravega dela obraza, se je prepoznal in povezal svojo zunanjo podobo s seboj.



Ta test zagotovo opravijo le ljudje, šimpanzi in orangutani, pravi ameriški psiholog Gordon Gallup, ki si je test z ogledalom zamislil leta 1970. Nekateri raziskovalci trdijo, da so ga opravile tudi druge vrste, denimo gorile, bonobi in celo srake, a Gallup ostaja skeptičen do teh rezultatov. Prepoznavanje, da je v ogledalu primerek iste vrste, je namreč daleč od ponotranjenja razumevanja, da bitje zre v svojo podobo in da lahko od tod dobi informacijo o lastnem telesu. Številne vrste, denimo delfini, se navdušeno zbirajo pred ogledali, a to ni dovolj.

Zato je lani veliko pozornosti vzbudila študija čistilne ustnjače. Japonski raziskovalci trdijo, da tudi ta vrsta ribe opravi preizkus z ogledalom. Obnašajo se podobno kot šimpanzi: na začetku nekaj dni svoj odsev v zrcalu napadajo, potem začnejo poplesavati, kasneje pa se čedalje pogosteje zadržujejo pred ogledalom. Nato so jim raziskovalci v kožo pod usti vbrizgali barvilo in jih opazovali. Nekaj rib se je pogledalo v ogledalo, odplavalo na dno in se podrgnilo ob pesek kakor pri čiščenju, priplavalo nazaj pred ogledalo in postopek ponovilo. To bi bila prva vrsta, ki ne sodi med primate in bi opravila ta preizkus. Poleg dejstva, da je to uspelo le trem ribam, tudi sámo obnašanje ni bilo dovolj nedvoumno, da bi prepričalo vse raziskovalce.

Vodilni avtor študije Alex Jordan pravi, da bodisi ribe imajo samozavedanje bodisi preizkus ne meri samozavedanja. Pravilni odgovor je bržkone vmes, saj tako kot samozavedanje obstaja na spektru od primitivnih refleksov na koncentracijo hranil v vodi do človeškega zavedanja o okolici, lahko tudi rezultate preizkusa tolmačimo na več načinov. Če delfinom narišemo packo na obraz, se pred ogledalom zadržujejo bistveno dlje kot sicer, vendar si je ne poskusijo odstraniti. So test opravili ali ne? Nadaljevanje Gallupove študije iz leta 1971 je pokazalo, da šimpanzi test opravijo le, če od rojstva živijo v skupnosti, medtem ko ga izolirane živali nikoli. Zdi se, da je za razvoj koncepta sebe v zavesti nujna interakcija z drugimi. In navsezadnje, čeprav pes, mačka ali enoletni dojenček ne opravijo testa z ogledalom, jim zavesti ne odrekamo. Kaj pa jastog?
 

Pogled v možgane

Ko kuhar vrže jastoga v vrelo vodo, začne ta zvijati rep, kakor bi ga bolelo. Tako kot ljudje imajo tudi jastogi nociceptorje, torej receptorje za zaznavanje škodljivih dražljajev. Toda ali jastoga boli enako kot človeka ali gre zgolj za refleks? Odgovor bodo morda dale moderne metode za merjenje, kot je funkcijska magnetna resonanca (fMRI) za opazovanje aktivnosti prek pretoka krvi v delih možganov, ali stimulacija, na primer transkranialna magnetna stimulacija (TMS) ali transkranialna stimulacija z direktnim električnim tokom (tDCS).



Giulio Tononi z univerze Wisconsin v novi teoriji trdi, da zavest opiše integrirana informacijska teorija (IIT), ki jo je v nasprotju s številnimi drugimi mogoče enostavno eksperimentalno preizkusiti. Tononi si je kariero zgradil kot avtoriteta na področju spanja, kar je ravno obdobje, ko človeška zavest ugasne. V zadnjem času pa ga zanima zavest. Po IIT zavest definira pet aksiomov: strukturiranost, specifičnost, enotnost, določnost in intrinzičnost. Poenostavljeno to pomeni, da v svoji okolici razlikujemo predmete med seboj, da so izkustva (ki jih je neskončno mnogo in jih lahko izkusimo le nekaj) odvisna od okoliščin in da v zavesti združujemo informacije več virov. Videz, vonj, okus in predhodno znanje o palačinkah prihajajo iz različnih čutil in jih obdelajo različni deli možganov, a se v zavesti spojijo v enotno zaznavo palačink. Čim več virov podatkov kombinira v eno izkustvo, tem višjo stopnjo zavesti ima bitje, pravi IIT. Ključ za zavest je integracija informacij.

To pa lahko izračunamo ali izmerimo. S TMS lahko rahlo vzbudimo določen del možganov in opazujemo, kam se ta aktivnost razširi. Če to storimo z ljudmi pod vplivom anestetikov ksenona ali propofola, se aktivnost ne širi. Ko pa so enako poskusili z ljudmi na ketaminu, ki ne povzroča prazne nezavesti, temveč divje sanje, so bili odzivi na TMS zelo močni. Nihče od njih se ni zavedal resničnosti, a ketamin povzroča drugačen odklop kakor ksenon in propofol. Ta preizkus je daleč od tega, da bi potrdil IIT, ki sicer zveni zelo logično, vendar kaže v pravo smer. Da bi v resnici dokazali IIT, bi morali izmeriti procesiranje informacij v možganih. Formule za oceno integracije informacij v možganih obstajajo, a še niso uporabne.
 

Demistifikacija zavesti

Konkurenčna je starejša teorija globalnega delovnega prostora (GWT), ki jo je predlagal Bernard Baars. Zavestno vedênje nastane, ko informacijo držimo v globalnem delovnem prostoru. Od tam jo posredujemo ustreznim delom možganov, ki so odgovorni za posamezne naloge. Ta delovni prostor je ozko grlo zavesti, saj se lahko na novo informacijo osredotočimo šele, ko ga prejšnja zapusti. Zavest je potemtakem posledica obdelovanja informacij in se pojavi, ko so te na voljo več sistemom.

GWT zavesti jemlje še zadnje koščke romantike. V človeških možganih je 10¹¹ nevronov z 10¹⁴–10¹⁵ povezavami, po katerih signali potujejo s frekvenco približno 100 Hz. To pomeni, da bi za simulacijo možganov potrebovali 10¹⁷–10¹⁸ flopsov oziroma operacij na sekundo, kar imenujemo zgornja Moravčeva meja. To je približno stokrat več od najhitrejših superračunalnikov na svetu.

Med GWT in IIT je velika razlika. IIT definira zavest kot sposobnost sistema, da se glede na izkustva spremeni, GWT pa obravnava procesiranje podatkov. Ena ključnih razlik je vztrajanje signala: po GWT mora izginiti po 400 milisekundah, po IIT pa vztrajati, dokler traja izkustvo.

Jeseni se bo začel velik, 20 milijonov dolarjev vreden projekt raziskovanja vznikanja zavesti, ki ga koordinira Dawid Potgieter iz Templetonove fundacije. S fMRI, elektrokortikografijo in magnetoencefalografijo bodo v 10 do 12 laboratorijih tri leta opravljali meritve. Če bomo potrdili kakšno od teorij zavesti, ki jo lahko preizkusimo in kvantificiramo, bo njena uporabnost mnogovrstna. Ne le da bi lahko dokazali stopnjo zavesti pri posameznih vrstah, kar bi močno vplivalo na etiko in pravice živali, z merjenjem odziva možganov pri TMS bi lahko ocenili stopnjo zavedanja ljudi z možganskimi poškodbami, ki se ne odzivajo na okolico.

Rešili bi tudi dilemo kitajske sobe. Umetna inteligenca, ki teče na današnji računalniški infrastrukturi s tranzistorji z omejenim številom povezav, po IIT ne more razviti zavesti, ne glede na programirano obnašanje. Po GWT pa bomo že v prihodnjem desetletju dobili superračunalnike, ki bodo simulirali človeške možgane in bodo tako po definiciji imeli zavest.

Presodite sami: bi s pečine porinili humanoidnega robota, ki bi vas milo prosil, naj ga ne ubijete? Bi verjeli umetni inteligenci, ki zatrjuje, da vas ljubi?
--------
Matej Huš je znanstveni sodelavec na Kemijskem inštitutu, kjer raziskuje kemijske procese na ravni kvantne mehanike.