Z nepravim načinom uvajanja novih tehnologij lahko naredimo veliko škode

Človeštvo se je znašlo v izraziti okoljski krizi,čeprav vidimo in občutimo njene posledice na lastni koži, ostajamo neodzivni in nadaljujemo z življenjem po starem. Prof. dr. Tomaž Grušovnik je filozof, ki v svojih raziskavah povezuje okoljsko etiko, etiko živali, filozofijo vzgoje in izobraževanja, konspiracizem in hoteno nevednost. Ta zadnja, ko kljub obilici informacij nočemo vedeti resnice, vpliva na naš odnos do vsega, kar nas obdaja, do narave, živali, človeka. Kako pa bo naš odnos spremenila umetna inteligenca?

Lani so globalne temperature presegle mejo, ki je nismo želeli preseči, za več kot 1,5 stopinje Celzije so se dvignile nad povprečje pred industrijsko dobo. Zadnja leta smo priča katastrofalnim dogodkom tako pri nas kot po svetu. Morda zdaj bolj kot kdaj prej potrebujemo nauke, ki jih uči okoljska etika?

Gotovo. Je pa tudi res, da zdaj ne bi bili v tem položaju, če bi imeli dispozicije okoljske etike že prej. Zdi se, da se zavedanje o moralnem odnosu do okolja vedno rodi prepozno. Kar nam daje misliti, da nas mogoče ne vodi moralnost, ampak strah za preživetje. Torej zgolj vprašanje nekega instrumentalnega pogleda na okolje, ki je tu zato, da nam omogoča varno in zdravo prihodnost. Takšno razmišljanje, ko na okolje gledamo zgolj kot na vir za nas, nas je pripeljalo do položaja, da smo okolje praktično uničili.

Glavno vprašanje okoljske etike je, kaj smemo početi v odnosu do okolja in česa ne. Na to vprašanje je lažje odgovarjati pri etiki živali, saj ima človek v tem primeru na drugi strani živo bitje in moralni odnos do njega. Pri okolju pa je to vedno ovito v meglice, ali smo do okolja skrbni, ker ga potrebujemo, ali ker nam je res mar zanj in za vse v njem.

Čisto okolje in neokrnjena narava sta v Sloveniji precej visoko med vrednotami, zdi se, da ju skušamo karseda ohranjati. Toda globalno gledano z okoljem delamo kot svinja z mehom.

Tudi v Sloveniji si ne moremo čestitati glede odnosa do okolja, ker porabimo več, kot nam to ponuja. Res smo lahko ponosni na svoje naravne lepote, nedavno sem se vrnil iz New Delhija in v eni izmed trgovin so na zaslonih prikazovali Bled. Svetovno znani smo po naravnih lepotah.

Saj ne, da nam okolje ne bi bilo pomembno, da ne bi uživali v lepi naravi in tako naprej, problem je, da imamo protislovne vrednote. Po eni strani imamo radi naravo, po drugi pa smo netrajnostni: pomembni so nam velika, energetsko potratna hiša, velik avtomobil in dejavnosti, ki imajo velik okoljski odtis. Te vrednote moramo spraviti v soglasje, to je naloga okoljske etike.

Za človeka kot takega je biofilija oziroma potreba po povezanosti z naravo posledica evolucije, saj smo se razvijali v naravi. Ampak velik problem človeštva je, da ima nekoherentne vrednote, in še to, da smo zelo dobri pri hipokriziji, pri tem, kako se lahko preslepimo, kako lahko neke stvari postavimo v oklepaj, da dosežemo nekaj drugega.

Da bi ublažili podnebne spremembe, moramo poseči v lastno udobje. Odrekanje bi bilo pravzaprav zelo veliko, pri nas je še vedno merilo sreče in blaginje visoka gospodarska rast.

Glavno vprašanje je, ali je možno dosegati razvoj na trajnosten način. Pri tem naj omenim aristotelsko opozorilo, da moramo razlikovati med ugodjem in srečo. Vsak pri sebi lahko hitro opazi, da je med tema pojmoma velika razlika. Lahko še tako uživate v razkošni hrani, ampak to ne pomeni, da ste srečni. Sreča je nekaj drugega kot zgolj ugodje. Čeprav ne bi imeli fizičnih ugodij, še vedno lahko živimo srečno.

Pri tem znova trčimo v strašenje, da si spremembo predstavljamo kot konec sveta, ki ga poznamo, vendar pa ta konec morda sploh ne bi bil tako slab, predvsem ker svet, v katerem živimo, pravzaprav ni tako zelo dober. Morda bi morali ljudi opolnomočiti in opogumiti za spremembe. Te so možne, mogoče je živeti drugače, ta premik v trajnostni način življenja pravzaprav ne pomeni odrekanja, ampak iskanje nekih novih identitet, novih načinov življenja, kar pa je v resnici izjemno pozitivna stvar v človekovem življenju.

»Hotena nevednost nam omogoča, da ne razmišljamo o posledicah, ko prižgemo avtomobil, ko narežemo klobaso ali ko kupujemo poceni izdelke, ki so jih proizvedli ljudje v nemogočih okoliščinah.« FOTO: Dejan Javornik

Med spremembami, na katere opozarjajo okoljevarstveniki, je tudi sprememba v načinu prehranjevanja. To, da bi morali jesti manj mesa, ljudi najbolj razburi, po drugi strani pa nas zelo razburijo novice o grobem ravnanju z živalmi.

Uživanje manj mesa je po eni strani okoljski argument, saj je pridelava mesa netrajnostna, po drugi zdravstveni, saj uživanje preveč mesa ni zdravo. Zavrnil bi oba argumenta, ne, ker nista veljavna, ampak ker pri našem moralnem odnosu do živali nista pomembna. Pomembno je le preprosto vprašanje: ali smemo živalim brez zelo dobrega razloga povzročati toliko bolečine, trpljenja in smrti? To je edino vprašanje, ki si ga moramo kot ljudje zastaviti, kadar se ukvarjamo z vprašanjem etike živali.

Obstajajo različni argumenti in jih tudi razumem. Marsičigavo preživetje je odvisno od mesnopredelovalne industrije. Gre za velik gospodarski sektor in spremembe se ne morejo zgoditi čez noč. Jasno je, da je treba poskrbeti za ljudi. Ampak logika pri tem vprašanju je železna: če je povzročanje trpljenja moralno sporno in če je ubijanje moralno sporno, potem moramo narediti vse, da radikalno zmanjšamo pridelavo mesa. Dejstvo je, da je za pridelavo mesa treba vzeti življenje. Najprej se moramo vprašati: je to nujno, smo res v situaciji, ko ne moremo preživeti, če ne vzamemo življenja?

Glavno vprašanje okoljske etike je, kaj smemo početi v odnosu do okolja in česa ne.  FOTO: Niharika Kulkarni/AFP

Zdi se, da pri tem vprašanju najraje zatisnemo oči.

Številni raziskovalci zagovarjamo tezo, da je izkoriščanje nasploh, se pravi izkoriščanje narave, izkoriščanje živali in tudi izkoriščanje drugih ljudi, možno zato, ker se načrtno nočemo pozanimati o tem, kaj se dogaja s tem izkoriščanjem, oziroma da to, kar že vemo, enostavno postavimo v oklepaj.

Ta tako imenovana hotena nevednost je zelo zanimiva in uporabna človekova sposobnost. Ker kadar se morate osredotočiti na nekaj, morate vse drugo odmisliti in hoteno na tisto pozabiti. Na primer: če želite napisati knjigo, mora odločitev vsebovati pozabo vseh drugih stvari, da se lahko fokusirate na svoj cilj. Ali pa, nekdo, ki je bil izpostavljen travmatičnim dogodkom in jih nato vseskozi podoživlja, postane nefunkcionalen. Hotena nevednost pravzaprav pomaga preživeti oziroma pomaga živeti, hkrati pa omogoča tudi največje zlorabe, ki jih je človeštvo zmožno, od holokavsta, mesnopredelovalne industrije do uničenja okolja.

Hotena nevednost nam omogoča, da ne razmišljamo o posledicah, ko prižgemo avtomobil, ko narežemo klobaso ali ko kupujemo poceni izdelke, ki so jih proizvedli ljudje v nemogočih okoliščinah.

Problem etike in morale ni toliko problem individualnega ravnanja posameznika do posameznika. Res zelo majhen odstotek ljudi z resnimi duševnimi težavami je pripravljen drugega človeka udariti, sicer smo vljudni in prijazni z nasmeški in čestitkami. Etika je problem političnega sistema, ki temelji na neenakostih in na reprodukciji teh neenakosti, v katerem se odgovornost posameznika skrije in zbledi v tej zelo kompleksni verigi, ki potuje od potrošnika do produkta. Tu naletimo na vprašanje odgovornosti posameznika. Danes so vse glasnejši glasovi, ki pravijo, da to ni toliko stvar ravnanja individualnega človeka, ampak družbenega sistema. Če ta ne omogoča moralnega ravnanja, potem posameznik niti ne more izbirati moralnega ravnanja. Naše individualne odločitve se sicer vedno odvijajo v širšem kontekstu družbenopolitičnega in gospodarskega sistema.

Naj navedem primer: težko nekemu vozniku očitate, da ni vegetarijanec, če na vsakem bencinskem servisu, kjer se ustavi, prodajajo samo sendviče s šunko. Voznik niti nima možnosti izbire. In seveda težko očitamo nekomu, ki se preživlja z mesnopredelovalno industrijo, da je nemoralnež, če nima druge možnosti, da preživi sebe in svoje otroke.

Imamo pa seveda kot posamezniki dolžnost, da si prizadevamo za spremembo teh okoliščin. Drži pa, da imajo različni posamezniki v družbi različno osebno odgovornost. Čim več moči nekdo ima, tem večjo možnost izbire ravnanja ima in posledično je njegova odgovornost bistveno večja od odgovornosti nekoga, ki se trudi preživeti.

»Človek lahko nadvlada naravo. Ampak cena, ki jo za to plačamo, je, da tudi sami sebe nadvladamo.« FOTO: Dejan Javornik

Spremembe zahtevajo predvsem mladi.

Spet bom kontroverzen, naj mi mladi oprostijo. Menim, da mladi lahko protestirajo, ker ne vedo. Ker še niso vpleteni v mehanizme odločanja, ker ne poznajo ozadij … Njihov protest je v resnici naiven. Vendar še kako legitimen.

Stanley Cavell ima lep poudarek, ko pravi, da ni otroštvo privilegiran čas odraščanja, ampak najstništvo. Otrok je pač otrok, najstnik pa že opaža družbene krivice in v sebi ima tudi idealizem, da bi jih presegel. Ta idealizem je kot svetilnik v temi, ki kaže pot naprej, vendar najstniki še ne vedo, koliko čeri je na tej poti. Rad pa bi poudaril, da je absolutno zelo pomembno celo življenje negovati te najstniške ideale.

Vsekakor so mladi tisti, ki jih bodo doletele okoljske spremembe. Donalda Trumpa ne bodo, ker je star. Mladi pa bodo morali v tem spremenjenem svetu živeti in ne zdi se jim pravično, zato imajo seveda prav, ker opozarjajo na problem medgeneracijske pravičnosti. Namenoma nisem uporabil besede solidarnost. Pogosto govorimo o solidarnosti z državami, ki jih doletijo naravne katastrofe. Vprašati se moramo, kdo je v prvi vrsti odgovoren za te katastrofe. To morda niso države, ki so jih nesreče prizadele, temveč države, ki so največ prispevale k spreminjanju podnebja, kar je pripeljalo do katastrof. Torej to ni stvar solidarnosti, ampak pravičnosti, če že ne rečemo kar dolga.

Kako gledate na umetno inteligenco? Bo spremenila svet?

Mislim, da bo imela na civilizacijo podoben vpliv, kot so ga imela druga velika odkritja, na primer trgovske poti, iznajdba tiska, radia, televizije, telefona in interneta. Zanimivo je, da so v preteklosti v znanstvenofantastični literaturi predvideli, da nas bodo roboti zamenjali pri najbolj dolgočasnih opravilih, kot sta likanje in pometanje, nadomeščajo pa nas pri najbolj kreativnih. Paradoksalno.

Pri UI osnovno vprašanje ni to, kaj je umetna inteligenca, ampak kaj je inteligenca kot taka, kaj je mišljenje. Tu se nam zastavljajo velika filozofska vprašanja. Mišljenje kot tako je na neki način umetno, torej nekaj, kar je producirano z umom. Za človekovo mišljenje sta značilna odkrivanje in primerjava vzorcev. Človek je posebno bitje ravno v tem, ker je formalist, ker ima toliko vzorcev. Človek kot tak je umetno bitje s svojo inteligenco.

Drugo, kar je zanimivo: v znanstveni fantastiki se stroji pogosto ozavestijo in nato nadvladajo ljudi. V resnici pa se dogaja nekaj drugega: mi prostovoljno postajamo sužnji teh tehnologij. S pogosto uporabo teh tehnologij, na primer chatgpt, začnemo razmišljati kot te tehnologije, prilagodiš svoj način spraševanja velikemu jezikovnemu modelu. Problem je, da bomo morda sami nevede spolzeli v načine razmišljanja, da bomo služili nekemu sistemu.

Človek lahko nadvlada naravo. Ampak cena, ki jo za to plačamo, je, da tudi sami sebe nadvladamo. Kajti ko spravimo naravo v razpredelnice, tudi sami postanemo zgolj spremenljivka v tabeli. Z umetno inteligenco si želimo pomagati, toda v resnici se nam dogaja to, da nas bo v neki točki zgrabila in vpletla v strukturo, ki jo narekuje.

Ne strinjam se s tistimi, ki govorijo, da je UI samo orodje in da je orodje nevtralno. To ne drži, ker, kot je vedel že Heidegger, orodje spremeni svet, ta sprememba pa ni nevtralna. Če UI svet spreminja tako, da ukinja delovna mesta in odpira druga, to ni nevtralno.

Da se razumemo, tudi sam uporabljam UI, da jo povprašam o določenih temah. Zanimivo mi je, da me ob koncu klepeta zamika, da bi se klepetalniku zahvalil. Potem se domislim, da zadaj ni nikogar, ki bi se mu moral zahvaliti. Ampak kam to lahko vodi? Ti klepetalni roboti lahko spremenijo načine pogovarjanja, ki se lahko prelijejo v vsakdanje življenje. Morda se bomo nehali zahvaljevati za informacije. Ti chatboti bodo morda učitelje v očeh učencev spremenili v robota, ki je tam, da podaja znanje, to ne bo več oseba, do katere je treba vzpostaviti odnos. Pogovor se bo spremenil v storitev.

Tu že vidim težavo, kako te tehnologije na nezavedni ravni spreminjajo naš odnos do okolice, ki gre čedalje bolj v smer pridobivanja informacij, ne pa v negovanje osebnih odnosov. Pogovor nikoli ni zgolj izmenjava informacij. Cilj šole ni le podajanje informacij, če bi bilo tako, potem šol ne potrebujemo, saj imamo youtube in chatgptje. Šola je bistveno več, pomeni vzgajanje človekovega značaja, oblikovanje medosebnih odnosov. In to je nekaj popolnoma drugega od družbenih omrežij in komunikacijskih tehnologij.

Morda orodje ni nevtralno, vendar je še vedno orodje v rokah človeka.

To orodje ponuja veliko možnosti zlorab, več ko je teh možnosti, manj je nevtralno. Kar se nam lahko zgodi, je oziroma to se dogaja: kopiči se moč, demokratični načini pa se zdijo kot ovira pri razvoju UI. Zdi se, da stojimo pred zelo velikim izzivom. Spremljamo ljudi na vodilnih mestih, ki na demokracijo gledajo kot na nekaj skorajda vrednega posmehovanja, da se je treba osredotočiti na učinkovitost, poudarjanje nenehne učinkovitosti je, mimogrede, fašistična poteza. Nekateri bodo določene pravne norme preprosto preskočili, ker so ovira. Če ena država ali ena interesna sfera odpravi regulacijo, druga pa pri njej vztraja, se zdi, da ta druga dela sebi v škodo. Tu vidim težavo pri ohranjanju demokratičnih načel našega sveta.

To orodje ponuja veliko možnosti zlorab, več ko je teh možnosti, manj je nevtralno. FOTO: Dado Ruvic Reuters

Nas UI tudi poneumlja oziroma ubija naše kritično mišljenje?

Ta skušnjava je zelo velika. Kolegica Olga Markič to imenuje kognitivna lenoba in ta je resnična. Predvsem je treba paziti pri vzgoji in izobraževanju.

Je pa tudi res, da je Sokrat trdil, da ne bo ničesar zapisal, ker knjige poneumljajo ljudi. Ker če zapišeš, potem si ne zapomniš. Ko študentom razlagam o Sokratu, jim razložim ravno na primeru Wikipedije in UI. Ko se preveč zanašaš na te reči, se določene kapacitete začnejo izgubljati. Danes si sploh ne znamo predstavljati ljudi, ki so bili sposobni recitirati celotno knjigo, ne le brati.

Eno je, če te tehnologije uporabljate, ko ste že izobraženi, da je to orodje v pomoč pri prevajanju, ko že dobro govorite oba jezika. Nekaj drugega pa je, če ta orodja uporablja nekdo, ki ni formiran govorec. To je tako, kot če bi se učil voziti avto, ko še ne znaš hoditi. V resnici učinkovita uporaba teh orodij predpostavlja nekoga, ki je zelo vešč in izobražen, ne pa nekoga s šibkimi učnimi dosežki, saj sploh ne bo vedel, kaj dela s tem orodjem.

Če začnemo prehitro te reči uvajati ali pa na nepravi način, lahko naredimo veliko škode.

Bi morali prepovedati uporabo umetne inteligence v šoli?

Nujno je usposabljati ljudi za uporabo teh orodij. Sicer jih prikrajšamo za nekaj zelo pomembnega. To bi bilo enako, kot če bi v 90. letih rekli, da ne bomo imeli nič z internetom.

Absolutno je treba vkomponirati te stvari v vzgojo in izobraževanje, a sam ne delim navdušenja nekaterih kolegov, ki menijo, da bo UI rešila veliko težav. Imela bo zelo različne učinke na nas, ki smo bili vzgojeni brez nje in smo jo začeli uporabljati v odraslem obdobju, in na otroke, ki z njo odraščajo.

Poudaril pa bi tudi, da naj šola postane bolj konservativna. V kakšnem smislu? Menim, da bi morala negovati osnovne veščine, kot so branje, umetnost, matematično razmišljanje. S to tehnologijo bodo otroci tako ali tako nenehno v stiku, te osnovne dejavnosti pa so čedalje bolj ogrožene.

Veliko ste se ukvarjali tudi s pandemijo in konspiracisti, za katere se zdi, da so med pandemijo dobili nov zagon.

Konspiracizem ima neke širše osebnostne in družbene vzroke. Konspiracisti potrebujejo le iskrico, da napletejo svojo zgodbo, pa naj bo to o pandemiji, vojni … Dokler ne bomo obravnavali vzrokov, bo konspiracizem obstajal. Kaj so ti? Eden je zagotovo potreba po tem, da povedo mnenje. Teoretiki zarot hočejo biti kritični misleci, pohvalijo se, da mislijo s svojo glavo, vendar se težava pojavi, če ta glava ni najboljša. V konspiracizmu je prisotna tudi nekakšna želja po uporu.

Pri tem me fascinira, da se konspiracisti hočejo upreti oblasti, a hkrati ustoličijo največje hegemone, kar smo jih na zahodu kdaj imeli. To je ta tragična ironija teoretika zarote, da se v svoji želji postaviti se po robu krivičnosti svetovnega reda pustijo zmanipulirati, dovzetni so za manipulacije različnih podjetij, politikov in tako naprej, čeprav sami opozarjajo, da je cel svet zmanipuliran. Tako postanejo predmet velike zarote, česar pa ne vidijo.

Ko razmišljate o prihodnosti, ste optimist?

Poskušam biti realist. Glede mantre optimizma: seveda je treba iskati neke rešitve, treba je gledati pozitivno, ampak biti optimist, ko se svet okoli ruši, je pa malo tudi smešno. Morda bi šlo v smeri: da sprejmemo, da je svet slab, in da od tu skušamo biti pozitivno naravnani, namesto da si dopovedujemo, kako je vse krasno, medtem ko izgubljamo vse.