Paradoks človekovih pravic v postčloveškem času

Raziskovalka etike in politike podatkov Nika Mahnič je pionirka na številnih področjih, ukvarjala se je z vplivom tehnologije na politično udejstvovanje in intimo, zdaj pa jo zanimajo procesi digitalizacije pri dodeljevanju socialne pomoči.

Že od malih nog jo je jezilo kršenje človekovih pravic. Zato se je na koncu osnovne šole odločila, da se bo vpisala na študij mednarodnih odnosov, nato se je prepisala na kulturologijo, saj je pri antropologiji in v humanistiki našla pristope, ki so ji omogočili preizpraševanje osnovnih predpostavk o svetu in družbi, v kateri živimo. »Študij sem si vedno predstavljala kot čas, v katerem si študenti odpiramo, ne pa zapiramo obzorja,« je povedala sogovornica in dodala, da se je odločila za prepis na kulturologijo tudi zato, ker je smer imela na voljo veliko izbirnih predmetov in svobodo, da prilagodi študij temu, kar jo dejansko zanima.

»Danes težko trdim, da me je izoblikovala samo kulturologija, saj sem imela predmete iz drugih kateder, kot so politologija, novinarstvo, komunikologija, dva predmeta sem imela tudi na Filozofski fakulteti. Poleg tega sem se udejstvovala tudi drugod, hodila na veliko neobveznih predavanj in konferenc ter imela priložnost in privilegij biti radovedna.«

Univerze morajo izpolniti tržna pričakovanja

Med študijem je na Fakulteti za družbene v Ljubljani je bila dvakrat na študijski izmenjavi v tujini Erasmus+, in sicer na Evropski univerzi Viadrina v Frank­furtu na Odri na nemško-poljski meji in na Univerzi v Amsterdamu. Med najinim pogovorom je spregovorila tudi o tem, kako se študij družboslovja razlikuje v tujini v primerjavi s Slovenijo, in poudarila, da ima Fakulteta za družbene vede določene prednosti v primerjavi s tujimi fakultetami.



Po njeni izkušnji je študij na tujem tudi na družboslovnih in humanističnih fakultetah precej bolj aplikativen, univerze odgovarjajo gospodarskim panogam, od katerih fakultete dobivajo finančna sredstva, zatorej morajo izpolniti tržna pričakovanja. »V slovenskih izobraževalnih ustanovah ni tako nujno, da je tvoje delo povezano z industrijo.« Večina študentov, ki jih je spoznala na tujem, se je ukvarjala s tem, kako bodo nekoč odplačali študijske dolgove.

Seks roboti in tovariški roboti

Med študijem jo je zanimalo, kako tehnologija spreminja intimo in seksualnost ter kaj se zgodi, ko mehanski, digitalni stroji posežejo v mesenost, čutnost, skratka v človeško telo. Njeno diplomsko delo Nelagodje v tehnokulturi, ki ga je na Fakulteti za družbene vede opravila pri mentorici Karmen Šterk, se ukvarja z ekstremom tehnologije v seksualnih praksah, s seks roboti ali spolnimi roboti. V diplomski nalogi si je postavila vprašanje, kaj se zgodi, ko se potrošna dobrina – lutka z dodano umetno inteligenco – spremeni v nekaj, kar je med človeškim sopotnikom in blagom. Vprašanja s področja seks lutk in robotov povezuje tudi z lastninjenjem ženskih teles, saj so še pred kratkim nekatere ženske bile, ponekod pa še zmeraj so, v lasti svojega moža, očeta in družine.



Zdi se ji absurdno, da v nekaterih državah ljudje umirajo zaradi lakote in so mnogi vpeti v suženjske odnose, v drugih pa (na Japonskem je to povezano z izolacionizmom in ksenofobijo) vlagajo v humanoidne robote. »Skušam razumeti paradoks človekovih pravic v postčloveškem času. Mislim, da lahko to najbolje opišem kot boj za ­pravice vsega živečega.«



Po končani diplomi je preusmerila pozornost na podatke in nadzor ter tako imenovane »companion robots« (tovariške robote), ki so ustvarjeni zato, da bi delali družbo človeškim bitjem. O nadzoru ter interakciji med ljudmi in roboti je pisala v strokovnem prispevku Encountering Bloody Others in Mined Reality za znanstveno revijo AI & Society (Springer) ​in v magistrskem delu na oddelku za digitalno humanistiko na Kraljevem kolidžu v Londonu. »Izbrala sem si študijski program, ki je usmerjen v etiko podatkov in umetne inteligence.«

V magisteriju Left to Our Own Devices je na primer razi­skovala, kako se je v minulih letih spremenil (in se v prihodnjih letih še bo) nadzor prebivalstva zaradi potencialov, ki jih omogočajo sodobne »prepričevalne tehnologije«​ ali empatični mediji. Za študijo primera si je izbrala robota Ollyja, enega od prvih »proaktivnih« robotov, ki analizirajo uporabnikov glas, gibe in prepoznavajo obraze uporabnikov, ki jim nato proaktivno predlagajo, kako naj se obnašajo, da bi dosegli določen cilj. Vprašanje pa je, kdo zastavlja cilje.

Nasilje avtomatizacije in birokratizacije

Nika Mahnič bo jeseni začela doktorski študij na Univerzi kraljice Marije v Londonu. Je ena od redkih študentov iz Evropske unije, ki so po brexitu v okviru London Arts and Humanities Partnership (LAHP) prejeli tako triletno šolnino kot štipendijo za stroške bivanja. V doktorskem delu bo sogovornica analizirala, kako procesi digitalizacije javne uprave in avtomatizacije vplivajo na strukturno nasilje in etiko ter kaj se zgodi s politično odgovornostjo, ko procese, nekoč v rokah ljudi, prevzamejo stroji.

V doktoratu, ki ga bo opravljala pod mentorstvom profesorice politične teorije Elke Schwarz, namerava raziskovati procese digitalizacije in avtomatizacije pri dodeljevanju socialne pomoči. Osredotočila se bo na algoritme strojnega učenja in nevarnost poglabljanja obstoječih neenakosti ter strukturnega nasilja. Področju se je natančneje posvetila, ko je izvedela, da je na Švedskem zaradi algoritemske napake v sistemu za dodeljevanje nadomestila za brezposelnost ostalo brez tega do 70.000 prosilcev.



V Veliki Britaniji je leta 2018 posebni poročevalec Združenih narodov za izredno revščino in človekove pravice Philip Alston ugotovil, da britanska država blaginje postopoma izginja za splet­nimi stranmi in algoritmi. Nika Mahnič bo v doktoratu raziskovala, kako informacijski sistemi, ki služijo za rangiranje in sortiranje populacije, nekaterim ljudem in določenim skupinam ljudi onemogočajo dostop do življenjskih priložnosti ter prispevajo k strukturnemu nasilju. Za njenim zanimanjem o tem področju je zanimivo ozadje.

Ameriški izdelovalec računalniške opreme IBM je pred drugo svetovno vojno prek podružnice Dehomag sodeloval s tretjim rajhom. Nacisti so uporabljali IBM-ov izum luknjanih kartic, ki so jih uporabljali za kategorizacijo, številčenje in uničevanje tistih, ki niso bili arijske rase, predvsem Judov. Tedanjega izvršnega direktorja podjetja IBM Thomasa J. Watsona so zaradi uslug celo odlikovali s prestižnim priznanjem nemškega orla, ki ga je kasneje vrnil. Nacistični režim je za zločine proti človeštvu izrabljal birokracijo.

»Zločinski dogodki iz tistih let niso bili samo plod Hitlerjeve osebnosti, obseg zločinov je bil tudi posledica dejstva, da je tehnologijo uporabil za povečanje kriminala,« je zapisal Albert Speer. Nika Mahnič bo v doktoratu poleg analize politične odgovornosti ter spremenjene vloge države na področju privatizacije političnih odločitev predlagala tudi mehanizme, s katerimi bi podjetja kazensko odgovarjala za vplive, ki jih imajo njihova orodja na človeško življenje.


-------------------------
Avtor je zaposlen v Delovnici.