Ali umetna inteligenca ogroža demokratične volitve?

Leto 2024 je bilo zgodovinsko rekordno po številu volitev v svetu, saj so potekale v več kot 60 državah. Rekordno je bilo tudi po deležu volivcev – na vseh volitvah je po nekaterih ocenah sodelovala skoraj polovica svetovnega prebivalstva. Leto 2024 pa je prineslo izjemno hitro širitev uporabe orodij umetne inteligence v volilnih procesih.

Čeprav se v javnosti sliši predvsem ocene o škodljivosti uporabe orodij umetne inteligence (UI) v volilnih procesih, pa so mnenja strokovnjakov o tem bolj kompleksna. Orodja UI je mogoče uporabljati tudi na demokratičen način in z demokratičnimi učinki. Zato Organizacija združenih narodov (OZN) ne odobrava prepovedi njihove uporabe. Nasprotno, OZN predvsem poziva k regulaciji umetne inteligence na globalni ravni.

Vzpostavitev standardov in navodil za etično uporabo UI ter povečanje javnega zavedanja o kompleksnosti uporabe UI v volilnih procesih sta v zadnjem času postali izjemno pomembni tematiki vladnih in nevladnih igralcev pa tudi strokovnjakov za UI. Razvoj politoloških analiz in prava na področju UI je postal zelo dinamičen v svetovnem merilu.

Različna nevladna in vladna priporočila in pravne norme pa niso dovolj za preprečevanje družbeno škodljivega razvoja tehnologij in njihove uporabe. Zato je pomembno tudi osveščanje o kompleksnosti pojavov, ki jih v vsakdanjem besedišču poenostavljeno imenujemo s skupnim imenom umetna inteligenca. To je še posebej pomembno pri upravljanju družbe. Natančneje: izjemno pomembno je, kako uporaba orodij UI vpliva na procese izbiranja političnih predstavnikov, ki nato upravljajo družbo.

Ta tema je aktualna tudi za Slovenijo. O njej je treba razpravljati že pred začetkom volilne kampanje za parlamentarne volitve. Letos verjetno ni mogoče sprejemati oziroma dopolnjevati volilne zakonodaje za prihajajoče volitve. Mogoče pa je senzibilizirati volivce za morebitne zlorabe orodij UI v volilnih procesih. Možno je smiselno uporabljati navodila in priporočila mednarodnih organizacij (OZN, OECD) in institucij Evropske unije. Mogoče je tudi pritiskati na odločevalce, da oblikujejo strokovna priporočila, ki bodo v podporo demokratičnim volilnim procesom, preden bo to področje ustrezno urejeno z zakonodajo. Politične stranke bi lahko oblikovale in objavile načela svoje uporabe orodij UI. Pristojne institucije, civilna družba in širša javnost lahko spremljajo uporabo/zlorabo orodij UI, opozarjajo na problematične prakse ter predlagajo načine in vzvode za učinkovitejši nadzor. Mogoče je mednarodno povezovanje in (so)vplivanje vpletenih igralcev na oblikovanje bolj zavezujočih pravil na tem področju in nadzora v prid demokracije.

Kakšna merila pa naj bi uporabili pri takšnih prizadevanjih? Menim, da bi se v današnjih razmerah morali predvsem spomniti na to, kaj so svobodne in poštene volitve. Pregledati je treba kritične točke v volilnih procesih, ki so še posebej občutljive na zlorabo orodij UI. Pri tem pa ne kaže spregledati pozitivnih potencialov UI. Ne nazadnje sta tehnološki razvoj in uporaba/zloraba UI še vedno v rokah ljudi, ljudje pa lahko postavljajo meje škodljivim pojavom.

Kaj so svobodne in poštene volitve

Preden natančneje analiziramo, kako uporaba orodij UI vpliva na volitve, je pomembno, da opredelimo, kaj so svobodne in poštene volitve v okviru liberalno demokratičnega sistema poliarhije – demokracije za velik del družbe. Gre za liberalno demokratični model, iz katerega tudi slovenska ustava črpa temeljne ideje. Njegove elemente najdemo tudi v københavnskih političnih kriterijih, ki so bili sprejeti kot sklop pogojev za vključevanje novih članic v Evropsko unijo pred veliko širitvijo s posocialističnimi državami.

Osrednja ideja poliarhije – za razliko od avtoritarnih režimov – je kombinacija velike vključevalnosti in široke odprtosti za politično tekmovanje. Za takšno demokracijo pa mora biti po Robertu Dahlu (utemeljitelju modela poliarhije) izpolnjenih več pogojev. Ti so: svoboda organiziranja in pridruževanja organizacijam; svoboda izražanja; pravica voliti; pravica političnih voditeljev, da tekmujejo za podporo/volilne glasove; alternativi viri informacij; primernost za javno funkcijo; svobodne in poštene volitve; pravica političnih akterjev, da tekmujejo za podporo, in institucije, ki oblikujejo javne politike glede na volilne glasove ter drugače izražene preference volivcev. Po dosedanjih izkušnjah lahko uporaba/zloraba orodij UI vpliva predvsem na uveljavljanje pravice do udeležbe, na svobodo izražanja, alternativne vire informacij ter na svobodne in poštene volitve. Zato tem elementom posvečamo več pozornosti.

A kdaj volitve veljajo za svobodne? V modelu demokracije za velik del družbe so volitve svobodne, če imajo volivci možnost sodelovati na njih brez prisile ali omejitev pred volilnim dnevom in na volilni dan, po volilnem dnevu pa imajo možnost legalne pritožbe.

Kaj pa poštenost volitev? Kriteriji za oceno, da so volitve poštene, so kompleksni. Jørgen Elklit in Palle Svensson sta splošno Dahlovo opredelitev razdelala zelo natančno. Menita, da mora biti volilni proces pregleden že pred volilnim dnem. Nobena politična stranka ali skupina nima nobenega privilegija. Ni ovir za vpis v volilni register. Volilna komisija je neodvisna in nepristranska. Policija, vojska in sodišča kandidate obravnavajo nepristransko. Stranke in kandidati imajo enake možnosti za vključevanje v volilni proces. Na voljo so neodvisni izobraževalni programi za volivce. Volilna kampanja je urejena, upoštevajo se pravila obnašanja, ni zlorab vladnih objektov za volilno kampanjo. Elklit in Svensson pod vplivom skandinavskih izkušenj poudarjata tudi, da morajo politične stranke imeti enak dostop do nepristranskega dodeljevanja javnih sredstev.

Na volilni dan imajo predstavniki političnih strank, akreditirani lokalni in mednarodni volilni opazovalci ter mediji dostop do vseh volišč. Volitve so tajne. Volivci niso ustrahovani. Volilni lističi so učinkovito oblikovani. Prazni volilni lističi so primerno obravnavni. Poskrbljeno je za ustrezne preventivne ukrepe pri transportu volilnih materialov. Volišča so nepristransko varovana.

Po volilnem dnevu so rezultati objavljeni uradno in ekspeditivno. Vse volilne pritožbe so obravnavane nepristransko. Mediji nepristransko poročajo o volilnih rezultatih. Volilni rezultati so sprejeti.

Pri vsem tem ne smemo pozabiti, da je pravica sodelovati na volitvah tesno povezana z mnogoterimi človekovimi pravicami, kot so enakost, nediskriminacija, pravica do svobode izražanja, svobode združevanja in mirnega združevanja, svobode gibanja in pravice do zasebnosti. Pravice so še posebej ogrožene v okoliščinah velikih družbenih neenakosti in različnih kriz.

Učinki uporabe umetne inteligence v volilni politiki

Kaj sploh je umetna inteligenca? Niti strokovnjaki na računalniškem področju si niso edini pri njenem opredeljevanju. Zdi pa se, da definicije postajajo vedno bolj kompleksne. Ena od novejših definicij opredeljuje, da je UI sposobnost računalnika, da izvaja kognitivne funkcije, ki jih povezujemo s človeškim umom: zaznavanje, sklepanje, interakcija z okoljem, reševanje problemov, oblikovanje odločitev in celo izkazovanje ustvarjalnosti (Arun Rai, Panos Constantinides, Saonee Sarker).

Umetna inteligenca je tudi v zgornji definiciji še vedno zelo abstrakten pojem, ki ga ne moremo neposredno povezati z nobenim konkretnim vsebinskim področjem. Enako velja za politično področje. Gre namreč za množico različnih tehnologij, orodij in sistemov, izmed katerih se mnoge še razvija in testira, vedno več pa se jih uporablja na različnih področjih družbenega življenja. Nekatere se že uporabljajo tudi v volilnih procesih.

V politični praksi gre pravzaprav za uporabo konkretnih orodij UI za konkretne politične namene. Na področju volitev se npr. ponekod že uporabljajo pri dopolnjevanju volilnih registrov, spreminjanju meja volilnih enot v korist določenih političnih strank (gerrymandering), za preverjanje identitete volivcev, seznanjanje državljanov z informacijami v zvezi z volitvami (npr. boti). Prinašajo tudi pocenitev in velike inovacije na področju volilnih kampanj. Orodja UI namreč omogočajo izjemno hitro in lahko množično ciljanje volivcev s personaliziranimi volilnimi sporočili, vključno z uporabo različnih jezikov ter kloniranjem podob in glasov politikov.

Vprašanje pa je, koliko in s kakšnimi končnimi učinki vse to vpliva na rezultate volitev, saj niso vsi volivci vpeti v digitalna socialna omrežja. Strokovnjaki ocenjujejo, da je bil nasploh vpliv na volitve po svetu lani relativno majhen. In vendar posamezni primeri opozarjajo na pomembne zlorabe tehnologij UI. Med najnovejšimi je primer predsedniških volitev v Romuniji 2024. V nekaterih primerih politični voditelji in institucije zmorejo reagirati na tovrstne zlorabe relativno hitro, nekateri ne. V Romuniji je ustavno sodišče razveljavilo lanske novembrske predsedniške volitve.

Protidemokratična uporaba orodij UI v volilnih procesih

Analitiki so doslej opazili mnogotere vidike uporabe orodij UI v volilnih procesih, ki škodijo demokratičnosti volitev. Lahko jih razvrstimo v štiri kategorije: pravica do udeležbe, svoboda izražanja, alternativi viri informacij ter svobodne in poštene volitve.

Nove tehnologije so bile tako uporabljene za omejevanje udeležbe volivcev v volilnih procesih. Gre za upočasnjevanje interneta, prekinjanje delovanja določenih aplikacij, zapiranje računov posameznih politikov na določenih platformah, ponovno odpiranje računov posameznih politikov na določenih platformah. Takšno poseganje v dostopnost interneta in določenih platform pa ni zgolj privilegij vladnih igralcev, temveč je tudi čedalje močnejši privilegij zasebnikov – skrajno bogatih posameznikov, ki so lastniki takšnih platform.

Vladam napredek UI omogoča nove načine in obsege nadzorovanja ljudi. Zasebnim podjetnikom omogoča uporabo in zlorabo podatkov o posameznikih. Ljudje namreč z objavljanjem svojih osebnih podatkov, stališč, občutkov in dejanj na spletu tvegajo nevarnost zlorabe zasebnih podatkov. Že pred nekaj leti so bila objavljena poročila o tem, kako zasebna podjetja zbirajo in analizirajo tovrstne podatke, napovedujejo obnašanje posameznikov in v skladu s tem ciljajo posameznike z njim prilagojenimi vsebinami z namenom vplivati na volilno obnašanje teh posameznikov.

Med problematičnimi praksami se je že pred leti začelo mikrociljanje volivcev, potekalo pa je na primer z zlorabo facebooka (brexit), v Indiji pa prek platform, kot je npr. whatsapp. Indonezijski politiki so uporabili tiktok za mikrociljanje mladih volivcev. Tiktok je bil uporabljen tudi za zunanje vplivanje na romunske predsedniške volitve 2024.

Svoboda izražanja na spletu v okoliščinah široke uporabe UI prinaša tudi dodatne nevarnosti za demokracijo. Raziskave so pokazale, da sta politični ekstremizem in polarizacija z uporabo orodij UI v socialnih omrežjih dodatno močno okrepila.

S širjenjem in z lahko dostopnostjo orodij UI so se na široko odprla tudi vrata posameznikom, ki uporabljajo in zlorabljajo nova orodja v politične (in druge) namene. Politični vplivneži so se razširili zelo hitro. V zadnjem času se nekateri njihovi računi na socialnih omrežjih in youtubu spreminjajo v medijska podjetja z ekipami sodelavcev in sponzorstvi različnih podjetij. Povsem novo razsežnost pa je prinesla politična dejavnost lastnika medijske platforme X (prej twitter), ki ne vpliva le na algoritemske značilnosti X, temveč se osebno digitalno politično angažira prek meja ZDA.

Še posebej je lahkotnost uporabe generativne UI (npr. globoki ponaredki fotografij in videov) prinesla nove razsežnosti v politično udeležbo posameznikov in skupin. Potem ko so se z velikim profitom uveljavile v pornovsebinah, je javnost opazila tudi njihovo uporabo in zlorabo na političnem področju.

Poleg političnega sodelovanja posameznikov so orodja UI olajšala in okrepila participativne dezinformacijske kampanje, kjer voditelji mobilizirajo sledilce za dodatno širjenje dezinformacij. Raziskava v ZDA je pokazala, da tri četrtine političnih vsebin na twitterju proizvaja le okrog šest odstotkov uporabnikov, ki pa so hkrati tudi bolj polarizirani (so nesorazmerno zelo liberalni ali zelo konzervativni).

Orodja UI so bila že uporabljena za prikrojevanje volilnih registrov, za preprečevanje udeležbe na volitvah (dezinformacije o nedostopnosti ali zaprtju določenih volišč, ciljano zastraševanje z namenom odvrniti določene volivce od volitev).

Med zlorabe UI šteje tudi vnaprejšnje prepričevanje volivcev o tem, da bodo volitve nepoštene oziroma »ukradene«. Vnaprejšnje širjenje negativnih predstav o volilnih rezultatih, pripravljalna mobilizacija volivcev in organiziranje nasilnih dejanj v protest proti nesprejemljivim volilnim rezultatom, ogroža mirne volitve.

Poleg tega se krepi politizacija platform v lasti skrajno bogatih zemljanov iz ZDA, in sicer s povečevanjem deleža političnih vsebin (instagram in thread v okrilju Mete), s pristranskim ukinjanjem omejevanja svobode izražanja v korist ekstremne desnice (Muskov X), preklic preverjanja dejstev na platformah (Muskov X; facebook in instagram v okviru Zuckerbergove Mete). Pričakuje se, da bo ukinjanje moderiranja vsebin na socialnih platformah vodilo v povečano uporabo sovražnega govora in hitro širjenje ogromnih količin dezinformacij. Slednje bo verjetno najbolj prizadelo marginalne ustvarjalce: ženske, pripadnike nebelih ras in pripadnike skupnosti LGBTQ+.

Eksplozija zunanjega vmešavanja držav in skrajno bogatih

Uporaba tehnologij UI prek digitalnih omrežij je poenostavila že prej znane prakse zunanjega vmešavanja v politiko posameznih držav. Pri tem gre tako za dolgoročno vplivanje na prepričanja, stališča in obnašanje ljudi z namenom škodovati določeni državi na polju družbenega, gospodarskega in političnega življenja kot tudi za vplivanje na konkretne volitve. V zadnjem času je največ poročanja o vmešavanju Rusije, Irana in Kitajske v volitve drugih držav.

Zunanje vmešavanje zasebnih posameznikov pa še nikoli v zgodovini ni doseglo sedanjih razsežnosti. Določena zvrst kapitalizma, ki se preliva iz ZDA v svet, učinkuje tudi na družbo, ekonomijo in politiko drugih držav. Izjemno velike družbene neenakosti dajejo nesorazmerno moč posameznikom ne le v okviru posameznih držav, temveč v svetovnem merilu. V sedanjih okoliščinah le nekaj najbogatejših posameznikov v ZDA, ki so lastniki in osrednji odločevalci spletnih platform in omrežij, tako kopiči mnogotere vire moči v zgodovinsko neprimerljivi meri.

Elon Musk je svojo ekonomsko in medijsko moč v zadnjem času javno uveljavljal z neposrednim vmešavanjem v britansko politiko (s podpiranjem skrajno desne stranke Reform U. K. Party; napadom na šefa britanske laburistične vlade Keira Starmerja v sozvočju s kritiko zaprtega ekstremnega desničarja z namenom izločanja Starmerja iz politike pred naslednjimi volitvami; s širjenjem teze o neizbežnosti državljanske vojne v Združenem kraljestvu; na platformi X pa je zastavil vprašanje uporabnikom X, ali naj ZDA Britance osvobodijo njihove tiranske vlade), v nemško politiko (s podpiranjem ekstremno desne stranke Alternativa za Nemčijo – vključno z intervjujem predsednice Alice Weidel in napadanjem nemškega kanclerja Olafa Scholza na platformi X).

Politico je 8. januarja 2025 nanizal kar trinajst primerov Muskovega vmešavanja v politiko Združenega kraljestva, Nemčije, Avstrije, Kanade, Ukrajine, Avstralije, Brazilije, Irske, Romunije, Danske/Grenlandije, Nizozemske, Venezuele, Brazilije, Finske in EU.

Ali je mogoče orodja UI uporabiti v prid demokratičnim volilnim procesom?

O pozitivnih vidikih uporabe orodij UI v volilnih procesih se veliko govori kot o potencialu. Orodja UI lahko podpirajo večjo dostopnost in preglednost volitev. Z razvojem orodij UI za nadzor nad zlorabo UI bi naj bilo mogoče omejevati širjenje dezinformacij.

Civilnodružbeni igralci in demokratični mediji lahko uporabijo orodja UI za demokratično spremljanje in varovanje integritete volitev. Primer takih projektov je npr. spremljanje in sistematizacija podatkov o napadih na politične institucije, kandidate in politične stranke tako na socialnih omrežjih kot tudi v tradicionalnih medijih.

Kaj lahko storimo?

Dosedanje izkušnje nakazujejo, da lahko uporaba/zloraba orodij UI prizadeva pravico do zasebnosti, do neke mere pa vpliva tudi na uveljavljanje pravice do udeležbe, na svobodo izražanja, alternativne vire informacij ter na svobodnost in poštenost volitev. V posameznih primerih je ta vpliv bolj izrazit (primer romunskih predsedniških volitev).

In vendar je nemogoče natančno izmeriti vpliv uporabe/zlorabe UI v volilnih procesih. Volilno obnašanje je namreč rezultat mnogoterih dejavnikov. Nekateri analitiki trdijo, da je, v celoti gledano, vpliv uporabe UI na volitve precej omejen. Hkrati pa vendarle ne gre zanemariti, da ima lahko v določenih okoliščinah zelo velik konkreten vpliv. Poleg tega se UI uporablja izven volilnega procesa in v različnih fazah volilnega procesa (torej ne le v volilnih kampanjah) in dolgoročneje vpliva na širši družbeni kontekst.

Prav tako ne gre zanemariti, da se tako vladni kot nevladni akterji že ukvarjajo s problemi uporabe in zlorabe UI v politiki (npr. evropska komisija in civilnodružbene organizacije v primeru evropskih volitev), a ne vemo, kako so pri tem učinkoviti. Poleg raziskovanja negativnih pojavov je treba raziskati tudi, kakšni so načini preprečevanja in nasprotovanja takim pojavom. Potreben je razvoj tehnologij v podporo demokraciji.

V celoti gledano se velike in hitre tehnološke spremembe danes prepletajo s temeljitim spreminjanjem sodobnih družb brez vnaprej znanega izida (demokratičnega ali avtoritarnega). V takšnih okoliščinah se vedno bolj uveljavlja mnenje, da uporaba orodij umetne inteligence ni a priori niti demokratična niti protidemokratična. A vendarle je poleg izobraževanja o UI nujno potrebna regulacija tega področja, da bi aktivno vplivali na družbene spremembe in zaščitili človekove pravice in integriteto volitev v novih družbenih in tehnoloških okoliščinah.

Človeški dejavnik je tako še vedno zelo pomemben pri oblikovanju vpliva UI na politiko. Poleg političnih igralcev imajo pomembno vlogo tudi razvijalci in razširjevalci tehnologij UI, saj imajo tudi slabosti teh tehnologij (npr. netočnost informacij, ki jih sporočajo; »haluciniranje«; nepreglednost procesov, ki pripeljejo do določenih rezultatov delovanja tehnologije UI) lahko pomembne politične učinke.

***

Danica Fink Hafner, Fakulteta za družbene vede Univerze v Ljubljani