Internet je neusmiljen. Vemo, kar pobegne na družbena omrežja, je nemogoče stlačiti nazaj v vrečo. Včasih je to za posameznika pogubno, zlasti ko gre za njegov osebni ugled in kariero. Še bolj usodna posledica vsakomur dostopnega medija pa je, kot ugotavljajo sociologi in politiki zadnja leta, vpliv na stoletja stare demokratične vzvode. Na referendume, volitve, na odločanje volivcev na splošno.

Zgodovinsko gledano sta politika in gospodarstvo s pomočjo korenčka in palice vedno uspešno brzdala medije. Ne slepimo se, tudi zasebne. S pojavom spleta se je stvar nekoliko preobrnila. Gverilci take in drugačne sorte so dobili v roke zmogljivo orožje za boj proti nasprotnikom, kar je dalo krila zatirani politični opoziciji v prenekateri državi. Ni pa trajalo dolgo, da so te iste vzvode poprijele tajne službe, tako demokratičnih kot onih topogledno manj razvitih držav. Spomnimo se obtožb, ki so spremljale zadnje ameriške predsedniške volitve, referendum o brexitu in še kaj. Tak čezmejni politični vpliv so večinoma omogočili vsakomur dostopni ciljani oglasi na družbenih omrežjih. V zadnjem letu se je na obzorju pojavila nova, še bolj preteča nevarnost.

Zelo zelo lažno

Gotovo ste že slišali za deepfakes. To so prirejeni videoposnetki, pri katerih za sintetiziranje obraznih potez in mimike uporabimo zmogljivosti umetne inteligence. Zabavno. Za izdelavo takega videa potrebujemo nekaj slikovnega materiala o posamezniku in ustrezen program, in že je mogoče vsakomur podtakniti poljubno obnašanje, z montažo zvoka pa tudi kako pikantno izjavo. Začelo se je nedolžno; splet so najprej preplavili pornografski posnetki, v katerih so nastopale znane osebnosti.

Toda pojav ima tudi precej bolj skrb vzbujajočo plat. S pomočjo deepfakes je mogoče kateremukoli politiku pripisati poljubna dejanja in mu v usta polagati poljubne besede. V kombinaciji s hitrim širjenjem informacij bi nesrečnikovo morebitno zanikanje hitro ostalo v senci originalne lažne novice. Ko se je lani pojavil ponarejeni video vinjene demokratske političarke Nancy Pelosi, ga je predsednik Donald Trump, denimo, retvital. Twitter ga nato kljub pozivom ni umaknil s svojih strežnikov, Facebook ga je nekoliko degradiral med novicami, izbrisali so ga samo na youtubu. In to je ta realnost.

Primer, kako deluje deepfake. Obraz komika Billa Haderja se ob oponašanju Toma Cruisa dejansko spreminja v Cruisov obraz: 

Nepredvidljive posledice

Minuli teden je v Las Vegasu potekal Def con, ena največjih konvencij belih hekerjev, torej tistih, ki svoje znanje uporabljajo v pozitivne namene. Vodja programskega sveta demokratske stranke Tom Perez je občinstvo nagovoril po videopovezavi, med drugim se je opravičil zaradi odsotnosti. Do tod je vse v najlepšem redu, razen da Perez ni napravil ničesar od naštetega. Demokrati so javnosti želeli prikazati razsežnosti pojava. Namreč, prihodnje leto bodo v ZDA predsedniške volitve in strah po tistem, kar se je dogajalo na prejšnjih, je prerasel v paniko. Pa ne le zato, ker bi lahko kaka sovražna država kot po tekočem traku proizvajala dezinformacije, ampak gre tudi za problem tako imenovane informacijske apokalipse. Govorimo o situaciji, ko bodo ljudje počasi postali prepričani, da so vsi videoposnetki potencialni ponaredki in da jim torej ne kaže zaupati. Tu je še nevarnost, da bi take manipulacije poleg politikov zelo verjetno merile tudi na dele populacije, ki nimajo sredstev za obrambo pred njimi, kot so ženske, take in drugačne manjšine in druge ogrožene skupine.

Kako zaznati deepfake, je vprašanje, s katerim se trenutno ukvarjajo številni znanstveniki:


 

Čudežno zdravilo, kje si?

Konec junija so kongresniki postavili vprašanje Facebooku, Googlu in Twitterju, kaj načrtujejo v zvezi s tem in ali imajo pripravljeno strategijo za boj proti prirejenim posnetkom v času predsedniške kampanje. Poziv je na neki način umesten. Ta podjetja nosijo precejšnjo moralno odgovornost za trenutno dogajanje v svetu, zato je prav, da se jim postavljajo taka vprašanja. Toda kakega jasnega odgovora ni bilo. Kar ni čudno. Pozivati spletne velikane, naj regulirajo same sebe, najverjetneje ni smiselno. Iz preteklosti smo se naučili, da so v takih primerih namenoma precej popustljivi, ko gre za nadzor vsebin, tudi tistih najbolj skrajnih. V primeru ameriške politike bi z doslednim cenzuriranjem v katerokoli smer razjezili približno polovico svojih uporabnikov, s čimer se, razumljivo, nočejo igrati.

Druga opcija je zakonsko reguliranje vsebin. Tudi tega so se konec lanskega leta po posvetu z računalniškimi znanstveniki, strokovnjaki za dezinformacije in civilnimi združenji lotili v ZDA. Osnutek zakona je pripravljen in znana je približna vsebina, ki jo je mogoče povzeti v treh točkah. Najprej, avtorji programske opreme za tako prirejanje videa bodo morali poskrbeti, da bo vsak izdelek opremljen z vodnim žigom, ki bo že na daleč opozarjal, za kaj gre. Dalje, družbena omrežja bodo morala v svoje platforme vgraditi orodja za boljše odkrivanje takih manipulacij. Zadnji ukrep je kaznovalne narave in predvideva denarne ter tudi zaporne kazni za primere, ko bi kdo z zlobnimi posnetki škodoval posameznikom ali morda celo kar nacionalni varnosti.

Ihtavo ukrepanje ali nemoč?

Bo to zadostovalo? Najverjetneje ne. Vodne žige se večinoma da programsko odstraniti ali prekriti. Velika tehnološka podjetja, kot smo že ugotovili, se le nerada obrnejo proti svojim uporabnikom, še posebej če so njihove vsebine popularne. Zaporne kazni? Jurisdikcija posamezne države se večinoma neha na njenih mejah, teh pa svetovni splet ne pozna preveč dobro. Deepfake, ki bo na splet vzniknil iz Severne Koreje, bo skoraj zanesljivo ostal nekaznovan. In, kar je morda ključno: sintetizirane vsebine so šele na začetku svojega pohoda, pomeni, da je za zakonsko uokvirjanje še nekoliko prezgodaj. Po izkušnjah je mogoče razplet napovedati že zdaj: razvijalci bodo, kot vedno v takih primerih, uspešno našli kako obvodno pot, ki ji politika s svojimi procedurami sprejemanja ne bo zmogla dovolj hitro slediti.