Sploh še lahko verjamemo fotografijam in videoposnetkom na računalniških in mobilnih napravah? Umetna inteligenca je tako napredna, da lahko prikazuje obraze največjih svetovnih voditeljev, njihov govor pa povsem priredijo. Žrtve so lahko tudi povsem neznani ljudje. Tako so zlorabili fotografije več kot sto tisoč žensk.

Nedavno so se v aplikaciji telegram pojavile gole fotografije več kot sto tisoč žensk, potem ko so vzeli njihove fotografije s facebooka. BBC poroča, da so obveščevalne službe pri tem odkrile tudi ponarejene gole fotografije mladoletnic.

Na Sensityju, obveščevalni platformi za preiskovanje zlonamernih vizualnih medijev, pojasnjujejo, da gre za tehnologijo »deepfake bot« oziroma za računalniško ustvarjene realistične fotografije, ki temeljijo na resnični predlogi. Kot je za BBC povedal Giorgio Patrini, izvršni direktor Sensityja, to ni nekaj novega, saj so pred tem z enakim postopkom ustvarjali lažne pornografske posnetke, v katere so dodajali znane osebnosti. To tehnologijo uporablja zasebni kanal v aplikaciji za sporočila telegram. Naročnik tako pošlje fotografijo oblečene osebe in v nekaj minutah dobi nazaj fotografijo osebe brez oblačil.

Res le zabava, ki ni nasilna?

Sensity je razkril, da so v zadnjem letu in pol tako zlorabili fotografije približno 105.000 ljudi. Žrtve so bile v večini primerov ženske iz Argentine, Italije, Rusije in ZDA, poroča Independent. Skrbnik kanala z vzdevkom P je celo spregovoril za BBC: »To je zabava, ki ni nasilna. Nihče ne bo s tem nikogar izsiljeval, saj je takoj jasno, da fotografije niso resnične.« Poleg tega je zatrdil, da naročnike, ki jim pošljejo fotografijo mladoletne osebe, takoj zablokirajo. Storitev so s soglasjem oseb preizkusili tudi pri BBC in potrdili, da fotografije niso povsem realistične.

Portal Wired poroča, da ima sporni kanal že več kot 25 tisoč naročnikov. Storitev je brezplačna, a omejena na obdelavo desetih fotografij na dan. Če hoče uporabnik fotografijo brez žiga, mora doplačati, vendar ne prav veliko; premijski paket za 112 fotografij brez žiga stane osem dolarjev. »Kaj smo mi proti vojnam, boleznim in drugim slabim stvarem na tem svetu,« se je branil skrbnik kanala, a vendarle obljubil, da bo odstranil vse fotografije. Pri BBC so za komentar zaprosili tudi Telegram, vendar odgovora niso prejeli.

Pravni sistem ni prilagojen

Preiskava je odkrila, da so na nekaterih fotografijah ženske, za katere bi lahko upravičeno domnevali, da so mladoletne, zato sumijo, da je bila tehnologija uporabljena tudi za ustvarjanje pedofilskih vsebin. Hkrati so razkrili, da je bilo največ uporabnikov iz Rusije in drugih držav nekdanje Sovjetske zveze, predvsem iz Ukrajine, Belorusije in Kazahstana. Iz preostalega dela sveta naj bi bilo zgolj šest odstotkov uporabnikov, poroča Wired.



Pri BBC so se pogovarjali z Nino Schick, avtorico knjige Deep Fakes and the Infocalypse. »Samo vprašanje časa je, kdaj bo tovrstna vsebina še bolj izpopolnjena. Število ponarejenih pornografskih posnetkov se podvoji vsakih šest mesecev,« je dejala. »Pravni sistem tem spremembam ni prilagojen. Naša družba se spreminja hitreje, kot si lahko predstavljamo, hkrati pa nimamo prav nobenega dogovora, kako to nadzorovati.«

Wired poroča, da se vsak mesec na pornografskih spletnih portalih znajde več kot tisoč novih ponarejenih pornografskih posnetkov. Tridesetsekundni filmček z obrazom filmske igralke Emme Watson ima čez trideset milijonov ogledov. Mnogi pornografski kanali sicer zagotavljajo, da takoj odstranijo vse posnetke, če odkrijejo, da so ponarejeni.

Poiščite pomoč za izbris

V ameriški zvezni državi Virginija so take manipulacije že prepovedali. »Takšna zloraba tehnologije žrtvam lahko uniči življenje, saj se počutijo ponižane,« dodaja Nina Schick.

Očitno se vendarle premika. Ker je bilo med žrtvami več Italijank, so preiskavo napovedale tudi tamkajšnje oblasti. V Sloveniji tovrstnih zlorab še niso zaznali, a jih poznajo iz tujine, so potrdili pri spletnem mestu Safe.si, ki ozavešča o varni rabi interneta, in na portalu Spletno-oko.si, kjer lahko prijavimo posnetke spolne zlorabe otrok.

Andrej Motl s portala Spletno oko poudarja, da je treba v primeru ponarejenih posnetkov otrok žrtvi zagotoviti vso potrebno podporo, pomagajo pa lahko tudi organizacije, ki delujejo na področju spolnih zlorab. Dodaja, da je tovrstno predelavo fotografij mogoče obravnavati kot kaznivo dejanje. Ko je podana prijava, policija zavaruje dokaze, nato pa sprožijo ukrepe za izbris fotografij in posnetkov.