Tehnološke revolucije so vedno premešale karte

Novi akt o umetni inteligenci (UI), ki je bil v EU sprejet po dolgotrajnih pogajanjih, bo začel veljati v začetku avgusta, uporabljati pa se bo začel postopoma. Obenem je tudi prva takšna zakonska ureditev na svetu.

In kaj vse bomo z aktom pridobili in kako bo zmanjšal tveganja, ki jih prinaša UI, ter kako bo na drugi strani ustvaril priložnosti in doprinesel k preglednosti tega področja? Neustrezna uporaba UI je že vodila k številnim resnim negativnim posledicam za posameznike in podjetja; večinoma iz malomarnosti, v določenih primerih pa tudi namenoma, pojasnjuje Gregor Strojin, ki od aprila vodi center odličnosti Deloitte Legal Srednje Evrope za regulacijo umetne inteligence, kjer se osredotoča predvsem na skladnost in upravljanje uporabe tehnologije.

»V nekaterih primerih so za učenje UI uporabljali neustrezne podatke, ki so krepili stare predsodke. V drugih primerih je bilo napačno sklepanje vgrajeno v program in postopke njegove uporabe. Na Nizozemskem je davčna uprava uporabljala UI za ugotavljanje goljufij pri socialnih dokladah. Zgolj na podlagi zaznanega suma so nepravilno ukrepali zoper več tisoč ljudi, kar je vodilo v številne družinske tragedije, zaradi tega pa je tudi odstopila vlada. Britanska pošta je za nadzor blagajn uporabljala napačno delujoč sistem. Številni zaposleni so šli v zapor, nekateri tudi storili samomore, ker se je vodstvo nekritično zanašalo na ugotovitve sistema, preden so ugotovili napako. Znane so tudi halucinacije generativnih modelov, kot je recimo GPT, zaradi česar je bil recimo lani kaznovan odvetnik v ZDA, ki je sodišču predložil tožbo z izmišljenimi navedbami precedensov. V Hongkongu pa so goljufi z uporabo 'deep fake' tehnologije prepričali bančnega uslužbenca, da jim je nakazal 25 milijonov dolarjev.«

Uredba EU uvaja minimalne kakovostne standarde razvoja in uporabe ter višjo stopnjo preglednosti na področjih, ki predstavljajo tveganje za varnost, zdravje in temeljne pravice. Določa postopke za zagotavljanje skladnosti in nadzora, ter ustvarja okolje, ki na različne načine vzpodbuja inovacije, še pravi Strojin.

»S tem naj bi se obseg tveganj in škodljivih primerov zmanjšal, večja varnost in predvidljivost pa okrepila pripravljenost podjetij, da tehnologijo vključujejo v svoje procese. Novi zakonodaji se bo moral prilagoditi širok spekter podjetij na trgu, ne samo razvijalci, ampak tudi uporabniki, uvozniki in distributerji, pa tudi javni sektor. Skladnost bo povečala možnosti za uspeh in rast poslovanja podjetij, nepripravljenost pa lahko vodi v težave, vključno s kaznimi,« še dodaja Gregor Strojin, ki je lokalni partner pri Odvetniški pisarni Deloitte Legal Reff – podružnica v Sloveniji. In ima več kot 20 let izkušenj na stičišču tehnologije, informacij in prava s teoretičnega, praktičnega in regulativnega vidika, zlasti na področju predpisov o UI. Bil je tudi predsednik ad hoc odbora Sveta Evrope za UI (CAHAI), ki je pripravil Okvirno konvencijo Sveta Evrope o UI, sodeloval je tudi pri razvoju uredbe EU o UI, priporočil UNESCO in etične listine CEPEJ za uporabo UI v pravosodnih sistemih.

Kaj vse bo prepovedano

Prepovedana bodo orodja, ki so posebej škodljiva ali nasprotujejo evropskim vrednotam. Mednje se uvrščajo recimo programi, ki izkoriščajo ranljive osebe, na primer otroke, starejše ali revne, ter takšni, ki namerno manipulirajo odločitve posameznikov in jim povzročajo resno škodo. »Takšna orodja se že pojavljajo v marketingu in političnih kampanjah, pa tudi za goljufije. V šolah in pri delu bo prepovedana čustvena analiza, razen iz zdravstvenih in varnostnih razlogov. Prav tako t. i. social scoring in nekatere oblike biometrične kategorizacije, na primer sklepanje o političnih preferencah ali spolni usmerjenosti na podlagi videza ali obnašanja. Omejeno bo predvidevanje verjetnosti storitve kaznivega dejanja, podobno tudi identifikacija posameznikov na javnih površinah za potrebe kazenskega pregona.«

Najpomembnejši del uredbe se, kot še poudarja Strojin, nanaša na področja visokega tveganja. K proizvodom, ki se že sedaj certificirajo, na primer medicinski pripomočki, industrijski stroji ali igrače, so dodana področja, ki pomembno vplivajo na pravice in varnost. To vključuje delo in izobraževanje, ključne storitve, recimo bank, zavarovalnic ali javnega sektorja, biometrijo, kritično infrastrukturo (promet, plin, elektrika ipd.), ter kazenski pregon, nadzor meja in migracij, pravosodja ter volitev. In uporaba UI na teh področjih bo dovoljena ob predhodni zagotovitvi skladnosti z zahtevami zakonodaje.

»Na področju dela se recimo uporabljajo različna orodja, od razvrščanja življenjepisov in ocenjevanja kandidatov, do nadzora in ocenjevanja zaposlenih. Razlogi za ocenjevanje ali dostop do priložnosti bodo morali biti transparentni. To bo vplivalo ne le na razvijalce in kadrovska podjetja, ampak tudi vsa podjetja, ki jih uporabljajo pri svojem delu, pa tudi različne platforme, ki upravljajo izvajalce, recimo za prevoz, dostavo ali različne storitve.«

Kaj čaka podjetja

In kaj vse bomo morali tudi v Sloveniji vzpostaviti na nacionalni ravni in kako se bodo morala na to pripraviti tudi podjetja? Kot pojasnjuje Strojin, bo uredba veljala neposredno, države pa morajo predvsem opredeliti organe, pristojne za nadzor nad njenim izvajanjem. »Podjetja morajo najprej preveriti, katera orodja UI uporabljajo ali načrtujejo, kakšna pravila bodo zanje veljala ter kakšne ukrepe morajo v zvezi s tem uvesti. Za pravočasno pripravo na prihajajoče obveznosti, pa tudi boljše odločitve pri investicijah v opremo, s preverjanji ni smiselno odlašati.«

Številna podjetja in startupi s področja umetne inteligence v Evropi niso zadovoljni z regulacijo, saj po njihovem mnenju negativno vpliva na inovacije, Evropa pa se že tako ali tako sooča s pomanjkanjem inovacij v tehnologiji. Na vprašanje, kako odgovarja na kritike, da ZDA na področju umetne inteligence inovira, medtem ko Evropa predvsem regulira, namesto da bi inovirala, pa Strojin odgovarja, da bo uredba določala minimalna pravila za razvoj in uporabo. »To je v preteklosti na drugih področjih, na primer pri zdravilih, inovacije celo pospešilo, saj krepi predvidljivost okolja. Izrecno se ne nanaša na raziskave in razvoj niti na osebno uporabo. Tudi ne drži, da ZDA ne regulirajo, a k temu pristopajo sektorsko in po posameznih državah. So pa splošne razlike pri dostopu do kapitala, dojemanju poslovnih tveganj in stečaja, pa tudi pravic posameznikov. Pomemben dejavnik je tudi velikost in enotnost trga. To vpliva na razpoložljivost investicij in infrastrukture, zlasti podatkovnih centrov in računalniških kapacitet, kjer ZDA prednjačijo.« še pojansjuje sogovornik.

In dodaja, da je pristop EU širši od določanja pravil, usmerjen pa je v odpravljanje strukturnih razlik na enotnem trgu, krepitev kadrov in infrastrukture. »Skozi različne programe se za to zagotavlja milijarde subvencij, kar tovrstne kritike, pa tudi mnoga podjetja, ki bi jih lahko uporabila, pogosto spregledajo. Smo priče veliki tehnološki revoluciji, te pa so v preteklosti vedno premešale karte.«

Kibernetska varnost

Pri UI pa ne moremo mimo vprašanja kibernetske varnosti in ukrepov, ki jih bo treba sprejeti v zvezi s tem. Kot pravi sogovornik, tu že obstajajo različni standardi, ki pa jih bo treba vključiti v UI orodja, da se tveganj za morebitne nedoslednosti ne prenaša na kupce. »Prisotna so tudi nova, specifična tveganja, do katerih lahko na različne načine prihaja v vseh fazah življenjskega cikla UI. Pravočasna identifikacija in preprečevanje groženj terjata preglednost in skupno iskanje rešitev, ne pa prikrivanje. Nekatere sisteme za avtonomno vožnjo se je recimo dalo zmesti z dodajanjem nalepk na prometne znake. Predstavljajte si, kaj se zgodi, če avto stop znak prepozna kot znak za omejitev hitrosti. Ali pa, če pride do vdora v sistem za nadzor plinskega ali električnega omrežja. Tveganja bo treba temeljito opredeliti že pred dajanjem v uporabo, nato pa delovanje sistemov tudi sprotno spremljati,« še pravi Gregor Strojin.

Na vprašanje, katere vse naloge bodo izvajali v Centru, ki ga vodi, pa pojasnjuje, da je uredba EU o UI del širšega pravnega okvirja. Konkurenčnost poslovanja pa terja dobro poznavanje specifičnih tveganj in priložnosti v kompleksnem in hitro spreminjajočem se okolju. »Center združuje strokovnjake po vsej Evropi, znanje in dobre prakse ter podpira razvoj novih pristopov. Uspešno svetovanje terja multidisciplinarni pristop, pravniki pa se moramo povezati z drugimi profili s tehničnimi in organizacijskimi znanji. V Centru zato sodelujemo s poslovnimi svetovalci in programerji iz organizacije Deloitte, kar zagotavlja celovito in učinkovito podporo podjetjem na njihovi poti k zaupanju vredni UI.«