Tehnološki napredek za človekovo nazadovanje

Ko je Kitajska pred desetimi leti pripravila veliko proslavo 60. ­rojstnega dne, so receptorji­ v ­pekinških hotelih in babice v uličnih komitejih dobili nalogo, da nemudoma obvestijo »višje­ organe«, če bi se kje pojavil ­kakšen Ujgur iz Xinjianga.

Tistega poletja so v muslimanski avtonomni pokrajini izbruhnili krvavi neredi, v katerih je bilo ubitih približno 200 ljudi, še najmanj desetkrat toliko je bilo ranjenih, tako da so bili pripadniki te narodnostne manjšine a priori sumljivi. Zlasti tisti, ki so prišli v glavno mesto tik pred veliko proslavo 1. oktobra. Danes je vse drugače. Ujguri so resda še vedno sumljivi, vendar jih zdaj ne spremljajo več babice iz uličnih komitejev in receptorji, temveč najsodobnejša tehnologija na podlagi umetne inteligence. Policija v mestnih središčih uporablja opremo za prepoznavanje obraza, katere program je prirejen ločevanju Ujgurov od Neujgurov. V nekaterih mestih ta sistem že deluje – v enem mesecu so preverili več kot pol milijona ljudi –, v drugih pa so policijske postaje šele naročile tehnologijo, s katero se bodo menda zaščitili pred neželenimi incidenti.
 

Na očeh

Ujgure namreč enačijo s težavo. Tudi če so državljani z neoporečnimi dosjeji, se nikoli ne ve. Ves čas jih je treba imeti na očeh – pravzaprav pred kamero. Kitajska je to tehnologijo dolgo premišljeno in sistematično razvijala. Območni varnostni organi so izkoristili vsako priložnost, da so pri čim več Ujgurih opravili »zdravniški pregled«, kot so imenovali ta postopek, med katerim so jim vzeli biometrične podatke, kot so DNK, krvna skupina, prstni odtis, posnetek glasu, obrazni odtis … Nato so zbrane podatke spremenili v algoritem, ki jim pošlje opozorilo, kadar je v vedenju ciljne skupine opaziti kaj sumljivega.

Veliko zanimanje vsake (tudi najmanjše) policijske postaje za to tehnologijo je spodbudilo kitajske startupe, ki so hitro ocenili, da imajo znotraj meja lastne države velikanski trg in široke možnosti za razvoj. Tako je, denimo, podjetje Cloud Walk ponudilo tehnologijo, ki lahko prepozna »občutljivo skupino ljudi v četrti«. Da ne bi bilo pomote o tem, koga imajo v mislih, je v brošuri pojasnjeno, da, na primer, »če v soseski živi en Ujgur, nato pa se v dvajsetih dneh pojavi še šest Ujgurov, sistem o tem takoj opozori varnostne organe, ki nato vse te ljudi zaslišijo, nad vsem skupaj vzpostavijo nadzor in pripravijo načrt za primer nevarnosti«.

Večina teh tehnologij je v procesu razvoja, skoraj vsak sistem pa ima določene pomanjkljivosti, ki vplivajo na natančnost. Da bi dosegli točko, ko bi lahko posameznika z umetno inteligenco izločili na podlagi rasnih lastnosti, etničnih značilnosti in celo družbene opredelitve, je treba izpeljati zelo zapleten proces, v katerega izpopolnjevanje vlagajo ogromna sredstva. Tako kot v primeru prepoznavanja kriminalcev ali narkomanov morajo tudi v primeru narodnostnih manjšin učiti stroje s pomočjo velikanske količine podatkov, ki omogočajo, da se na koncu vzpostavi funkcija za prepoznavanje Ujgurov.

Muslimanski narod turškega rodu je bil od nekdaj kamen spotike kitajskega »bratstva in enotnosti«. Ujguri pripadajo drugi civilizaciji, imajo svoj jezik, povezuje jih druga veroizpoved, najpogosteje imajo tudi drugačne obrazne poteze od večinskih Hanov. Poleg tega živijo na ozemlju, ki ga imajo za domovino. Hani so v njihovih očeh zavojevalci.

To ne pomeni, da si vsi Ujguri v Xinjiangu želijo odcepitev od LR Kitajske, da vsi podpirajo teroristične metode odpora ali da so nasilni islamisti. Toda oblast čedalje bolj pritiska na vse, in bolj ko se zdi vodstvu v Pekingu pomembno odstraniti tudi najmanjše tveganje za incident, manj je svobode za Ujgure. Najprej so prepovedali pošiljanje otrok v medrese, nato so moškim prepovedali brade, ženskam pa nošenje hidžaba. Odkar se je povečal strah pred širjenjem islamizma iz srednje Azije na kitajska tla, rušijo tudi džamije.
 

Prostor za distopijo

Internet in pametni telefoni so Ujgurom najprej prinesli upanje, da bo to pripomoglo k ohranitvi njihove identitete in avtonomije.­ Ko so leta 2009 ujgurski srednješolci in študenti prek facebooka in blogov v ujgurskem jeziku začeli protestirati, ker so v tovarniškem objektu na vzhodu Kitajske hanski delavci ubili nekaj ujgurskih delavcev, se je oblast odločila, da bo vzpostavila nadzor nad spletom in komunikacijskimi kanali. V razvoj umetne inteligence, ki naj bi jo uporabljali za nadzor, so vložili več kot sedem milijard dolarjev. Pri tem zbuja skrb odkrita namera azijske velesile, da bi to svojo tehnologijo izvozila v države, skozi katere bosta potekala njena »(gospodarski) pas in (svilna) pot«, nato pa v vse druge, ki jih bo pritegnila ta »tehnološka varnost«.



Napredne nadzorne tehnologije v tem primeru ne pomenijo manj uslužbencev. Pravzaprav so zdaj zaposlili več kot sto tisoč novih policistov, ki bodo upravljali sisteme za identificiranje Ujgurov, zbirali podatke in izpopolnjevali metode prepoznavanja. Vse to odpira prostor za razvoj neželene distopije, v kateri tehnološki napredek vodi v človekovo nazadovanje. Je to mogoče preprečiti?