Evropska unija je podaljšala začasna pravila, ki spletnim platformam omogočajo prostovoljno odkrivanje gradiva spolnih zlorab otrok. Ukrep bo veljal do aprila 2028, medtem ko se v institucijah EU nadaljuje veliko pomembnejša razprava o trajni zakonodaji, ki bi lahko pomembno spremenila način, kako zasebna sporočila obravnavajo spletne platforme.
Gre za tako imenovani »Chat Control«, zakonodajni predlog, ki je bil prvič predstavljen leta 2021, njegova trajna različica, pogosto imenovana »Chat Control 2.0«, pa je bila predlagana leta 2022. Namen ukrepov je preprečevanje in odkrivanje gradiva spolnih zlorab otrok ter spletnega pridobivanja otrok.
Začasna ureditev je bila letos že skoraj odpravljena. Evropski parlamentarni odbor za državljanske svoboščine jo je marca zavrnil, nato pa je bila julija na glasovanju v Evropskem parlamentu zavrnitev tik pod zahtevano večino. Države članice so nato konec julija potrdile podaljšanje do 3. aprila 2028.
Zakaj je zakon tako sporen?
Osrednje vprašanje ni toliko začasna ureditev kot prihodnja trajna zakonodaja. Ta predvideva ocenjevanje tveganj na spletnih platformah, morebitne odredbe za odkrivanje nedovoljenih vsebin ter uporabo avtomatiziranih sistemov za pregledovanje vsebin.
Zagovorniki ukrepov opozarjajo na obseg problema. Po podatkih, predstavljenih v Evropskem parlamentu, je bilo leta 2024 zabeleženih več kot 20,5 milijona domnevnih primerov gradiva spolnih zlorab otrok. Po njihovem mnenju sedanji sistem prostovoljnega prijavljanja ni dovolj učinkovit in je odvisen od odločitev posameznih podjetij.
Kritiki pa opozarjajo, da bi lahko boj proti spolnemu izkoriščanju otrok privedel do širšega nadzora nad zasebnimi komunikacijami.
Kaj bi se dogajalo z zasebnimi sporočili?
Vse je odvisno predvsem od tega, katero aplikacijo uporabnik uporablja. Pri aplikacijah brez šifriranja od konca do konca lahko ponudnik vsebino preverja na svojih strežnikih. Pri storitvah, kot sta WhatsApp in Signal, pa je vsebina zaradi šifriranja od konca do konca za ponudnika praviloma nedostopna.
Prav zato je eno najbolj spornih vprašanj predlagane zakonodaje tako imenovano pregledovanje na napravi oziroma »client-side scanning«. Sistem bi vsebino preveril na telefonu še pred šifriranjem in pošiljanjem prejemniku.
Kako bi sistem prepoznal sporno vsebino?
Eden od načinov je tako imenovano primerjanje zgoščenih vrednosti oziroma »hashing«. Fotografija ali videoposnetek se pretvori v digitalni prstni odtis, ki se nato primerja z zbirko že prepoznanega nezakonitega gradiva.
Druga možnost je uporaba umetne inteligence in strojnega učenja, ki bi poskušala prepoznati novo ali spremenjeno gradivo. Pri besedilnih sporočilih bi lahko sistemi iskali tudi sporne vzorce komunikacije. To je še posebej problematično, saj je lahko pogovor, ki ga algoritem oceni kot sumljivega, v resnici povsem nedolžen. Kritiki opozarjajo tudi na možnost napačnih zaznav pri fotografijah in videoposnetkih.
Digitalni aktivist in nekdanji evropski poslanec Patrick Breyer opozarja, da lahko tudi primerjanje zgoščenih vrednosti povzroči veliko število lažnih zadetkov. Po njegovih besedah podatki iz Nemčije kažejo, da več kot polovica prijav, povezanih s takšnim zaznavanjem, dejansko ni kazensko relevantnih.
Poseben problem predstavljajo tudi mladoletniki, ki si med seboj pošiljajo lastne fotografije. Takšne vsebine lahko avtomatizirani sistemi zaznajo, čeprav ni šlo za kriminalno dejanje.
Sporočilo ne bo takoj poslano policiji
Če avtomatizirani sistem zazna potencialno sporno vsebino, jo lahko najprej pregleda usposobljeni človek pri ponudniku storitve. Šele po potrditvi bi lahko sledila prijava pristojnim organom.
Toda tudi ta korak je predmet kritik. Človeški pregledovalci morajo namreč vsebino presojati v velikem obsegu in v različnih pravnih okoliščinah, kar povečuje možnost napak.
Pri fotografijah je mogoče vsebino primerjati z že znanim nezakonitim gradivom, pri besedilu pa je naloga bistveno zahtevnejša. Besede in način komunikacije, ki bi jih algoritem lahko označil, se lahko pojavljajo tudi v povsem običajnih pogovorih.
Bo »Chat Control« pomenil množični nadzor?
To je eden največjih razkolov med zagovorniki in nasprotniki zakonodaje. Zagovorniki poudarjajo, da predlog ne predvideva nujno samodejnega pregledovanja vseh sporočil. Ponudniki bi morali najprej oceniti tveganje, nato pa bi lahko pristojni organ v določenih primerih zahteval časovno omejeno in sorazmerno odredbo za odkrivanje vsebin.
Nasprotniki pa opozarjajo, da bi lahko že vzpostavitev infrastrukture za pregledovanje komunikacij pomenila korak proti množičnemu nadzoru. Posebej problematično je pregledovanje vsebine na napravah uporabnikov, saj bi lahko po njihovem mnenju oslabilo samo idejo šifriranja od konca do konca.
Opozarjajo tudi, da bi takšen sistem lahko v prihodnosti razširili na druga področja. Med bolj izpostavljenimi skupinami so novinarji, žvižgači in drugi uporabniki, ki se pri občutljivi komunikaciji zanašajo na zasebnost.
Kaj pa alternativa?
Kritiki ne nasprotujejo nujno vsakemu odkrivanju nezakonitih vsebin. Patrick Breyer zagovarja predvsem ciljno usmerjeno preverjanje komunikacij, kadar obstaja utemeljen sum in ko takšno poseganje odobri neodvisno sodišče, podobno kot pri pridobitvi dovoljenja za prestrezanje komunikacij.
Ob tem bi bilo po njegovem mnenju treba bolj sistematično iskati že znano nezakonito gradivo na javnem spletu in temnem spletu ter ga odstranjevati. Kot drugo možnost izpostavlja tudi tako imenovano »varnost po zasnovi«, pri kateri bi aplikacije uporabnika opozorile, še preden bi na primer poslal intimno fotografijo ali osebne podatke. Takšno opozorilo bi se lahko izvedlo neposredno na telefonu, brez pošiljanja vsebine ponudniku.
Odločitev še ni sprejeta
Trajna zakonodaja »Chat Control 2.0« za zdaj še ni dokončno dogovorjena. Pogajanja med Evropskim parlamentom, Svetom EU in Evropsko komisijo potekajo že od konca leta 2025, vendar se strani pri vprašanju obveznega pregledovanja komunikacij še niso uspele dogovoriti.
Zadnji krog pogajanj konec junija se je končal brez dogovora, nova srečanja pa so predvidena septembra.
Za uporabnike v Sloveniji to pomeni, da trenutno ni mogoče govoriti o tem, da bi EU že »brala vsa zasebna sporočila«. Začasna pravila omogočajo prostovoljno pregledovanje določenih vsebin, pri šifriranih storitvah, kot sta Signal in WhatsApp, pa je položaj drugačen. Vendar bo prav končna oblika trajne zakonodaje odločila, kako daleč bo lahko segalo pregledovanje zasebne komunikacije v prihodnosti.
