Danes, 26. januarja, je Evropska unija uradno sprožila preiskavo družbenega omrežja X (nekdanji Twitter) in njegove umetne inteligence Grok, ki deluje pod okriljem Elona Muska. Preiskava se nanaša na resne obtožbe, da je bila umetna inteligenca uporabljena za ustvarjanje in distribucijo nezakonitih vsebin, vključno z otroško pornografijo.
V zgolj nekaj dneh naj bi Grok ustvaril približno tri milijone seksualiziranih slik. Uporabniki so umetni inteligenci lahko ukazali, naj generira gole ali seksualizirane podobe žensk in otrok. Po poročilih je bilo v samo dveh tednih ustvarjenih več kot 23.000 slik, ki predstavljajo otroško pornografijo. Sistem je omogočal tudi uporabo fotografij resničnih oseb, pri čemer so uporabniki Groku naročali, naj osebo “obleče v kopalke” ali ji “odstrani oblačila”.
Razprava Evropske Komisije
Kot poroča Reuters, je razprava o začetku preiskave potekala v Londonu, kjer je Evropska komisija poudarila pomen odgovornosti tehnoloških podjetij pri preprečevanju zlorab umetne inteligence.
“Pozdravljam odločitev Komisije, da začne uradno preiskavo. Kadar se pojavijo verodostojna poročila o uporabi sistemov umetne inteligence na načine, ki škodujejo ženskam in otrokom, je nujno, da se pravo EU nemudoma preuči in dosledno uveljavi,” je izjavila Regina Doherty, poslanka Evropskega parlamenta.
Evropska komisija doslej še ni podala takojšnjega uradnega stališča glede preiskave. V zadnjih tednih pa je večkrat poudarila, da se zaveda resnosti trenutne situacije, saj imata uporabnika platform X in Grok dostop do t. i. “spicy mode”«, ki omogoča ustvarjanje pornografske vsebine. Ta vsebina je lahko ustvarjena tako z umetno generiranimi liki kot tudi s pomočjo slik resničnih oseb, pogosto celo z obrazi otrok.
Elon Musk zanika obtožbe
Ustvarjanje takšne vsebine ni zabavno ali igrivo, kot ga je v preteklosti opisoval Elon Musk, temveč je povsem nezakonito. Po besedah predstavnika Evropske komisije Thomasa Regnierja je takšna vsebina nagnusna in zanjo v Evropi ni prostora. Ko je bil Elon Musk soočen z informacijami o tem, kako se njegova platforma zlorablja, je odgovoril, da o tem ni bil obveščen. Poudaril je, da ima sistem stroge varovalke, ki naj bi preprečevale ustvarjanje nezakonitih vsebin, ter dodal, da je v primerih zlorab odgovornost na strani posameznikov in ne algoritma.
Na te izjave so se odzvale številne kritike. Uporabniki so namreč javno prikazali, kako preprosto se je mogoče izogniti obstoječim omejitvam sistema. Namesto da bi Musk ukinil ali bistveno omejil možnost generiranja slik z umetno inteligenco, je to funkcionalnost prestavil v plačljiv paket, brez uvedbe dodatnih in strožjih pravil.
Kaj pravijo kritiki?
Tom Quisel, direktor podjetja Musubi AI, je ob tem izjavil, da bi bilo tehnično zelo enostavno uvesti stroge omejitve, s katerimi bi preprečili takšne zlorabe, na primer z zaznavanjem in samodejnim blokiranjem golote v slikah.
Po podatkih raziskovalnega podjetja Apptopia razkritja niso povzročila zmanjšanja uporabe aplikacij. Ravno nasprotno: od 2. januarja so se dnevni prenosi Groka povečali za 54 %, medtem ko so se prenosi aplikacije X povečali za 25 %.
