Videoposnetki slačenja, uporabe stranišča in celo spolnih odnosov, vse to zaide v roke tisočem tujim delavcem v Afriki. V ozadju so “pametna očala” Mete, ki izpolnjujejo cenovno ugodno, a sporno vlogo pri usposabljanju umetne inteligence.
Medtem ko tehnološki velikani tekmujejo v razvoju nosljive umetne inteligence, se v ozadju odvija tiho, a zaskrbljujoče razkritje. Pametna očala Mete (znana kot Ray-Ban Meta) pošiljajo uporabnikove najbolj intimne posnetke tisočem tujih delavcev za označevanje, da bi izboljšali svoje algoritme umetne inteligence. V to so vključeni ne le podatki o lokaciji, bančnih karticah in geslih, temveč celo videi uporabe stranišča, slačenja in spolnih odnosov brez vednosti uporabnikov.
Nedavno so se uporabniki zato združili v tožbo zoper Meto, kar je sprožilo pozornost regulatornih organov po vsem svetu.
Očala, ki jih je “izzval” nekdanji predsednik ZDA
Meta je marca 2023 izdala pametna očala Ray-Ban Meta, ki jih je javnosti predstavil kar Mark Zuckerberg. Sprva so očala zbudila veliko pozornosti zaradi elegantnega dizajna in naprednih funkcij. Vključujejo vgrajeno kamero, zvočnike in asistenta umetne inteligence. Ta UI pa omogoča zajemanje fotografij in videov z glasovnimi ukazi, brez potrebe po telefonu. Uporabniki lahko prek glasovnega ukaza “Hey Meta” posnamejo fotografijo ali video, kar naj bi bila revolucionarna izkušnja.
Leto kasneje je Meta predstavila še naprednejšo različico z vgrajenim zaslonom in “živim AI”, ki neprekinjeno analizira, kar uporabnik vidi, in odgovarja na vprašanja brez potrebe po budnici. Cena teh očal se giblje med 300 in 799 ameriškimi dolarji.
Vendar so te “revolucionarne” funkcije postale dvorezen meč. Leta 2025 so prodali več kot 700.000 parov, kar kaže na njihovo priljubljenost, a hkrati odpira vprašanja o varnosti in zasebnosti.
“Vse smo videli, od dnevne sobe do golih teles”
Šele marca letos je švedski časopis Svenska Dagbladet razkril presenetljivo resnico: Meta pošilja videoposnetke, ki jih zabeležijo njena pametna očala, podizvajalcu v kenijski prestolnici Nairobi. Tamkajšnji delavci vsak dan pregledujejo te videoposnetke, jih ročno označujejo in razvrščajo, da bi “nahranili” umetno inteligenco Mete.
“Videli smo že vse, od dnevnih sob do golih teles,” je povedal anonimni delavec, ki je sodeloval pri tem procesu.
Dodal je: “Nekateri posnetki prikazujejo ljudi, ki gredo na stranišče ali se slečejo. Mislim, da uporabniki teh očal ne vedo, da se snemajo. Če bi vedeli, tega ne bi storili“.
Poleg tega so ti podatki vključevali tudi bančne kartice, gesla in celotne spolne odnose. Še bolj zaskrbljujoče je, da so nekateri posnetki prikazovali obraze, ki jih algoritmi niso mogli zamegliti. To pomeni, da so delavci v Keniji videli vse, vključno z identiteto posameznikov.
Tožba uporabnikov
Po razkritju so se uporabniki združili v tožbo zoper Meto. Maja letos sta dva uporabnika vložila tožbo na zveznem sodišču v San Franciscu, ki predstavlja pravdo vseh prizadetih uporabnikov v ZDA.
V tožbi so navedli, da je Meta v svojih marketinških materialih izrecno poudarjala, da so očala “zasnovana za zasebnost, s popolnim nadzorom uporabnika”. Vendar dejansko ti posnetki ne samo da se prenašajo v tretje države, ampak jih pregledujejo tuji delavci, ki lahko vidijo uporabnikove najbolj zasebne trenutke.
“Ko uporabljate ta očala za snemanje intimnih trenutkov, bodo ti posnetki morda končali v rokah tisočih tujcev,” so zapisali v tožbi, pri čemer so poudarili, da Meta “ni nikoli razkrila tega dejstva”.
Brez povezave ni funkcij, podatki odtekajo
Preiskava švedskih medijev je odkrila tudi tehnične podrobnosti. Ko uporabnik uporablja AI funkcije očal, se zajeti videoposnetki in zvočni podatki samodejno naložijo na Metine strežnike. Nato pa se pošljejo v obdelavo podizvajalcem v Keniji.
Ključno je, da teh funkcij ni mogoče uporabljati brez povezave. Tudi če uporabnik v nastavitvah izrecno izbere “ne deli dodatnih podatkov”, bo še vedno potekal stalen prenos podatkov med očali in Metinimi strežniki. Uporabniki tega prenosa ne morejo onemogočiti.
“Meta pravi, da ima uporabnik popoln nadzor, v resnici pa je ta ‘nadzor’ zgolj fikcija,” je povedal predstavnik švedskega inštituta za varstvo podatkov.
Še en resen problem je, da se posnetki iz teh očal zlahka zlorabijo. BBC je poročal o primeru, ko je moški s pametnimi očali posnel pogovor z žensko brez njenega soglasja in ga nato objavil na spletu.
Ko je ženska zahtevala odstranitev videa, ji je ta moški odgovoril, da lahko video odstrani, vendar mora zato plačati. Čeprav je Meta kasneje posredovala in odstranila video, je ta primer pokazal, da so posnetki iz teh očal zelo zlahka zlorabljeni, žrtve pa so prepuščene same sebi.
Prepoznavanje obrazov in “popolno razkritje”
Nedavno je več kot 75 organizacij, vključno z Ameriško zvezo za državljanske svoboščine, napisalo odprto pismo Meti, v katerem izražajo zaskrbljenost glede načrtov za uvedbo funkcije za prepoznavanje obrazov v pametnih očalih. Ta tehnologija bi lahko omogočila sledenje in nadzorovanje ljudi v realnem času, kar bi bila izjemno resna kršitev zasebnosti.
“Zamislite si, da bi nekdo poleg vas v podzemni železnici lahko v trenutku izvedel ne le vaše ime, ampak tudi vaš naslov, stan, zaposlitev, dohodek, hobije in celo zdravstvene podatke. To je zelo zastrašujoče,” so zapisali v pismu.
