Nekdanji in sedanji zaposleni v podjetjih TikTok in Meta Platforms so razkrili, da naj bi podjetji v prizadevanju za večjo priljubljenost svojih platform sprejemali odločitve, ki lahko negativno vplivajo na varnost uporabnikov.
Po njihovih besedah so notranje analize pokazale, da vsebine, ki sprožajo močna čustva, predvsem jezo, pogosto povzročijo večjo aktivnost na platformah. Zaradi tega naj bi algoritmi takšne objave pogosteje prikazovali.
Več kot deset virov iz obeh podjetij je za BBC povedalo, da so bili zaposleni pod pritiskom, da v prizadevanjih za večjo pozornost uporabnikov sprejmejo določena tveganja. Med problematičnimi vsebinami so omenili nasilje, spolno izsiljevanje in celo skrajni ekstremizem, poroča Dnevnik.
Konkurenca med platformami
V podjetju Meta, ki upravlja omrežji Facebook in Instagram, naj bi vodstvo zaposlenim naročilo, naj dovolijo več vsebin na meji sprejemljivega, da bi lažje tekmovali s TikTokom.
Tekmovanje se je dodatno okrepilo leta 2020, ko je Instagram uvedel funkcijo Instagram Reels za kratke videoposnetke. Po navedbah nekdanjega raziskovalca Matta Motyla je bila storitev uvedena brez dovolj varoval. Interna analiza je pokazala, da so bili komentarji pod takšnimi videi pogosteje žaljivi, sovražni ali nasilni.
Nekdanji zaposleni Brandon Silverman je v pogovoru za BBC povedal, da je ustanovitelj Mete Mark Zuckerberg izjemno osredotočen na konkurenco, zaradi česar podjetje ni varčevalo pri projektih, namenjenih ohranjanju prednosti pred tekmeci.
Očitanje neustreznega obravnavanja prijav
Žvižgač iz TikToka, ki je nastopil pod psevdonimom Nick, je razkril vpogled v interne sisteme za obravnavo prijav. Po njegovih besedah so v nekaterih primerih pritožbe, povezane s politiki, dobile več pozornosti kot prijave o zlorabah mladoletnikov.
Kot primer je navedel situacijo, ko so prijavo politika, ki so ga uporabniki primerjali s piščancem, obravnavali prednostno, medtem ko je bila prijava mladoletnice, ki je bila žrtev izsiljevanja z intimnimi fotografijami, označena kot manj nujna.
Po njegovem mnenju podjetje pogosto posveča več pozornosti odnosom z oblastmi, saj se želi izogniti morebitnim omejitvam ali prepovedim delovanja. Staršem je zato svetoval previdnost in dejal:
“Izbrišite TikTok. Otroke držite stran od te aplikacije, dokler je le mogoče.”
Algoritmi brez popolnega nadzora
Nekdanji inženir TikToka Ruofan Ding je opozoril, da so algoritmi platforme zelo kompleksni in delujejo kot neke vrste “črna skrinjica“. Po njegovih besedah razvijalci nimajo popolnega nadzora nad tem, katere vsebine bodo uporabnikom prikazane.
Na vpliv algoritmov opozarjajo tudi posamezne osebne zgodbe. Danes 19-letni Calum je povedal, da ga je platforma pri 14 letih začela usmerjati k vsebinam, ki so spodbujale sovraštvo in mizoginijo. “Ti videoposnetki so me razjezili,” je dejal.
Podjetji očitke zavračata
V podjetju Meta so za BBC navedbe zavrnili in poudarili, da so trditve o namernem širjenju škodljivih vsebin zaradi finančnih interesov neresnične. Dodali so, da v varnost uporabnikov vlagajo veliko sredstev.
Podobno so se odzvali tudi pri TikToku, kjer pravijo, da so očitki izmišljeni. Po njihovih navedbah platforma uporablja številne zaščitne mehanizme, namenjene predvsem zaščiti mladoletnih uporabnikov.
