Socialna omrežja se pogosto predstavljajo kot nevtralne platforme, ki uporabnikom zgolj prikazujejo vsebine glede na njihove interese. Toda številne raziskave v zadnjih letih kažejo precej temnejšo sliko: algoritmi TikToka, Instagrama in YouTuba mladoletnike razvrščajo po spolu in jih nato usmerjajo v zelo različne, pogosto nevarne, vsebinske “zajčje luknje”.
Medtem ko deklice algoritmi bombardirajo z videi o hujšanju, popolnem telesu in motnjah hranjenja, fantje vse pogosteje dobivajo priporočila z nasilno, mizogino in skrajno desničarsko vsebino. Raziskovalci opozarjajo, da ne gre več zgolj za naključne predloge, temveč za sistemsko posledico algoritmov, katerih glavni cilj je zadržati pozornost uporabnika čim dlje.
Kako raziskovalci sploh preučujejo algoritme?
Ker podjetja, kot sta TikTok in Meta, svojih algoritmov javno ne razkrivajo, raziskovalci uporabljajo tako imenovane “sock puppet” račune, lažne profile, ki simulirajo obnašanje resničnih mladostnikov.
Organizacija Center for Countering Digital Hate (CCDH) je ustvarila več profilov 13-letnikov in spremljala, kakšne vsebine platforma priporoča. Raziskovalci so ugotovili, da je TikTok mladoletnim uporabnicam že nekaj minut po registraciji začel prikazovati videe o hujšanju, samopoškodovanju in motnjah hranjenja.
V eni izmed raziskav je škodljiva vsebina uporabnikom prihajala v povprečju vsakih 39 sekund. Posebej ranljivi so bili računi z uporabniškimi imeni, ki so namigovala na nezadovoljstvo s telesom ali željo po hujšanju.
Tudi Amnesty International je s pomočjo avtomatiziranih računov raziskoval, kako TikTok obravnava mladoletnike. Ugotovili so, da so algoritmi po nekaj urah uporabe skoraj polovico vseh priporočenih videov usmerili v tematike duševnega zdravja, samopoškodovanja ali depresije. Pri profilih, ki so pokazali najmanjši interes za takšne teme, se je intenzivnost priporočil eksponentno povečala.
Deklice: “thinspiration”, popolna telesa in motnje hranjenja
Raziskave kažejo, da algoritmi dekleta pogosto povezujejo z videi o videzu, dietah in telesni samopodobi, tudi kadar uporabnice teh vsebin aktivno ne iščejo.
Po raziskavi CCDH je TikTok sistematično priporočal vsebine, povezane z “pro-ana” kulturo, torej romantiziranjem anoreksije in ekstremnega hujšanja. Takšni videi pogosto vključujejo “what I eat in a day” (kaj jem v tem dnevu), obsesivno štetje kalorij, prikazovanje izjemno suhih teles ter “body checking” (obsesivno preverjanje telesa) posnetke.
Posebej problematično je, da algoritmi ne razlikujejo med vsebinami za okrevanje in škodljivimi vsebinami. Če mladoletnica pogleda nekaj videov o negotovosti glede telesa, ji platforma začne ponujati še več podobnih posnetkov. Raziskovalci temu pravijo “rabbit hole effect”, učinek zajčje luknje.
Na Redditu so številni uporabniki opisovali, kako hitro TikTok začne promovirati motnje hranjenja. Ena uporabnica je zapisala, da je po nekaj ogledih videov o okrevanju njen “For You” feed postal skoraj v celoti sestavljen iz pro-anoreksičnih vsebin.
Strokovnjaki opozarjajo, da takšni algoritmi pri deklicah ustvarjajo občutek, da je njihova vrednost neposredno povezana z videzom. To lahko vodi v tesnobo, depresijo, motnje hranjenja in obsesivno primerjanje z drugimi.
Fantje: nasilje, “manosphere” in skrajna ideologija
Če algoritmi deklicam prodajajo popolno telo, fantom pogosto prodajajo moč, dominacijo in jezo.
Raziskave in novinarske preiskave kažejo, da TikTok mladoletnim fantom hitro začne priporočati videe iz tako imenovane “manosphere”. To je spletna skupnost, ki promovira mizoginijo ter nadzor nad ženskami. Prav tako pa spodbuja agresivno moškost in pogosto tudi skrajno desničarske ideje.
Po raziskavi, ki jo povzema revija Salon, so raziskovalci ustvarili račune 13-letnih fantov in opazovali priporočila algoritma. Že po kratkem času uporabe so bili profili preplavljeni z nasilnimi videi, ekstremističnimi vsebinami ter posnetki vplivnežev, ki mladim fantom razlagajo, kako “dominirati” ženske ali kako naj bi bili moški “žrtve feminizma”.
Raziskovalci z University College London in University of Kent so ugotovili, da algoritmi na TikToku v nekaj dneh izrazito povečajo količino mizogine vsebine v priporočilih. Med najbolj pogostimi so bili videi, ki širijo sovraštvo do žensk, promovirajo nadzor v partnerskih odnosih ali normalizirajo nasilje.
Na Redditu so nekdanji uporabniki in analitiki opozorili, da TikTok dečke praktično avtomatično povezuje z nasilnimi vsebinami. Te pa so vsiljene zgolj na podlagi njihovega spola ali zanimanja za “moške teme”.
Zakaj algoritmi delujejo tako?
Večina družbenih omrežij uporablja priporočilne algoritme, katerih glavni cilj ni varnost uporabnikov, temveč angažiranost, koliko časa uporabnik ostane na platformi.
Močne čustvene reakcije, kot so jeza, strah, sram ali negotovost, ustvarjajo več ogledov, komentarjev in delitev. Zato algoritmi pogosto promovirajo ekstremnejšo vsebino, saj ta učinkoviteje zadržuje pozornost.
Deklice so tako pogosto usmerjene v vsebine, ki izkoriščajo negotovost glede telesa, fantje pa v vsebine, ki spodbujajo jezo, dominacijo in konflikt.
Strokovnjaki opozarjajo, da imajo mladoletniki zaradi razvoja možganov bistveno manjšo sposobnost prepoznavanja manipulacije in algoritmičnega vpliva. Prav zato so otroci in najstniki posebej ranljivi za digitalne “zajčje luknje”.
Vedno več pozivov k regulaciji
Zaradi vse več dokazov o škodljivem vplivu algoritmov na mlade se vrstijo tudi politični pritiski na tehnološka podjetja.
Evropska unija je z Aktom o digitalnih storitvah (DSA) že uvedla strožja pravila glede profiliranja mladoletnikov, raziskovalci pa opozarjajo, da platforme še vedno najdejo načine, kako personalizirati vsebine otrokom mimo formalnega oglaševanja.
V Franciji so družine več mladoletnikov vložile tožbe proti TikToku zaradi domnevne povezanosti med algoritmično priporočeno vsebino in samomori mladostnikov.
Medtem pa strokovnjaki poudarjajo, da problem ni zgolj posamezna platforma, temveč celoten poslovni model družbenih omrežij: bolj kot je vsebina ekstremna, večja je verjetnost, da jo bo algoritem potisnil pred oči mladih uporabnikov.
