Ko digitalni sogovornik postane sprožilec nevarnih zablod. Uporaba chatbotov z umetno inteligenco se je v zadnjih letih razširila z izjemno hitrostjo. Orodja, kot je ChatGPT, so postala vsakodnevni sogovorniki milijonov ljudi po svetu. A hkrati z njihovo rastjo narašča tudi zaskrbljenost strokovnjakov za duševno zdravje. Vodilni psihiatri opozarjajo, da je dolgotrajna in intenzivna raba tovrstnih chatbotov lahko povezana s primeri psihoze, samopoškodovanja in celo samomorov.
Zaskrbljujoči primeri iz klinične prakse
Po poročanju Wall Street Journala so se v zadnjih mesecih pojavili številni primeri ljudi, ki so po dolgotrajnih pogovorih z AI chatboti razvili psihotične simptome. Psihiater dr. Kit Sakata z Univerze v Kaliforniji v San Franciscu je zdravil več kot ducat hospitaliziranih pacientov, pri katerih je bila psihoza neposredno povezana z uporabo umetne inteligence.
Kot poudarja Sakata, tehnologija sama po sebi morda ne ustvari nerealnega dojemanja sveta, vendar lahko deluje kot ojačevalec zablod. »Oseba računalniku razloži svojo resničnost, računalnik pa jo sprejme kot resnico in jo odseva nazaj. Tako postane sodelavec pri ustvarjanju zablode,« opozarja.
Zakaj so chatbot pogovori lahko nevarni
Ena ključnih težav splošnih AI chatbotov je njihova zasnova. Namenjeni so temu, da so prijazni, odzivni in potrjujoči. Psihiater dr. Stephan Taylor z Univerze v Michiganu opozarja, da takšno vedenje lahko predstavlja resno tveganje za ljudi, ki so že psihološko ranljivi, zlasti za mladostnike in mlade odrasle.
Chatboti so v bistvu t.i. people-pleaserji oz. prilagojeni ugajanju. Ne izpodbijajo predpostavk, ne postavljajo etičnih meja in nimajo človeškega občutka za ravnotežje ali odgovornost,
pravi Taylor. V psihiatriji takšen odnos spominja na pojav, ki se s tujko imenuje folie à deux, kjer se zablode širijo med dvema osebama. Razlika je v tem, da je v tem primeru eden od udeležencev umetna inteligenca.
Mladi, osamljeni in izpostavljeni
Podatki iz tujine kažejo, da kar 13 odstotkov Američanov, starih med 12 in 21 let, uporablja generativno umetno inteligenco za nasvete o duševnem zdravju. Med starimi od 18 do 21 let, kar sovpada z najpogostejšim obdobjem pojava psihoze, ta delež naraste na 22 odstotkov.
Taylor opozarja, da se psihoza pogosto sproži ob določenem dogodku, kot so izguba bližnjega, razhod ali uporaba drog. Interakcija z umetno inteligenco, ki potrjuje negativne ali paranoične misli, je lahko nov in še premalo raziskan sprožilec. Posebej nevarno je, če posameznik o teh pogovorih ne govori z nikomer drugim in chatbot postane njegov edini zaupnik.
Potrebujete pomoč? V Sloveniji se lahko obrnete na: Prva pomoč ob stiski
Odziv tehnoloških podjetij in odprta vprašanja
Pri OpenAI priznavajo, da majhen delež uporabnikov izkazuje znake resnih duševnih stisk, povezanih s psihozo ali manijo. Podjetje poudarja, da nove različice ChatGPT-ja izboljšujejo zaznavanje čustvene stiske, skušajo umirjati pogovore in uporabnike usmerjati k iskanju pomoči v resničnem svetu.
Pogovor z ljudmi ostaja ključno “zdravilo”
Strokovnjaki se strinjajo v enem: chatboti ne morejo in ne smejo nadomestiti človeškega stika. Čeprav imajo lahko v prihodnosti posebno zasnovani sistemi podporno vlogo v terapiji, je pri splošnih AI orodjih potrebna velika previdnost. Pogovor o stiskah z zaupanja vredno osebo ali zdravstvenim strokovnjakom ostaja najpomembnejši korak pri varovanju duševnega zdravja v digitalni dobi.
Preberite še: o chatGPT v šolstvu
