Nova raziskava, objavljena v BMJ Open, opozarja, da klepetalni roboti umetne inteligence pogosto podajajo netočne ali zavajajoče zdravstvene informacije.
Strokovnjaki so petim orodjem, med njimi ChatGPT, Grok in Meta AI, zastavili 50 medicinskih vprašanj. Približno polovica odgovorov je bila ocenjena kot problematična. Največ težav je pokazal Grok (58 odstotkov), sledita ChatGPT (52 odstotkov) in Meta AI (50 odstotkov).
Raziskovalci z University of Alberta in Loughborough University ugotavljajo, da so napake pogosto posledica nepopolnih ali pristranskih podatkov, na katerih temeljijo modeli. Klepetalniki naj bi se tudi prilagajali uporabnikom in ponujali odgovore, ki potrjujejo njihova prepričanja, ne nujno dejstev.
Najslabše so se odrezali pri temah, kot so matične celice, prehrana in telesna pripravljenost, nekoliko bolje pa pri vprašanjih o cepivih in raku.
Strokovnjaki opozarjajo, da umetna inteligenca nima licence za podajanje zdravstvenih nasvetov in ne more nadomestiti zdravniške presoje. Zato pozivajo k večjemu nadzoru, izobraževanju uporabnikov in previdni uporabi teh orodij v zdravstvu.
