Umetna inteligenca vse hitreje vstopa v zdravstveni sistem, od postavljanja diagnoz in pomoči zdravnikom vse do komunikacije s pacienti. Medtem ko mnogi v njej vidijo priložnost za bolj učinkovito in dostopno zdravstveno oskrbo, zadnji dogodki v ZDA opozarjajo, da lahko prehitro uvajanje tehnologije brez ustreznega nadzora prinese tudi resna tveganja.
V ospredju je odmevna tožba nekdanje vodje raziskav in skladnosti z umetno inteligenco na priznani ameriški kliniki Mayo, Traci Tamiko Eto. Ta trdi, da je bila odpuščena, ker je opozarjala na pomanjkljivosti pri razvoju bolnišničnih orodij umetne inteligence ter na domnevno prikrivanje njihovih napak.
Opozarjala na tveganja, nato izgubila službo
Eto se je kliniki Mayo pridružila leta 2023 kot direktorica raziskav in vodja skladnosti z umetno inteligenco. Po njenih navedbah je vodstvo večkrat opozorila na morebitne težave z zasebnostjo podatkov in na kršitve postopkov pri uvajanju novih sistemov umetne inteligence.
V tožbi navaja, da naj bi njen nadrejeni zavrnil odpravo ugotovljenih težav, saj bi to po njegovih besedah upočasnilo raziskovalne projekte in zmanjšalo konkurenčno prednost klinike.
Kasneje naj bi opozorila tudi na nepravilnosti pri razvoju digitalnega asistenta MAYA, ki uporablja umetno inteligenco. Med drugim trdi, da so razvijalci iz testiranj odstranjevali negativne rezultate, pretiravali glede zmogljivosti sistema in sprejemali odločitve, ki naj bi ogrožale varnost podatkov.
Po njenih navedbah je imel sistem pri določenih testih kar 67-odstotno stopnjo napak, vendar naj bi zaposleni te informacije poskušali prikriti, namesto da bi jih ustrezno predstavili vodstvu.
Zaradi kritik izgubila sužbo
Eto trdi, da se je po začetku opozarjanja položaj zanjo hitro poslabšal. Izključili naj bi jo iz vodstvenih sestankov in ji sporočili, da se “ne ujema s kulturo podjetja”.
Po navedbah iz tožbe naj bi dobila ultimat: bodisi sama odstopi bodisi sprejme spremembe v kadrovski dokumentaciji, ki bi lahko trajno škodovale njeni nadaljnji karieri.
Klinika Mayo očitke zavrača. V kratkem odzivu je sporočila, da vse raziskave in razvoj izvajajo skladno z veljavnimi zakoni ter da zaradi odprtega sodnega postopka primera ne bodo komentirali.
Mark Cuban: Umetna inteligenca lahko zdravstveni sistem naredi še bolj zapleten
Na dogajanje okoli umetne inteligence v zdravstvu opozarja tudi ameriški podjetnik Mark Cuban, soustanovitelj podjetja Cost Plus Drugs.
Po njegovem mnenju umetna inteligenca sama po sebi ne bo rešila največjih težav ameriškega zdravstva. Nasprotno, saj obstaja nevarnost, da bo povzročila pravo “oboroževalno tekmo” med zdravniki, bolnišnicami in zavarovalnicami.
Kot opozarja, bodo zdravniki uporabljali umetno inteligenco za hitrejše zdravljenje in administracijo, zavarovalnice pa enako tehnologijo za iskanje razlogov za zavračanje zahtevkov, dodatna preverjanja in zavlačevanje postopkov.
“Za vsakega agenta umetne inteligence, ki bo zdravnikom pomagal izboljšati oskrbo, bodo veliki zdravstveni konglomerati razvili več svojih agentov, katerih cilj bo zavlačevanje in zavračanje zahtevkov,” je zapisal na družbenem omrežju X.
Po njegovem mnenju umetna inteligenca ne bo odpravila težav, dokler bodo v sistemu ostale spodbude, ki nagrajujejo administrativne ovire in ustvarjanje dobička na račun pacientov.
Tehnologija napreduje hitreje kot sistem
Podobno razmišlja tudi ameriški zdravnik in strokovnjak za digitalno zdravstvo dr. Jeremy Dashvesky, ki je analiziral razvoj umetne inteligence v zdravstvu tri leta po prihodu ChatGPT.
Po njegovih ugotovitvah je umetna inteligenca dosegla velik napredek na številnih področjih. Danes že pomaga pri razvrščanju pacientov, pripravi odpustnih pisem, naročanju pregledov, iskanju medicinske literature, pripravi dokumentacije in podpori zdravnikom pri odločanju.
Toda po njegovem mnenju večina teh rešitev zgolj pospešuje že obstoječe postopke. “Ne odpravljamo slabih procesov, ampak jih avtomatiziramo,” opozarja.
Namesto da bi zmanjšali administracijo, jo umetna inteligenca pogosto le hitreje obdela. Namesto poenostavitve zapletenih sistemov nastajajo novi algoritmi, ki med seboj tekmujejo: eni pripravljajo zahtevke za zdravljenje, drugi iščejo razloge za njihovo zavrnitev.
Strokovnjaki opozarjajo: umetna inteligenca mora ostati pomoč, ne nadomestilo
Večina strokovnjakov se strinja, da ima umetna inteligenca velik potencial za izboljšanje zdravstvene oskrbe. Lahko skrajša administrativno delo, pomaga pri zgodnjem odkrivanju bolezni, izboljša komunikacijo s pacienti in zdravnikom omogoči več časa za zdravljenje.
A zelo pomembni so preglednost, neodvisno preverjanje učinkovitosti sistemov in zaščita žvižgačev, ki opozarjajo na morebitne nepravilnosti. Če bodo zdravstvene ustanove rezultate testiranj prikrivale ali uporabljale sisteme brez ustreznega nadzora, bi lahko umetna inteligenca namesto večje varnosti prinesla nova tveganja za paciente.
Prihodnost zdravstvene oskrbe zato po mnenju številnih strokovnjakov ne bo odvisna zgolj od tega, kako zmogljiva bo umetna inteligenca, temveč predvsem od tega, kako odgovorno jo bodo uporabljali ljudje.
