Model umetne inteligence podjetja OpenAI je junija zaobšel zaščitne ukrepe in vdrl v portal avstralskega zdravstvenega sistema, je danes sporočil avstralski premier Anthony Albanese. OpenAI je avstralsko vlado na incident opozoril šele septembra. Albanese je v pogovoru s prvim možem podjetja Samom Altmanom izrazil veliko zaskrbljenost.
Model umetne inteligence dostopal do javnih in nejavnih datotek
Albanese je dejal, da je model umetne inteligence dostopal do javnih in nejavnih datotek na portalu s statističnimi podatki avstralskega sistema zdravstvenega zavarovanja Medicare, ki se financira z javnimi sredstvi. Dodal je, da so bili mogoče prizadeti še trije vladni sistemi, poroča nemška tiskovna agencija dpa.
Incident se je zgodil junija, toda OpenAI Avstralije o njem ni obvestil do septembra, ko je podjetje poslalo elektronsko sporočilo v javni poštni predal, je ob robu zasedanja Generalne skupščine Združenih narodov v New Yorku razkril Albanese.
Podjetje OpenAI je po navedbah dpa v izjavi sporočilo, da so vdor v vladno spletno strani odkrili avgusta med pregledom, kaj je počel model. Zapisali so, da so o incidentu obvestili pristojne ter da nudijo tehnične informacije pri preiskavi incidenta in pri odpravljanju morebitnih varnostnih ranljivosti.
Preiskava še poteka
Med pregledom smo odkrili dejavnosti, ki so vključevale več avstralskih vladnih spletnih mest in storitev, ko so naši modeli med interno oceno poskušali poiskati odgovore in razpoložljive statistike za vprašanje o Avstraliji. Pri tem so naši modeli izvedli dejanja, ki jih nismo predvideli,
so dodali v izjavi.
OpenAI ni našel dokazov, da bi umetna inteligenca dostopala do kartotek pacientov. “Ne glede na to, ta situacija vsekakor ni sprejemljiva,” je poudaril avstralski premier in dodal, da preiskava še poteka.
Premier je dejal, da je govoril z glavnim izvršnim direktorjem podjetja Samom Altmanom ter izrazil “izjemno zaskrbljenost” Avstralije tako zaradi incidenta kot tudi zaradi načina, kako je OpenAI o tem obvestil vlado.
Gre za prvi znan primer domnevno nenamernega vdora umetne inteligence
Albanese je incident označil za dober primer, zakaj želi Avstralija vzpostaviti standarde na tem področju. Ti bodo po njegovih besedah zagotavljali, “da bo umetna inteligenca delovala in koristila ljudem, ne pa obratno”.
Strokovnjaki ocenjujejo, da gre za prvi znan primer domnevno nenamernega vdora umetne inteligence na vladno spletno stran na svetu, poroča britanski BBC. Vodilna ameriška podjetja na področju umetne inteligence, vključno s podjetjema OpenAI in Anthropic, so po več odmevnih vdorov umetne inteligence nedavno sporočila, da so pripravljena upočasniti razvoj te tehnologije.
STA
