Evropska unija je s sprejetjem AI Act postavila prvi celovit pravni okvir za umetno inteligenco na svetu. Zakonodaja, ki velja od avgusta 2024, prinaša pomembne spremembe za razvijalce, podjetja in uporabnike. Predstavljamo pet ključnih dejstev, ki jih morate vedeti o novih pravilih.
1. Tveganje določa stopnjo regulacije
AI Act razvršča sisteme umetne inteligence v štiri kategorije glede na stopnjo tveganja: nesprejemljivo tveganje, visoko tveganje, omejeno tveganje in minimalno tveganje. Sistemi z nesprejemljivim tveganjem, kot so socialno točkovanje s strani vlad ali uporaba podzavestnih manipulativnih tehnik, so popolnoma prepovedani. Za sisteme z visokim tveganjem (npr. za zaposlovanje, izobraževanje, kritično infrastrukturo) veljajo stroge obveznosti glede nadzora, preglednosti in človeškega nadzora.
2. Prepovedano je razpoznavanje čustev na delovnem mestu in v šolah
Ena od bolj odmevnih prepovedi se nanaša na uporabo sistemov za prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah. Prav tako je prepovedano brezciljno pobiranje obraznih slik z interneta ali iz nadzornih kamer za ustvarjanje baz podatkov za razpoznavanje obrazov. Biometrična kategorizacija po občutljivih lastnostih (rasa, politično prepričanje, vera, spolna usmerjenost) prav tako ni dovoljena.
3. Generativna AI mora razkriti avtorstvo in zagotoviti varnost
Sistemi generativne umetne inteligence, kot so jezikovni modeli ali orodja za ustvarjanje slik, morajo jasno označevati, da je vsebino ustvarila umetna inteligenca. Prav tako morajo razvijalci zagotoviti, da je model usposobljen na podatkih, ki ne kršijo avtorskih pravic, in da ne ustvarja nevarne ali nasilne vsebine. Uporaba generativne AI za prikrivanje identitete ali ustvarjanje deepfakes brez privolitve je strogo regulirana.
4. Kršitve se kaznujejo z visokimi globami
Za podjetja, ki ne spoštujejo AI Act, so predvidene visoke denarne kazni. Za prepovedane prakse znaša globa do 35 milijonov evrov ali 7 odstotkov letnega svetovnega prometa podjetja (kar je več kot po splošni uredbi o varstvu podatkov GDPR). Kršitve drugih obveznosti se kaznujejo z globami do 15 milijonov evrov oziroma 3 odstotkov prometa. Neresnične informacije, predložene pristojnim organom, pa z globo do 7,5 milijona evrov ali 1,5 odstotka prometa.
5. Zakonodaja se uvaja postopoma, nekatere obveznosti že veljajo
AI Act ne začne veljati naenkrat. Prepovedi nesprejemljivih praks so se začele uporabljati že februarja 2025. Obveznosti za sisteme splošnega pomena bodo veljale od avgusta 2025, pravila za sisteme z visokim tveganjem, vgrajene v regulirane izdelke (npr. medicinske pripomočke), pa bodo začela veljati avgusta 2027. Podjetjem je tako dan čas za prilagoditev, a mnogi strokovnjaki svarijo, naj ne odlašajo s pripravami.
