Novi akt uvaja številna pravila, s katerimi se med drugim prepovedujejo vse aplikacije UI, ki predstavljajo nesprejemljivo tveganje za temeljne pravice. Tako tveganje predstavljajo sistemi UI, ki delujejo na osnovi kognitivne in vedenjske manipulacije ter profiliranja; ter sisteme, ki uporabljajo biometrične podatke za kategorizacijo ljudi glede na osebne okoliščine (npr. rasa, vera, spolna usmerjenost itd.). Slednje v praksi pomeni, da organi pregona na primer ne bodo smeli uporabljati biometrične identifikacije v živo na javnih površinah, razen v primerih, ko se iščejo pogrešane ali ugrabljene osebe, osumljenci hujših kaznivih dejanj ali za preprečevanje terorističnih napadov oziroma večjo grožnjo življenju ljudi.
Vsi sistemi, ki bodo ocenjeni kot visoko tvegani, bodo predmet stroge regulacije oziroma bodo še pred vstopom na trg morali izpolnjevati številne pogoje. Delovanje takšnih sistemov bo moral nenehno nadzorovati človek, hkrati pa bo treba ves čas skrbeti za kakovost baze podatkov, na kateri se model UI trenira, ves čas hraniti pomembne podatke o delovanju sistema ter poskrbeti za ustrezno stopnjo kibernetske varnosti.
Evropska unija poleg naštetega zahteva tudi, da so ljudje vedno jasno obveščeni, kadar pridejo v stik z umetno inteligenco, na primer, ko uporabnik namesto s človeško podporo komunicira s klepetalnim robotom (chatbot) ali ko pride v stik z vsebinami, ki so produkt umetne inteligence, predvsem s tako imenovanimi globokimi ponaredki (deepfake).
Svet EU je akt potrdil 21. maja 2024. Mathieu Michel, belgijski državni sekretar za digitalizacijo, poenostavitev administracije, varstvo zasebnosti in pripravo regulative, je ob tem poudaril: »Z aktom o umetni inteligenci Evropa poudarja pomen zaupanja, preglednosti in odgovornosti pri obravnavi novih tehnologij, hkrati pa zagotavlja, da lahko ta hitro spreminjajoča se tehnologija uspeva in spodbuja evropske inovacije.« Ob tej priložnosti je tudi slovenska ministrica za digitalno preobrazbo Emilija Stojmenova Duh poudarila, da akt predstavlja odlično ravnovesje med razvojem novih tehnologij in varovanjem človekovih pravic, ob tem pa opozorila še na pomanjkanje strokovnjakov za področje umetne inteligence.
Ključna potencialna težava, ki jo Akt EU o umetni inteligenci predstavlja z vidika raziskovalcev in razvijalcev, je omejevanje dostopa do podatkov za razvoj sistemov UI. Ker je pridobivanje ustreznih podatkov ključnega pomena za razvoj učinkovitih sistemov UI, lahko omejitve pri dostopu do podatkov v Evropski uniji povzročijo, da se organizacije zunaj Evropske unije znajdejo v izraziti prednosti zaradi manjših omejitev, ki jih bodo imele pri uporabi podatkov pri svojih raziskavah.
Pravila, ki jih določa akt, se bodo začela uporabljati postopoma, prve določbe bodo stopile v veljavo čez približno pol leta.
Več na:
Akt EU o UI: prva zakonodaja o umetni inteligenci | Teme | Evropski parlament (europa.eu)
Akt o umetni inteligenci | Shaping Europe’s digital future (europa.eu)
