Novica



Evropski parlament prižgal zeleno luč za Uredbo o umetni inteligenci

20/06/2023

Evropski parlament je 14. junija s 499 glasovi za, 28 proti in 93 vzdržanimi potrdil sprejel pogajalsko stališče o Uredbi o umetni inteligenci. Namen Uredbe je zagotoviti, da bo umetna inteligenca, razvita in uporabljena v Evropi, spoštovale zakone in temeljne vrednote EU, se borila proti digitalni diskriminaciji in preprečevala dezinformacije ter uporabo “globokih ponaredkov” (deep fake).

Uredba o umetni inteligenci (Artificial Intelligence Act) določa obveznosti za ponudnike sistemov umetne inteligence glede na raven tveganja, ki ga umetna inteligenca lahko povzroči. Sistemi z nesprejemljivo stopnjo tveganja bodo zato prepovedani, med njimi so tudi sistemi, ki se uporabljajo za socialno točkovanje oziroma razvrščanje ljudi na podlagi njihovega socialnega vedenja ali osebnih značilnosti.

 

V primerjavi s prvotnim besedilom so poslanci Evropskega parlamenta omenjeni seznam še razširili in vanj vključili naslednje prepovedi:

 

– uporaba “sprotnih” in “naknadnih” biometričnih identifikacijskih sistemov na daljavo v javno dostopnih prostorih,

– biometrični sistemi kategorizacije na podlagi občutljivih lastnosti (npr. spol, rasa, narodnost, državljanstvo, vera, politična usmerjenost),

– napovedni policijski sistemi (na podlagi profiliranja, lokacije ali preteklega kriminalnega vedenja),

– sistemi za prepoznavanje čustev, ki se uporabljajo pri kazenskem pregonu, upravljanju meja, na delovnem mestu in v izobraževalnih ustanovah,

– neusmerjeno pridobivanje biometričnih podatkov z interneta ali posnetkov CCTV za ustvarjanje podatkovnih zbirk za prepoznavanje obrazov (s čimer se kršijo človekove pravice in pravica do zasebnosti).

 

Na seznam visoko tveganih aplikacij so dodali sisteme umetne inteligence, ki se uporabljajo za vplivanje na volivce in izid volitev, ter priporočilne sisteme, ki jih uporabljajo platforme družbenih medijev (z več kot 45 milijoni uporabnikov).

 

Generativni sistemi umetne inteligence, ki temeljijo na modelih, kot je Chat GPT, bi morali v skladu z besedilom Uredbe izpolnjevati zahteve glede preglednosti (izjava, da je vsebino ustvarila umetna inteligenca), pomagati razlikovati med tako imenovanimi globokimi lažnimi in resničnimi slikami ter zagotoviti zaščitne ukrepe za preprečevanje ustvarjanja nezakonite vsebine. Objavljeni bi morali biti tudi podrobni povzetki podatkov, zaščitenih z avtorskimi pravicami, ki so bili uporabljeni za treniranje sistemov.

 

S ciljem spodbujanja inovacij in podpore manjšim in srednje velikim podjetjem so bile v Uredbo dodane izjeme za raziskovalne dejavnosti in komponente umetne inteligence, zagotovljene z odprtokodnimi licencami.

 

Po tem, ko je bilo 14. junija 2023 sprejeto parlamentarno pogajalsko stališče o Uredbi, se bodo v Evropskem svetu začeli pogovori z državami EU o končni obliki Uredbe. Cilj je doseči dogovor do konca letošnjega leta.

 

Več informacij je objavljenih na spletni strani Evropskega parlamenta.

 

 

 

 

 

 

logo