O predlogu propisa su članice Evropske unije postigle dogovor u decembru 2023. i za njega su sada glasala 523 evroposlanika, 46 je bilo protiv, a 49 uzdržano, saopštio je Parlament u Strazburu.
Propis će u potpunosti zabraniti, ili samo u određenoj meri dozvoliti korišćenje opasnih sistema veštačke inteligencije u zavisnosti od stepena rizika koji predstavljaju.
Nova pravila zabranjuju korišćenje aplikacija veštačke inteligencije koje ugrožavaju prava građana, kao što su biometrijski sistemi kategorizacije na osnovu određenih ličnih osobina ili izgleda - takozvano profilisanje.
Zabranjeno će biti i stvaranje baza podataka za prepoznavanje lica na osnovu nasumičnog prikupljanja slika sa inteneta. Na radnom mestu i u školama neće biti dozvoljeno korišćenje aplikacija AI za "čitanje" emocija i raspoloženja zaposlenih ili učenika.
Zabranjena će biti i procena socijalnog ponašanja osoba uz pomoć AI, kao i pravljenje prognoza na osnovu profilisanja ljudi prema njihovim ličnim osobinama. AI neće smeti da se koristi ni za manipulisanje ljudskog ponašanja ili eksploataciju ljudskih slabosti.
U oblasti sprovođenja propisa, AI će biti dopuštena u veoma jasno određenim i, kako se navodi, malobrojnim situacijama. Ta će upotreba, prema novoj direktivi, biti moguća uz prethodnu odluku suda i geografski i vremenski ograničena na specifične slučajeve, na primer prilikom ciljane potrage za nestalim licima ili da bi se sprečio teroristički napad.
Korišćenje AI u sprovođenju propisa posle nekog događaja biće moguće samo uz odluku suda povezanu s konkretnim krivičnim delom.
Visokoriskantni sistemi veštačke inteligencije biće uslovljeni vrlo jasnim obavezama, zbog njihovog potencijala da ugroze zdravlje, bezbednost, ljudska prava, demokratiju ili vladavinu prava. Primeri takve AI tehnologije visokog rizika su oni koji budu korišćeni u ključnoj infrastrukturi, obrazovanju, i vitalnim privatnim ili javnim službama, kao na primer u zdravstvu ili bankarstvu.
U kategoriju visoko riskantnih sistema spadaju i oni koji mogu da se primene i u sprovođenju propisa, upravljanju granicama, u pravosuđu ili na primer u demokratskim procesima, poput izbora na koje AI može da utiče. Oni će morati da budu krajnje transparentni i pouzdani i da se koriste samo pod ljudskim nazorom.
Pored toga, "Deepfakes" - lažne fotografije, video i audio snimci koji su izrađeni i manipulisani uz pomoć AI, moraće jasno da budu označeni kao takvi.
Građani će imati pravo podnošenja žalbi na AI sisteme i na objašnjenje o odlukama povezanim sa takvim riskantnim sistemima, a koje se tiču njihovih prava.
Cilj propisa je da na celoj teritoriji EU štiti osnovna prava, demokratiju, vladavinu prava i ekološku održivost od sistema AI koji budu smatrani riskantnim, ali i da ujedno osnaži inovativnost i lidersku ulogu Evrope u toj oblasti.
Usvojeni propis treba da prođe kroz proveru pravne terminologije i da ga formalno odobri Savet EU, a na snagu bi trebalo da stupi pre evropskih izbora, pri čemu će članice EU za primenu pojedinih odredbi imati rok od šest do 36 meseci.
