EU korak bliže strogoj regulaciji umjetne inteligencije

 Ilustracija, foto: Mike McKenzie

Zakon o umjetnoj inteligenciji opsežan je dokument na kojem se radi već godinama, a poseban je interes izazvao nakon eksplozije alata generativne umjetne inteligencije.

To je dovelo do brojnih značajnih promjena Zakona u posljednjem trenutku, prenosi SEEbiz.

Uočene su nove potencijalne opasnosti do kojih brzi razvoj raznih servisa temeljenih na umjetnoj inteligenciji mogu dovesti.

Zastupnici Europskog parlamenta proširili su klasifikaciju visokorizičnih područja kako bi uključila štetu po zdravlje ljudi, sigurnost, temeljna prava ili okoliš.

Također su dodali AI sustave za utjecaj na birače u političkim kampanjama i sustave preporuka koje koriste platforme društvenih medija (s više od 45 milijuna korisnika prema Zakonu o digitalnim uslugama) na popis visokog rizika.

Klasifikacija visokorizičnih područja sada uključuje:

- Sustave daljinske biometrijske identifikacije u “stvarnom vremenu” u javno dostupnim prostorima
- Sustave daljinske biometrijske identifikacije, s jedinom iznimkom tijela za provođenje zakona za kazneni progon teških zločina i samo nakon sudskog odobrenja
- Sustave biometrijske kategorizacije koji koriste osjetljive karakteristike (npr. spol, rasu, etničku pripadnost, status državljanstva, vjeru, političku orijentaciju)
- Prediktivne policijske sustave (temeljene na profiliranju, lokaciji ili kriminalnom ponašanju u prošlosti)
- Sustave za prepoznavanje emocija u provedbi zakona, upravljanju granicama, na radnom mjestu i u obrazovnim institucijama
- Neselektivno prikupljanje biometrijskih podataka s društvenih medija ili CCTV snimaka radi stvaranja baza podataka za prepoznavanje lica (kršenje ljudskih prava i prava na privatnost)

Nacrt Zakona je osim zabrana usmjeren i na kontrolu takozvanih AI sustava "opće namjene" kao što su GPT-4 i ChatGPT, ali i AI generatori slika Stable Diffusion, Midjourney i DALL-E.