Zabranjene vrste umjetne inteligencije u EU

Europska komisija objavila je nacrt Smjernica koje daju pregled praksi umjetne inteligencije koje se smatraju neprihvatljivima zbog potencijalnih rizika za europske vrijednosti i temeljna prava.

Zakon o umjetnoj inteligenciji, čiji je cilj promicanje inovacija uz osiguranje visoke razine zaštite zdravlja, sigurnosti i temeljnih prava, klasificira sustave umjetne inteligencije u različite kategorije rizika, uključujući zabranjene, visokorizične i one koji podliježu obvezama transparentnosti.

Smjernice se posebno bave praksama kao što su štetna manipulacija, društveno bodovanje i daljinska biometrijska identifikacija u stvarnom vremenu, između ostalog.

Smjernice su osmišljene kako bi se osigurala dosljedna, učinkovita i jedinstvena primjena Zakona o umjetnoj inteligenciji u cijeloj Europskoj uniji. Iako nude dragocjene uvide u tumačenje zabrana od strane Komisije, nisu obvezujuće a mjerodavna tumačenja rezervirana su za Sud Europske unije (CJEU).

Smjernice pružaju pravna objašnjenja i praktične primjere koje pomažu dionicima da razumiju i poštuju zahtjeve Zakona o umjetnoj inteligenciji. Ova inicijativa naglašava predanost EU-a njegovanju sigurnog i etičkog krajolika umjetne inteligencije.

Komisija je navela osam slučajeva koji opravdavaju zabranu:

1. Identificiranje ljudi u stvarnom vremenu pomoću kamera na javnim mjestima

Zakon zabranjuje korištenje AI sustava opremljenih kamerama za biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhe provođenja zakona. Cilj je spriječiti scenarije u kojima bi pojedinca mogla uhvatiti policija bez unakrsne provjere s informacijama iz stvarnog svijeta. Postoje iznimke, poput sprječavanja određenih prijetnji uključujući terorističke napade.

2. Društveno bodovanje na temelju osobnih podataka koji nisu povezani s rizikom

Traka pravila koja koristi umjetnu inteligenciju za rangiranje vjerojatnosti neplaćanja zajma ili počinjenja prijevare socijalne skrbi, na primjer, oslanjajući se na osobne podatke koji nisu povezani s kontekstom, poput podrijetla, boje kože ili ponašanja na društvenim mrežama.

3. Procjena kriminalnog rizika samo na temelju biometrijskih podataka

Policija ne može koristiti AI za predviđanje rizika od kriminalnog ponašanja pojedinca, kao što je sudjelovanje u neredima ili počinjenje napada, samo na temelju crta lica ili drugih osobnih karakteristika, bez uzimanja u obzir objektivnih i provjerljivih činjenica koje su izravno povezane s njihovim postupcima.

4. Scraping online slika za stvaranje baza podataka za prepoznavanje lica

Zakon o umjetnoj inteligenciji zabranjuje alate koji pretražuju internet i snimke CCTV-a kako bi neselektivno izvukli slike lica i stvorili velike baze podataka s milijardama slika, što bi predstavljalo državni nadzor.

5. Detekcija emocija na radnim mjestima i mjestima obrazovanja

Organizacijama je zabranjeno korištenje web kamera ili sustava za prepoznavanje glasa za otkrivanje emocija ljudi.

6. Manipulacija ponašanjem pomoću AI-ja

Zabranjeno je integriranje obmanjujućih ili subliminalnih AI sustava u dizajn sučelja kako bi se korisnici potaknuli na kupnju.

7. Iskorištavanje ranjivosti povezanih s godinama ili invaliditetom

Pravila zabranjuju igračke koje se temelje na umjetnoj inteligenciji ili druge sustave namijenjene djeci, starijim osobama ili na drugi način ranjivim osobama, a koji su dizajnirani da potiču potencijalno štetno ponašanje.

8. Zaključivanje političkih mišljenja ili seksualne orijentacije na temelju biometrijskih podataka

Sustavi koji tvrde da na temelju analize lica izvode politička mišljenja ili seksualnu orijentaciju ljudi neće biti dopušteni u EU prema Zakonu o umjetnoj inteligenciji.

Napominjemo da je Komisija odobrila nacrt smjernica, ali ih još nije službeno usvojila.

Rekli bismo da nam sve ovo djeluje vrlo dobro i logično, no kao i uvijek se postavlja pitanje provedbe, odnosno tko će odlučivati o tome je li neki AI prekršio "pravila igre" i kakve će biti sankcije tvrtkama koje razviju AI koji se neće "ponašati" u skladu s ovim pravilima. Stoga mislimo da su ove smjernice isključivo deklarativne prirode jer ne vidimo način kako prisiliti neki OpenAI ili DeepSeek da ih ugrađuje u svoje modele.