Evropska unija uvodi stroža pravila u vezi sa primenom veštačke inteligencije (AI), čime se poslodavcima zabranjuje nadzor emocija zaposlenih, dok veb-sajtovi neće smeti da koriste AI za manipulaciju potrošačima.
Smernice donose pravnu sigurnost za sve koji razvijaju ili primenjuju AI sisteme na tržištu EU, ali i za nadležne organe koji će ih nadzirati. Iako nisu pravno obavezujuće, predstavljaju deo šire regulative Zakona o veštačkoj inteligenciji, koji je stupio na snagu prošle godine i u potpunosti će se primenjivati od 2. avgusta 2026. godine. Neke od zabrana već su na snazi, poput ograničenja manipulativnih AI praksi.
Jedna od ključnih zabrana odnosi se na takozvane „tamne obrasce“ – AI sisteme koji neprimetno usmeravaju korisnike ka donošenju finansijski štetnih odluka. Takođe, zabranjeno je ciljanje korisnika na osnovu starosti, invaliditeta ili socio-ekonomskog statusa radi komercijalnih interesa.
Upotreba AI u svrhu društvenog bodovanja, odnosno profilisanja građana na osnovu nepovezanih ličnih podataka poput porekla i rase, zabranjena je za državne institucije i privatne kompanije. Policiji je, s druge strane, zabranjeno da koristi biometrijske podatke za predviđanje kriminalnog ponašanja.
Poslodavci više neće moći da koriste veb-kamere i AI sisteme za prepoznavanje glasa kako bi analizirali emocionalno stanje zaposlenih. Takođe, mobilne CCTV kamere s funkcijama prepoznavanja lica ostaju zabranjene u sprovođenju zakona, osim u posebnim slučajevima uz stroge mere zaštite.
Države članice EU moraju do 2. avgusta uspostaviti nadzorna tela za sprovođenje ovih pravila. Kompanije koje ih prekrše suočiće se sa kaznama u rasponu od 1,5% do 7% ukupnog globalnog prihoda.
