EUROPSKA unija predložila je pravila koja bi ograničila ili zabranila korištenje umjetne inteligencije u nekim slučajevima unutar svojih granica, među ostalim i kad su u pitanju tehnološki giganti sa sjedištima u SAD-u i Kini.

Ova pravila su najznačajniji međunarodni iskorak u reguliranju umjetne inteligencije do danas, a obuhvaćaju prepoznavanje lica, autonomnu vožnju i algoritme koji upravljaju mrežnim oglašavanjem, automatiziranim zapošljavanjem i kreditnom sposobnošću.

"Određene primjene umjetne inteligencije nisu dopuštene u društvu utemeljenom na demokraciji"

Predložena pravila mogla bi pomoći u oblikovanju globalnih normi i propisa oko obećavajuće, ali sporne tehnologije, piše Wired.

"Globalno je važna poruka da određene primjene umjetne inteligencije nisu dopuštene u društvu utemeljenom na demokraciji, vladavini prava i osnovnim pravima", kaže Daniel Leufer, analitičar za europsku politiku u Access Nowu, europskoj neprofitnoj organizaciji za digitalna prava.

Leufer kaže da su predložena pravila nejasna, ali predstavljaju značajan korak prema provjeri potencijalno štetne upotrebe tehnologije. Ova rasprava vjerojatno će se pomno pratiti izvan Europske unije. Pravila bi se primjenjivala na sve kompanije koje svoje proizvode i usluge prodaju u EU. Drugi zagovornici kažu da u prijedlozima EU ima previše rupa da bi se građani mogli zaštititi od mnogih zlouporaba umjetne inteligencije.

"Činjenica da postoje neke vrste zabrana je pozitivna", kaže Ella Jakubowska, dužnosnica za propise i kampanje u European Digital Rightsu (EDR), sa sjedištem u Bruxellesu. No ona kaže da neke odredbe omogućavaju kompanijama i državnim tijelima da i dalje koriste umjetnu inteligenciju na sumnjive načine.

Predlaže se zabrana umjetne inteligencije s visokim rizikom

Predloženi propisi sugeriraju, naprimjer, zabranu primjene umjetne inteligencije s visokim rizikom, uključujući uporabu umjetne inteligencije za prepoznavanje lica, ali samo kad se tehnologija koristi za prepoznavanje ljudi u realnom vremenu u javnim prostorima. Ova odredba također ostavlja potencijalne iznimke kad policija istražuje kazneno djelo za koje bi mogla biti izrečena kazna od najmanje tri godine zatvora.

Dakle, Jakubowska napominje da bi se ta tehnologija i dalje mogla koristiti retrospektivno u školama, poduzećima ili trgovačkim centrima te u nizu policijskih istraga.

Prepoznavanje lica, koje je postalo daleko učinkovitije zahvaljujući posljednjeg napretku umjetne inteligencije, vrlo je sporno. Široko se koristi u Kini i kod niza policijskih službi u SAD-u, putem komercijalnih alata kao što je Clearview AI. Neki američki gradovi zabranili su policiji upotrebu te tehnologije kao odgovor na negodovanje javnosti.

Predložena pravila EU također će zabraniti "socijalno bodovanje temeljeno na umjetnoj inteligenciji u vršenju javne vlasti", kao i sustave umjetne inteligencije koji ciljaju "određene ranjive skupine" na načine koji bi "materijalno deformirali njihovo ponašanje" i izazvali "psihološku ili fizičku štetu". To bi moglo ograničiti upotrebu umjetne inteligencije za određivanje kreditnog rejtinga, zapošljavanje ili neke oblike oglašavanja, primjerice ako algoritam postavlja oglase za kladionice ljudima koji su ovisni o kockanju.

Propisi EU zahtijevali bi od kompanija koje koriste umjetnu inteligenciju za visokorizične aplikacije da regulatornim tijelima dokažu sigurnost za korisnike. Oni koji se ne pridržavaju pravila mogli bi biti kažnjeni globom do šest posto globalne prodaje. Predložena pravila traže od kompanija da informiraju korisnike kad pokušavaju upotrijebiti umjetnu inteligenciju za otkrivanje osjećaja ljudi ili klasifikaciju ljudi prema biometrijskim značajkama kao što su spol, dob, rasa, seksualna orijentacija ili politička orijentacija.

Leufer kaže da bi pravila mogla obeshrabriti ulaganja u određena područja, oblikujući smjer kojim umjetna inteligencija ide u EU i drugdje: "Postoji narativ da je u tijeku natjecanje u umjetnoj inteligenciji, što je besmislica. Ne bismo se trebali natjecati s Kinom u oblicima umjetne inteligencije koji omogućuju masovni nadzor".

Značajne promjene u konačnoj verziji nacrta propisa

Nacrt propisa iz siječnja objavljen je prošlog tjedna. Konačna verzija sadrži značajne promjene, naprimjer, uklanjanje odredbe koja zabranjuje visokorizične sustave umjetne inteligencije zbog kojih bi se ljudi mogli "ponašati, oblikovati mišljenje ili donijeti odluku na svoju štetu koju inače ne bi prihvatili".

Prijedlog mora proći kroz Europski parlament i Vijeće EU, a vjerojatno će se dogoditi značajne promjene prije nego što postane zakon. Pravila treba uskladiti s ostalim propisima EU, uključujući Povelju EU o temeljnim pravima i prijedlog Zakona o digitalnom upravljanju. Države članice provest će pravila donošenjem vlastitih zakona. Prijedlog predlaže stvaranje Odbora za umjetnu inteligenciju EU i nacionalnih nadzornih tijela koja će nadgledati provedbu, ali ne nudi detalje o tome kako bi oni djelovali.

AI se posljednjih godina brzo razvija, tehnološki giganti se na njemu jako obogatili

Umjetna inteligencija se posljednjih godina brzo razvija, često i prebrzo. Ključna otkrića u algoritmima koji uče iz velike količine podataka omogućili su strojevima da nauče kako, između ostalog, prepoznati lica, voziti automobile i ciljano oglašavati. Ali način rada algoritama može biti teško razumjeti ili predvidjeti, a podaci koji se ubacuju u sustave umjetne inteligencije mogu potaknuti pristranost i diskriminaciju.

Velike tehnološke kompanije, uključujući Google, Amazon i Facebook u SAD-u, te Alibabu, Tencent i Bytedance u Kini, obogatile su se koristeći umjetnu inteligenciju, ali su ponekad tu tehnologiju primijenile na upitne načine, poput otvaranja sustava prepoznavanja lica policiji ili koristeći pristrane algoritme zapošljavanja.

Avi Gesser, partner u američkoj odvjetničkoj tvrtki Debevoise, koja savjetuje američke tehnološke kompanije, kaže da će ova pravila vjerojatno imati velike implikacije na američka poduzeća, jer su i prethodni propisi EU, poput Opće uredbe o zaštiti podataka (GDPR), utjecali na propise u drugim dijelovima svijeta.

"Regulatorna tijela nerado se bave umjetnom inteligencijom, prvo, zato što misle da je to tehničko pitanje, drugo, zato što su zabrinuta gušenjem inovacija", kaže Gesser te dodaje da prijedlog EU "čini druge regulatore spremnijima angažirati se na način koji će zapravo ograničiti određeno ponašanje".

Gesser kaže da će biti potrebne godine da propisi postanu zakon, ali u konačnici bi mogli utjecati na sve vrste američkog poslovanja: "Svako oglašavanje dizajnirano je da manipulira ponašanjem. Izazov će biti odrediti što je prihvatljivo, a što neprihvatljivo."