Povijesni sporazum EU o umjetnoj inteligenciji

Nakon maratonske rasprave koja je trajala 72 sata, pregovarači Parlamenta i Vijeća Europske unije postigli su privremeni dogovor o Zakonu o umjetnoj inteligenciji (AI Act). Ova uredba ima za cilj osigurati da su temeljna prava, demokracija, vladavina prava i održivost okoliša zaštićeni od visokorizične umjetne inteligencije, istovremeno potičući inovacije i čineći Europu predvodnicom na tom području. Pravila utvrđuju obveze za umjetnu inteligenciju na temelju njezinih potencijalnih rizika i razine utjecaja.

Prepoznajući potencijalnu prijetnju pravima građana i demokraciji koju predstavljaju određene primjene umjetne inteligencije, zakonodavci su se složili zabraniti:

- Sustave biometrijske kategorizacije koji koriste osjetljive karakteristike (npr. politička, vjerska, filozofska uvjerenja, seksualnu orijentaciju, rasu)

- Neciljano skidanje slika lica s interneta ili CCTV snimaka radi stvaranja baza podataka za prepoznavanje lica

- Prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama

- Socijalno bodovanje na temelju društvenog ponašanja ili osobnih karakteristika

- AI sustave koji manipuliraju ljudskim ponašanjem kako bi zaobišli njihovu slobodnu volju

- Korištenje umjetnu inteligencije za iskorištavanje ranjivosti ljudi (zbog njihove dobi, invaliditeta, socijalne ili ekonomske situacije)

Pregovarači su se složili oko niza zaštitnih mjera i uskih iznimaka za korištenje biometrijskih identifikacijskih sustava (remote biometric identification - RBI) u javno dostupnim prostorima u svrhe provođenja zakona, podložno prethodnom sudskom odobrenju i za strogo definirane popise zločina. "Post-remote" IRB koristio bi se isključivo u ciljanoj potrazi za osobom osuđenom ili osumnjičenom da je počinila teško kazneno djelo.

RBI u stvarnom vremenu bio bi u skladu sa strogim uvjetima i njegova bi uporaba bila vremenski i lokacijski ograničena u svrhe ciljane potrage za žrtvama otmice, trgovine ljudima i seksualnog iskorištavanja); sprječavanje konkretne i prisutne terorističke prijetnje; lokalizaciju ili identifikaciju osobe za koju se sumnja da je počinila jedno od posebnih kaznenih djela navedenih u uredbi (npr. terorizam, trgovina ljudima, seksualno iskorištavanje, ubojstvo, otmica, silovanje, oružana pljačka, sudjelovanje u zločinačkoj organizaciji, kazneno djelo protiv okoliša).

Za sustave umjetne inteligencije klasificirane kao visokorizične (zbog značajne potencijalne štete zdravlju, sigurnosti, temeljnim pravima, okolišu, demokraciji i vladavini prava) dogovorene su jasne obveze. Zastupnici u Europskom parlamentu uspjeli su među ostalim zahtjevima uključiti obveznu procjenu učinka na temeljna prava, primjenjivu i na sektor osiguranja i bankarstva.

Sustavi umjetne inteligencije koji se koriste za utjecaj na ishod izbora i ponašanje birača također su klasificirani kao visokorizični. Građani će imati pravo podnijeti pritužbe na sustave umjetne inteligencije i dobiti objašnjenja o odlukama koje se temelje na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.

Zaštitne ograde za opće sustave umjetne inteligencije

Kako bi se uzeo u obzir širok raspon zadataka koje AI sustavi mogu izvršiti i brzo širenje njegovih mogućnosti, dogovoreno je da će AI sustavi opće namjene (GPAI) i modeli na kojima se temelje morati pridržavati zahtjeva transparentnosti kako je prvobitno predložio parlament. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonom EU o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za obuku.

Za visokoučinkovite GPAI modele sa sistemskim rizikom, parlamentarni pregovarači uspjeli su osigurati strože obveze. Ako ti modeli zadovolje određene kriterije, morat će provesti evaluaciju modela, procijeniti i ublažiti sistemske rizike, provesti kontradiktorno testiranje, izvijestiti Komisiju o ozbiljnim incidentima, osigurati kibernetičku sigurnost i izvijestiti o svojoj energetskoj učinkovitosti. Zastupnici u Europskom parlamentu također su inzistirali na tome da se, dok se ne objave usklađeni standardi EU-a, GPAI sa sistemskim rizikom mogu oslanjati na kodekse prakse kako bi bili u skladu s uredbom.

Mjere potpore inovacijama i malim i srednjim poduzećima

Zastupnici u Europskom parlamentu željeli su osigurati da poduzeća, posebno mala i srednja, mogu razvijati rješenja umjetne inteligencije bez nepotrebnog pritiska industrijskih divova koji kontroliraju lanac vrijednosti. U tu svrhu, sporazum promiče takozvane regulatorne sandboxove i testiranja u stvarnom svijetu, koja su uspostavila nacionalna tijela za razvoj i obuku inovativne umjetne inteligencije prije stavljanja na tržište.

Sankcije i stupanje na snagu

Nepoštivanje pravila može dovesti do kazni u rasponu od 35 milijuna eura ili 7% ukupnog prometa do 7,5 milijuna ili 1,5% prometa, ovisno o prekršaju i veličini tvrtke.

Nakon dogovora, suizvjestitelj Brando Benifei (S&D, Italija) rekao je: „Bilo je dugo i intenzivno, ali trud se isplatio. Zahvaljujući otpornosti Europskog parlamenta, prvi svjetski horizontalni zakon o umjetnoj inteligenciji održat će europsko obećanje – osiguravajući da prava i slobode budu u središtu razvoja ove revolucionarne tehnologije. Ispravna provedba bit će ključna – Parlament će i dalje pozorno pratiti kako bi osigurao podršku novim poslovnim idejama s sandboxovima i učinkovitim pravilima za najmoćnije modele”.

Suizvjestitelj Dragos Tudorache (Renew, Rumunjska) je istakao: „EU je prva u svijetu koja je uspostavila snažnu regulativu o umjetnoj inteligenciji, usmjeravajući njen razvoj i evoluciju u smjeru usmjerenom na čovjeka. Zakon o umjetnoj inteligenciji postavlja pravila za velike, moćne modele umjetne inteligencije, osiguravajući da ne predstavljaju sustavne rizike za Uniju i nudi snažne zaštitne mjere za naše građane i naše demokracije protiv bilo kakve zlouporabe tehnologije od strane javnih tijela. Štiti naša mala i srednja poduzeća, jača naš kapacitet za inovacije i vođenje u području umjetne inteligencije te štiti ranjive sektore našeg gospodarstva. Europska unija dala je impresivan doprinos svijetu. Zakon o umjetnoj inteligenciji još je jedan koji će značajno utjecati na našu digitalnu budućnost.”

Dogovoreni tekst sada će morati službeno usvojiti Parlament i Vijeće kako bi postao zakon EU-a. Parlamentarni odbori za unutarnje tržište i građanske slobode glasovat će o sporazumu na sljedećem sastanku.