Povjerenje i izvrsnost za umjetnu inteligenciju

Prednosti umjetne inteligencije

EU ima potencijal postati svjetski predvodnik u području sigurne umjetne inteligencije. Pomoću čvrstog regulatornog okvira koji se temelji na ljudskim pravima i temeljnim vrijednostima EU može razviti sustav umjetne inteligencije koji je u interesu ljudi, poduzeća i državnih uprava.

EU i umjetna inteligencija

• Komisija je u travnju 2021. predložila Akt o umjetnoj inteligenciji, a Europski parlament i Vijeće o njemu su postigli dogovor u prosincu 2023. Njegov je cilj ublažiti potencijalne zdravstvene i sigurnosne rizike te rizike za temeljna prava građana i pritom poduprijeti razvoj inovativne i odgovorne umjetne inteligencije u EU-u. 
• Uz Akt o umjetnoj inteligenciji, ažuriranjem Koordiniranog plana o umjetnoj inteligenciji jamči se sigurnost i poštovanje temeljnih prava građana te povećavaju ulaganja i inovacije u zemljama EU-a.
• Komisija je predstavila i paket o inovacijama u umjetnoj inteligenciji za potporu europskim start-up poduzećima i MSP-ovima u razvoju pouzdane umjetne inteligencije koja je u skladu s Unijinim vrijednostima i pravilima. 

Izgradnja povjerenja prvim pravnim okvirom o umjetnoj inteligenciji

Akt EU-a o umjetnoj inteligenciji prvi je sveobuhvatni pravni okvir za umjetnu inteligenciju u svijetu. Njime će se osigurati da sustavi umjetne inteligencije koji se koriste u EU-u budu sigurni, transparentni, etički, nepristrani i pod ljudskim nadzorom. Zato su razvrstani prema riziku: 

Neprihvatljiv rizik

Zabranit će se svi sustavi koji se smatraju jasnom prijetnjom građanima EU-a: od sustava za društveno vrednovanje do igračaka s glasovnom pomoći koja potiče opasno ponašanje djece.

Visok rizik

• u kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana
• u strukovnom obrazovanju ili osposobljavanju koje osobi može uvjetovati pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita)
• u sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima)
• u zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja)
• u osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti dobivanje kredita)
• u provođenju zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza)
• u upravljanju migracijama, azilom i granicama (npr. automatizirana provjera zahtjeva za vizu)
• u pravosuđu i demokratskim procesima (npr. rješenja umjetne inteligencije za pretraživanje sudskih presuda).

Visokorizični UI sustavi pomno će se ocjenjivati prije stavljanja na tržište i tijekom njihova životnog ciklusa.

Ograničen rizik

Za sustave kao što su chatbotovi vrijede minimalne obveze u pogledu transparentnosti kako bi korisnici mogli donositi utemeljene odluke. Na njima je da odluče hoće li se upustiti u interakciju ili odustati od upotrebe aplikacije.

Minimalan rizik

Neograničeno korištenje aplikacija kao što su videoigre s UI-jem ili filtri za neželjenu e-poštu. U toj se kategoriji nalazi najveći dio UI sustava koji se trenutačno koriste u EU-u. Ona nije zahvaćena novim pravilima jer su ti sustavi minimalno ili nimalo rizični za prava ili sigurnost građana.

Pravila za dobavljače visokorizičnih UI sustava

Doživi li UI sustav u svojem životnom ciklusu znatne izmjene, postupak se ponavlja od 2. koraka.

Nakon stavljanja UI sustava na tržište država je nadležna za tržišni nadzor, subjekti za uvođenje UI-ja osiguravaju ljudski nadzor i praćenje, a dobavljači primjenjuju svoj sustav za praćenje. Povrh toga, dobavljači i subjekti za uvođenje prijavljivat će ozbiljne incidente i kvarove.

Jačanje izvrsnosti za UI

Komisija i države članice EU-a napravile su 2018. prvi korak udruživši se u izradi Koordiniranog plana za umjetnu inteligenciju, kojim su postavile temelj za nacionalne strategije i razvoj politika.

Taj je plan ažuriranjem 2021. usklađen s Komisijinim digitalnim i zelenim prioritetima te odgovorom Europe na pandemiju koronavirusa, a strategija se počela provoditi u djelo. 

Kao poticaj izvrsnosti za UI od laboratorija do tržišta, u planu je iznesena vizija za brže ulaganje u UI, pravodobnu provedbu strategija UI-ja i usklađivanje politika u području umjetne inteligencije u Uniji.

U okviru tih aktivnosti Komisija planira uspostaviti:

• javno-privatno partnerstvo za umjetnu inteligenciju, podatke i robotiku radi definiranja i provedbe zajedničkog strateškog programa za istraživanje, inovacije i uvođenje u Europi te ulaganje u njega
• dodatne mreže centara izvrsnosti u području UI-ja radi poticanja razmjene znanja i stručnosti, razvoja suradnje s industrijom te poticanja raznolikosti i uključivosti
• centre za testiranje i eksperimentiranje, koji omogućuju iskušavanje vrhunske tehnologije u stvarnim uvjetima
• digitalnoinovacijske centre, jedinstvene kontaktne točke putem kojih poduzeća mogu dobiti tehnička znanja i mogućnost za eksperimentiranje i testiranje prije ulaganja
• platformu „UI na zahtjev”, središnju europsku zbirku resursa u području UI-ja (npr. stručnih znanja, algoritama, softverskih okvira, razvojnih alata) za namjene unutar industrije i javnog sektora.

Projekti u području UI-ja koje financira EU

EU je već financirao razne projekte u području UI-ja u svim područjima društva, od poljoprivrede do zdravstva, proizvodnje ili prometa.

Tri primjera područja u kojima je primjena UI-ja od osobite koristi su zdravstvo, okoliš i suzbijanje dezinformacija.

UI i EU u brojevima