EU Akt o UI: Kaj prinaša nova zakonodaja?

Kaj je EU Akt o UI in zakaj je pomemben?

EU Akt o UI je prvi celovit pravni okvir na svetu, ki ureja umetno inteligenco. Njegov glavni cilj je zagotoviti, da so sistemi UI, ki se uporabljajo v Evropski uniji, varni, etični, pregledni in nediskriminatorni, hkrati pa spodbuja inovacije in konkurenčnost. S tem Aktom želi EU vzpostaviti zaupanje v UI in zagotoviti, da bo ta tehnologija služila človeštvu, ne da bi ogrožala temeljne pravice in vrednote.

Pomen Akta je večplasten:

• Varovanje temeljnih pravic: Ščiti posameznike pred potencialnimi škodljivimi učinki UI, kot so diskriminacija, kršitve zasebnosti in omejevanje svobode.
• Spodbujanje inovacij: Z jasnimi pravili ustvarja pravno varnost za razvijalce in ponudnike UI, kar lahko spodbuja naložbe in inovacije.
• Globalni vpliv: Kot pri GDPR, se pričakuje, da bo EU Akt o UI postal globalni standard, ki bo vplival na razvoj in uporabo UI po vsem svetu.
• Digitalna suverenost: Krepi vlogo EU kot vodilnega akterja pri oblikovanju digitalne prihodnosti, temelječe na evropskih vrednotah.

Pristop k regulaciji: Klasifikacija tveganj

Osrednji steber EU Akta o UI je pristop, ki temelji na tveganjih. To pomeni, da se stopnja regulacije in zahteve razlikujejo glede na potencialno tveganje, ki ga določen sistem UI predstavlja za zdravje, varnost in temeljne pravice ljudi. Akt določa štiri stopnje tveganja:

1. Nesprejemljivo tveganje: Popolna prepoved

Ti sistemi UI so prepovedani, saj predstavljajo jasno grožnjo temeljnim pravicam in vrednotam EU. Primeri vključujejo:

• Sistemi UI, ki uporabljajo subliminalne tehnike za izkrivljanje vedenja ljudi, kar povzroča fizično ali psihično škodo.
• Sistemi za družbeno ocenjevanje (social scoring), ki jih izvajajo javni organi.
• Biometrična identifikacija v realnem času na javnih mestih s strani organov pregona, razen v izjemnih, strogo določenih primerih.
• UI, ki napoveduje kaznivo dejanje na podlagi profiliranja, z izjemo nekaterih specifičnih primerov (npr. napovedovanje prometnih nesreč).
• Ustvarjanje baz podatkov za prepoznavanje obraza z neselektivnim zajemanjem podatkov iz interneta ali nadzornih kamer.

2. Visoko tveganje: Stroge zahteve

Sistemi UI, ki sodijo v to kategorijo, so dovoljeni, vendar so zanje predpisane zelo stroge zahteve pred in med njihovo uporabo. Sem spadajo sistemi, ki se uporabljajo v občutljivih sektorjih ali aplikacijah, kjer lahko povzročijo resno škodo. Akt določa dve glavni skupini visoko tveganih sistemov UI:

• Sistemi UI, ki so vgrajeni v varnostne komponente izdelkov (npr. medicinski pripomočki, avtomobili, igrače, letala), ki so predmet zakonodaje o varnosti izdelkov. Če sistem UI ne deluje pravilno, lahko ogrozi življenje ali zdravje.
• Sistemi UI, ki se uporabljajo na specifičnih področjih, kjer lahko vplivajo na temeljne pravice. Primeri vključujejo:
  • Biometrična identifikacija in kategorizacija posameznikov.
  • Upravljanje kritične infrastrukture (npr. promet, voda, plin, elektrika), kjer bi okvara lahko ogrozila življenje in zdravje.
  • Izobraževanje in poklicno usposabljanje (npr. ocenjevanje študentov, dostop do izobraževalnih ustanov), kjer lahko napačne odločitve vplivajo na življenjske priložnosti.
  • Zaposlovanje in upravljanje delovne sile (npr. CV skenerji, ocenjevanje uspešnosti, spremljanje delavcev), kjer lahko vplivajo na dostop do zaposlitve in pravične delovne pogoje.
  • Dostop do bistvenih zasebnih in javnih storitev ter ugodnosti (npr. kreditna sposobnost, dodeljevanje socialnih ugodnosti), kjer lahko vplivajo na življenjski standard posameznikov.
  • Organi pregona (npr. ocenjevanje tveganja posameznikov, preprečevanje kaznivih dejanj).
  • Upravljanje migracij, azila in nadzora meja (npr. ocenjevanje vlog za azil, preverjanje verodostojnosti dokumentov).
  • Upravljanje pravosodja in demokratičnih procesov (npr. pomoč sodnikom pri odločanju, napovedovanje sodnih odločitev).

Ponudniki visoko tveganih sistemov UI morajo upoštevati vrsto zahtev, vključno z:

• Sistemi za upravljanje kakovosti in tveganj: Vzpostavitev robustnih procesov za zagotavljanje kakovosti in obvladovanje tveganj skozi celoten življenjski cikel sistema UI.
• Kakovost podatkov: Uporaba kakovostnih, reprezentativnih in nepristranskih podatkov za usposabljanje, validacijo in testiranje.
• Tehnična dokumentacija in vodenje evidenc: Podrobna dokumentacija o zasnovi, razvoju in delovanju sistema.
• Preglednost in zagotavljanje informacij uporabnikom: Jasno obveščanje uporabnikov o zmogljivostih, omejitvah in predvideni uporabi sistema.
• Človeški nadzor: Zagotavljanje smiselnega človeškega nadzora nad delovanjem sistema, da se preprečijo nepredvidene posledice.
• Natančnost, robustnost in kibernetska varnost: Zagotavljanje zanesljivega in varnega delovanja sistema.
• Ocena skladnosti: Preden se sistem da na trg, mora prestati postopek ocenjevanja skladnosti.

3. Omejeno tveganje: Zahteve po preglednosti

Ti sistemi UI ne predstavljajo visoke stopnje tveganja za temeljne pravice, vendar je ključnega pomena, da so uporabniki seznanjeni z njihovo interakcijo z UI. Zahteve se osredotočajo na transparentnost. Sem spadajo:

• Sistemi za interakcijo s človekom: Uporabniki morajo biti obveščeni, da komunicirajo z UI (npr. chatboti).
• Sistemi za prepoznavanje čustev ali biometrično kategorizacijo: Uporabniki morajo biti seznanjeni, da se uporablja takšna tehnologija.
• Sistemi, ki generirajo ali manipulirajo z vsebino (deepfakes): Uporabniki morajo biti obveščeni, da je vsebina umetno ustvarjena ali spremenjena.

4. Minimalno tveganje: Prosta uporaba

Večina sistemov UI spada v to kategorijo. Sem spadajo na primer video igre na podlagi UI, filtri za neželeno pošto ali sistemi za priporočila. Ti sistemi so dovoljeni brez dodatnih regulativnih omejitev, saj ne predstavljajo pomembnega tveganja za temeljne pravice. Ponudniki so vseeno spodbujeni k upoštevanju prostovoljnih kodeksov ravnanja, ki promovirajo etično in varno uporabo UI.

Ključne določbe in novosti

Urejanje visoko tveganih sistemov UI

Akt podrobno določa obveznosti ponudnikov in uporabnikov visoko tveganih sistemov UI. Med pomembnimi novostmi so:

• Obvezna ocena skladnosti: Preden se visoko tvegani sistem da na trg EU, mora proizvajalec izvesti oceno skladnosti, da se prepriča, ali sistem izpolnjuje vse zahteve Akta.
• Sistem upravljanja kakovosti in tveganj: Ponudniki morajo vzpostaviti robusten sistem za upravljanje kakovosti in tveganj, ki zajema celoten življenjski cikel sistema UI.
• Človeški nadzor: Zagotoviti je treba mehanizme za učinkovit človeški nadzor nad sistemi UI, da se preprečijo ali zmanjšajo tveganja.
• Transparentnost in obveščanje: Uporabniki morajo biti jasno obveščeni o delovanju, omejitvah in predvideni uporabi visoko tveganih sistemov UI.
• Kakovost podatkov: Podatki, uporabljeni za usposabljanje, testiranje in validacijo visoko tveganih sistemov UI, morajo biti reprezentativni, ustrezni in brez pristranskosti.

Definicija “Umetne inteligence”

Ena izmed ključnih izhodišč je jasna definicija, kaj Akt sploh razume pod “umetno inteligenco”. Definicija je široka in zajema različne sisteme, ki delujejo z različnimi stopnjami avtonomije in lahko za različne cilje, določene s strani človeka, generirajo rezultate, kot so vsebina, napovedi, priporočila ali odločitve, ki vplivajo na okolja, s katerimi interagirajo.

Urejanje generativne UI (Foundation Models)

Akt se specifično posveča tudi generativni UI, kot so veliki jezikovni modeli (LLM) tipa ChatGPT. Zanje so predpisane dodatne zahteve:

• Transparentnost: Razvijalci morajo jasno navesti, da je vsebina generirana z UI.
• Preprečevanje nezakonite vsebine: Sprejeti morajo ukrepe za preprečevanje generiranja nezakonite vsebine.
• Dokumentacija: Obvezno je objavljanje podrobnih povzetkov o uporabljenih podatkih za usposabljanje.
• Kibernetska varnost: Dodatne zahteve glede kibernetske varnosti in zaščite pred zlorabami.

Izjeme in posebnosti

Akt predvideva tudi določene izjeme, na primer za sisteme UI, ki se uporabljajo izključno za raziskovalne namene, in za sisteme, ki so razviti in uporabljeni za samo osebno, nekomercialno dejavnost. Posebne določbe veljajo tudi za organe pregona.

Penali za neupoštevanje

Za kršitve določb EU Akta o UI so predvideni visoki kazni, ki se lahko gibljejo od 7,5 milijona evrov ali 1,5 % letnega prometa podjetja do 35 milijonov evrov ali 7 % letnega svetovnega prometa, odvisno od narave in resnosti kršitve.

Vpliv na podjetja in posameznike

Za podjetja (ponudnike in uporabnike UI)

• Povečani stroški skladnosti: Podjetja bodo morala investirati v procese za oceno in upravljanje tveganj, kakovost podatkov, dokumentacijo in usposabljanje osebja.
• Potreba po strokovnem znanju: Potrebni bodo strokovnjaki za UI, pravo in etiko, ki bodo zagotavljali skladnost.
• Možnosti za inovacije: Jasna pravila lahko zmanjšajo negotovost in spodbudijo razvoj zaupanja vrednih in konkurenčnih rešitev UI.
• Konkurenčna prednost: Skladnost z Aktom lahko postane konkurenčna prednost, saj bo potrošnikom in poslovnim partnerjem signalizirala zavezanost k etični in varni UI.
• Globalni doseg: Podjetja, ki želijo delovati na trgu EU, bodo morala upoštevati ta pravila, kar bo imelo širši vpliv tudi izven EU.

Za posameznike

• Večja varnost in zaščita: Akt zagotavlja boljšo zaščito pred škodljivimi in diskriminatornimi sistemi UI.
• Povečana transparentnost: Posamezniki bodo bolje obveščeni o tem, kdaj in kako se uporablja UI, ki vpliva nanje.
• Pravica do človeškega nadzora: Pri visoko tveganih sistemih UI bodo imeli posamezniki pravico do človeškega posredovanja in preverjanja.
• Zaupanje v UI: Boljša regulacija naj bi povečala zaupanje javnosti v tehnologijo UI.

Praktični nasveti za usklajevanje z EU Aktom o UI

Zaključek

EU Akt o UI predstavlja mejnik v regulaciji umetne inteligence. Čeprav bo njegova implementacija zahtevala znatne napore in prilagoditve s strani podjetij, je njegov cilj jasen: ustvariti varno, etično in zaupanja vredno okolje za razvoj in uporabo UI. Z zgodnjim razumevanjem in proaktivnim pristopom k skladnosti lahko podjetja ne le izpolnjujejo zakonske obveznosti, temveč tudi pridobijo konkurenčno prednost in prispevajo k odgovornemu razvoju te prelomne tehnologije. EU s tem Aktom ne le varuje svoje državljane, ampak tudi postavlja standard, ki bi lahko vplival na prihodnost regulacije UI po vsem svetu.

Čas za pripravo je omejen, zato je ključnega pomena, da se organizacije začnejo seznanjati z novimi pravili in načrtovati implementacijo čim prej.