Umetna inteligenca ni več zgolj le tehnološko orodje, temveč je postala pravno regulirano področje.
Akt o umetni inteligenci (Artificial Intelligence Act) vzpostavlja celovit pravni okvir, ki neposredno vpliva na uporabo UI orodij v EU. Prehod v skladnost pa zahteva več kot le poznavanje tehnologije – zahteva razumevanje in premislek o pravnih tveganjih in pravilni uporabi AI orodij.
Republika Slovenija je za izvajanje Akta o UI sprejela tudi (izvedbeni) Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), ki za kršitve določb Akta o UI predvideva visoke globe – te znašajo do 250.000 EUR oz. v določenih primerih do 450.000 EUR za velike gospodarske družbe. Za kršitve pa se prav tako lahko kaznuje tudi odgovorna oseba kršitelja (direktor).
Akt o UI uvaja kompleksno klasifikacijo tveganj, dokumentacijo in nujno uskladitev z GDPR. Vse to pa prinaša številne operativne izzive, saj Akt o UI strogo prepoveduje določene prakse, kot je na primer uporaba UI za diskriminatorno ocenjevanje zaposlenih ali pristransko vodenje zaposlitvenih postopkov. V praksi se podjetja pri uporabi UI že danes soočajo s pravnimi izzivi, ki se jih morda niti ne zavedajo – predvsem na področju avtomatiziranega odločanja (t. i. automated decision-making), odgovornosti ter z zahtevami po algoritemski transparentnosti. Ker uvedba novih tehnologij in z njimi povezanimi zavezujočimi pravili prinaša številna odprta vprašanja, podjetja in njihove odgovorne osebe pa izpostavlja odgovornosti za kršitve teh pravil, je ključno, da so podjetja in njihovi zaposleni natančno seznanjeni z novimi pravnimi zahtevami EU.
V okviru programa zagotavljanja skladnosti (compliance/assurance) lahko ponudimo naslednje storitve:
1. Interaktivna Strateška Delavnica (Workshop)
Interaktivna delavnica, prilagojena kadrom naročnika, ki na razumljiv način razloži pravno ureditev UI in opozori na ključne obveznosti, ki jih podjetja imajo v zvezi z uporabo in integracijo UI v svoje interne procese (npr. klasifikacija sistemov UI, obveznosti ponudnikov in uporabnikov ter sankcije). Cilj take delavnice oziroma predavanja je razjasniti pravne vidike uporabe UI v procesih podjetij in opolnomočiti zaposlene, da prepoznajo tvegane prakse, še preden postanejo pravni problem.
2. Pravilnik o uporabi UI (AI Policy)
Priprava internega pravnega akta, ki določa pravila uporabe UI znotraj podjetja. Gre za navodila in smernice zaposlenim glede varnega vnosa podatkov, etična načela, varovanje poslovne skrivnosti in odgovornost pri uporabi izhodnih podatkov (outputs) idr.
3. Pravni pregled procesov (“Compliance Review”)
Osnovna pravna analiza vaših predlaganih tehničnih prilagoditev procesov, zlasti identifikacija potencialnih stičnih točk z GDPR in Aktom o UI v vaših procesih (npr. HR, prodaja, logistika). Cilj je pravočasno opozoriti na kritične točke, kjer bi integracija AU lahko povzročila pravna tveganja.
4. Podpora pri pogodbenih razmerjih in IP zaščiti
Urejanje vaših pravnih razmerij z zunanjimi deležniki, npr. dobavitelji sistemov UI / podizvajalci. Sem sodi pregled pogodb o sodelovanju z zunanjimi izvajalci (npr. licenčnih pogojev tujih ponudnikov), svetovanje glede zaščite intelektualne lastnine ipd.
POMEMBNO: Ključni roki in Digital Omnibus spremembe
V zadnjih dneh se v slovenskem in evropskem poslovnem prostoru pojavlja precej zmede glede ključnih rokov za implementacijo. Zato v tem članku pojasnjujemo uradno časovnico in najnovejše politične dogovore, ki bi lahko vplivali na vaše načrtovanje.
Uradna časovnica: Avgust 2026 ostaja glavna prelomnica
Evropska komisija je določila jasno časovnico za uveljavitev Akta o umetni inteligenci. Zakonodaja je uradno stopila v veljavo 1. avgusta 2024, vendar se njene določbe uveljavljajo postopoma.
Za večino slovenskih podjetij je ključen datum 2. avgust 2026. Takrat začne veljati večina pravil AI Acta, vključno z:
• Pravili za večino visokotveganih sistemov (iz Priloge III)
• Pravili o transparentnosti (npr. označevanje AI generirane vsebine)
• Začetkom nacionalnega in evropskega inšpekcijskega nadzora
Republika Slovenija je za izvajanje evropske uredbe sprejela Zakon o izvajanju uredbe o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI). Ta zakon določa pristojne nadzorne organe in predvideva visoke globe za kršitve, ki lahko dosežejo do 450.000 EUR za velike gospodarske družbe. Za kršitve se lahko kaznuje tudi odgovorna oseba podjetja (direktor).
Digital Omnibus: Kaj prinaša nov politični dogovor?
Zaradi opozoril industrije o prevelikem administrativnem bremenu in prekrivanju z obstoječo zakonodajo sta Svet EU in Evropski parlament 7. maja 2026 v okviru paketa “Digital Omnibus” dosegla začasen politični dogovor.
Ta dogovor predvideva zamik določenih rokov, predvsem za visokotvegane AI sisteme:
| Vrsta AI sistema | Uradni rok (AI Act) | Novi predlagani rok (Digital Omnibus) |
| Samostojni visokotvegani AI sistemi (Priloga III) | 2. avgust 2026 | 2. december 2027 |
| Visokotvegani AI sistemi, vgrajeni v regulirane proizvode (Priloga I) | 2. avgust 2027 | 2. avgust 2028 |
Pomembno opozorilo: Sprememba rokov v okviru Digital Omnibus paketa trenutno še ni dokončno pravo. Manjka formalno sprejetje s strani sozakonodajalcev, zato dogovor za zdaj predstavlja politični signal in ne zavezujoče norme.
Kako naj podjetja načrtujejo skladnost?
Zaradi negotovosti glede formalne potrditve zamikov rokov strokovnjaki svetujejo, da podjetja svoje načrtovanje skladnosti še naprej vodijo po uradni časovnici (avgust 2026). Zamik rokov v leti 2027 in 2028 je smiselno obravnavati kot opcijsko varovalko, če bo Omnibus formalno potrjen, ne pa kot izgovor za odlašanje.
Podjetja se pri uporabi umetne inteligence že danes soočajo s pravnimi izzivi na področju avtomatiziranega odločanja, varstva osebnih podatkov (GDPR) in algoritemske transparentnosti. Največje tveganje predstavlja “Shadow AI” – nenadzorovana uporaba javnih orodij (kot sta ChatGPT ali Claude) s strani zaposlenih, ki vanje vnašajo občutljive poslovne podatke.