Akt o umetni inteligenci za javni sektor: kaj pripraviti do decembra 2027

01Kje smo jeseni 2026

Akt o umetni inteligenci (odpre zunanje spletno mesto), Uredba (EU) 2024/1689, je začel veljati 1. avgusta 2024 in se uporablja postopno. Julija 2026 je EU sprejela zbirni sveženj za digitalno področje v zvezi z UI, Uredbo (EU) 2026/1744 (odpre zunanje spletno mesto), ki je odložila pravila za visokotvegane sisteme in spremenila več drugih določb. Veljati je začela 27. julija 2026, nekaj dni pred prvotnim datumom za visokotvegane sisteme.

Slovenija je organe za nadzor trga po Aktu o umetni inteligenci določila z zakonom. Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI, Uradni list RS, št. 85/25) velja od 21. novembra 2025. Vprašanje, kdo bo nadzoroval vaš sistem, ima v Sloveniji torej že odgovor; več o tem spodaj.

Rezultat je časovnica, v kateri nekatere obveznosti že veljajo, nekatere pridejo ob koncu tega leta, najzahtevnejše za uvajalce v javnem sektorju pa decembra 2027.

Zbirni sveženj je na novo napisal tudi 4. člen o pismenosti na področju UI. Ponudniki in uvajalci morajo zdaj sprejeti ukrepe za podporo pismenosti svojega osebja, namesto da bi zagotavljali njeno zadostno raven. Dolžnost ostaja, spremenilo se je, kaj morate dokazati. Usposabljanje, prilagojeno posamezni vlogi, in evidenca o njem sta še vedno smiseln odgovor.

02Ste ponudnik ali uvajalec?

Večina organov javnega sektorja je uvajalcev: sistem UI uporabljajo v okviru svojih pooblastil. Ponudnik ste, ko sistem UI razvijete ali ga daste razviti in ga daste v uporabo pod svojim imenom. To vključuje sisteme, ki jih zgradite sami ali jih izvajalec zgradi po vaših specifikacijah.

Vloge se lahko tudi spremenijo. Po 25. členu uvajalec, ki visokotvegani sistem bistveno spremeni ali mu spremeni predvideni namen tako, da postane visokotvegan, prevzame obveznosti ponudnika. Predvidene vloge zapišite v dokumentacijo v zvezi z oddajo javnega naročila in v pogodbe, da jih nihče ne odkrije šele med revizijo.

03Kateri vaši primeri uporabe so visokotvegani?

Priloga III našteva področja, na katerih se sistemi UI štejejo za visokotvegane. Za organe javnega sektorja so najpomembnejša:

• Dostop do bistvenih javnih storitev in ugodnosti: ocena upravičenosti ter dodelitev, zmanjšanje, preklic ali povračilo ugodnosti in storitev.
• Migracije, azil in upravljanje meja, kazenski pregon in pravosodje.
• Izobraževanje in poklicno usposabljanje: sprejem, ocenjevanje učnih izidov, nadzor med preizkusi znanja.
• Zaposlovanje: izbor kandidatov, napredovanje, dodeljevanje nalog in spremljanje osebja. Tudi organi javnega sektorja so delodajalci.
• Kritična infrastruktura: varnostne komponente pri upravljanju kritične digitalne infrastrukture, cestnega prometa ter oskrbe z vodo, plinom, ogrevanjem ali električno energijo.

Uvrstitev na področje iz Priloge III še ni konec analize. Po tretjem odstavku 6. člena sistem na takem področju ni visokotvegan, če ne pomeni znatnega tveganja škode, na primer ker opravlja ozko postopkovno nalogo, izboljša rezultat dela, ki ga je človek že opravil, zaznava vzorce, ne da bi nadomestil človekovo presojo, ali opravlja pripravljalno nalogo. Sistem, ki izdeluje profile posameznikov, je vedno visokotvegan. Če se na to izjemo sklicujete, obrazložitev dokumentirajte.

Številna uporabna orodja sploh niso visokotvegana: pomoč pri pisanju, iskanje po internem znanju, prevajanje, povzemanje. Zanje še vedno veljajo obveznosti preglednosti in splošna uredba o varstvu podatkov (GDPR), režim za visokotvegane sisteme pa ne.

04Kaj morajo storiti uvajalci visokotveganih sistemov

Od 2. decembra 2027 ima organ javnega sektorja, ki uvaja visokotvegani sistem iz Priloge III, obveznosti po 26. členu (odpre zunanje spletno mesto). Glavne so:

• Sistem uporabljajte v skladu z navodili ponudnika za uporabo ter z ustreznimi tehničnimi in organizacijskimi ukrepi.
• Človeški nadzor zaupajte ljudem s potrebnimi kompetencami, usposobljenostjo in pooblastili ter jim zagotovite podporo.
• Poskrbite, da so vhodni podatki pod vašim nadzorom ustrezni in dovolj reprezentativni za predvideni namen.
• Spremljajte delovanje ter ponudnika in organe brez nepotrebnega odlašanja obvestite o tveganjih in resnih incidentih.
• Samodejno ustvarjene dnevniške zapise hranite najmanj šest mesecev, razen če pravo Unije ali nacionalno pravo določa drugače.
• Pred uporabo visokotveganega sistema na delovnem mestu obvestite predstavnike delavcev in zaposlene, na katere vpliva.
• Kot javni organ uporabo sistema pred začetkom registrirajte v podatkovni zbirki EU (osmi odstavek 26. člena in 49. člen). Neregistriranega sistema ni dovoljeno uporabljati.
• Ljudi obvestite, kadar se visokotvegani sistem uporablja za sprejemanje odločitev o njih ali za pomoč pri tem (enajsti odstavek 26. člena). Ljudje imajo tudi pravico do obrazložitve posameznih odločitev (86. člen).

Ocena učinka na temeljne pravice

Po 27. členu (odpre zunanje spletno mesto) osebe javnega prava in zasebne organizacije, ki zagotavljajo javne storitve, pred prvo uporabo večine sistemov iz Priloge III izvedejo oceno učinka na temeljne pravice. Sistemi za kritično infrastrukturo so izvzeti. Ocena opisuje:

1. 01procese, v katerih se bo sistem uporabljal v skladu s predvidenim namenom;
2. 02obdobje in pogostost uporabe;
3. 03kategorije ljudi in skupin, na katere bo sistem verjetno vplival;
4. 04posebna tveganja škode za te ljudi;
5. 05kako je izveden človeški nadzor;
6. 06kaj se zgodi, če se tveganja uresničijo, vključno z notranjim upravljanjem in mehanizmi za pritožbe.

Rezultate sporočite organu za nadzor trga; v Sloveniji je to organ, ki ga ZIUDHPUI določa za področje vašega sistema. Ocena dopolnjuje oceno učinka v zvezi z varstvom podatkov po 35. členu GDPR in lahko na njej gradi, zato ju izvedite skupaj. Peti odstavek 27. člena od Urada za UI zahteva predlogo vprašalnika; preden oblikujete svojega, preverite, ali je že na voljo. Nekatere države že imajo svoje metode, na primer nizozemska vlada metodo Impact Assessment Mensenrechten en Algoritmes (IAMA).

05Kdo v Sloveniji nadzoruje sisteme UI

ZIUDHPUI za organe za nadzor trga določa Agencijo za komunikacijska omrežja in storitve Republike Slovenije (AKOS), Informacijskega pooblaščenca, Banko Slovenije, Agencijo za zavarovalni nadzor in Tržni inšpektorat Republike Slovenije. AKOS je tudi enotna kontaktna točka. Za javni sektor sta najpomembnejša dva:

• Informacijski pooblaščenec nadzoruje prepovedane prakse (5. člen) in področja 1, 3 ter 6 do 8 Priloge III: biometrijo, izobraževanje, kazenski pregon, migracije in pravosodje.
• AKOS nadzoruje področji 2 in 4 Priloge III (kritična infrastruktura in zaposlovanje), točki 5(a) in 5(d), med njima dostop do bistvenih javnih storitev in ugodnosti, sisteme UI v proizvodih iz oddelka A Priloge I ter obveznosti preglednosti iz 50. člena.

Banka Slovenije nadzoruje sisteme za oceno kreditne sposobnosti pri kreditnih institucijah, Agencija za zavarovalni nadzor pa sisteme za določanje cen zavarovanj. Za tipično rabo v javni upravi, na primer pomoč pri odločanju o ugodnostih ali asistenta UI na spletnem mestu občine, je po Aktu o umetni inteligenci praviloma pristojen AKOS. Za obdelavo osebnih podatkov v istem sistemu ostaja po GDPR pristojen Informacijski pooblaščenec.

06Obveznosti preglednosti, ki že veljajo

Od 2. avgusta 2026 se uporablja 50. člen. Ponudniki morajo sisteme, ki so v stiku z ljudmi, zasnovati tako, da ljudje izvedo, da imajo opravka s sistemom UI, razen če je to očitno, in morajo sintetično vsebino strojno berljivo označiti. Uvajalci morajo razkriti globoke ponaredke ter besedilo, ustvarjeno ali spremenjeno z UI, ki je objavljeno za obveščanje javnosti o zadevah javnega interesa, razen če ga je pregledal človek in zanj nekdo nosi uredniško odgovornost.

Za organ javnega sektorja je najpogostejši primer klepetalni asistent na spletnem mestu ali v kanalu za stranke, na primer ob storitvi, v katero se stranke prijavijo s SI-PASS. Jasno povejte, da gre za sistem UI, pojasnite, pri čem lahko pomaga in pri čem ne, ter ponudite pot do človeka.

07Načrt priprave za leti 2026 in 2027

1. 01Popis, takoj. Popišite vse sisteme UI v uporabi ali v postopku javnega naročanja, vključno s funkcijami UI v platformah, za katere že imate licence. Zabeležite lastnika, namen, ponudnika, uporabljene podatke in ljudi, na katere sistem vpliva.
2. 02Razvrstitev, do začetka leta 2027. Prepovedano, visokotvegano (z dokumentirano obrazložitvijo po tretjem odstavku 6. člena), samo obveznosti preglednosti ali minimalno tveganje. Za vsak sistem zabeležite, ali ste ponudnik ali uvajalec.
3. 03Pogodbe, med letom 2027. Od ponudnikov zahtevajte navodila za uporabo, dokumentacijo o skladnosti in dostop do dnevniških zapisov. Podporo pri vaši oceni učinka in pri poročanju o incidentih zapišite v pogodbo.
4. 04Zasnova nadzora. Določite vloge, jih usposobite ter jim dajte pooblastilo, da izhodne podatke sistema ovržejo, in pot za stopnjevanje. Načrtujte proti pristranskosti zaradi avtomatizacije; kako, opisuje članek Kje agenti UI potrebujejo odobritev človeka.
5. 05Dnevniki in spremljanje. Dnevniške zapise hranite najmanj šest mesecev ter določite, kaj šteje za resen incident in kdo ga sporoči.
6. 06Pred prvo uporabo. Oceno učinka na temeljne pravice izvedite skupaj z oceno učinka v zvezi z varstvom podatkov, sistem registrirajte v podatkovni zbirki EU ter obvestite zaposlene in ljudi, na katere vpliva.
7. 07Pismenost naj ostane živa. Usposabljanje po vlogah za uporabnike, pregledovalce in odločevalce, osveženo ob spremembah sistemov, z evidenco o tem, kdo je bil usposobljen.

08Kazni in izvrševanje

Pravila o kaznih določijo države članice. Osmi odstavek 99. člena vsaki državi članici prepušča odločitev, ali in v kolikšni meri se lahko upravne globe naložijo javnim organom in telesom s sedežem v tej državi. To ni razlog za čakanje. Organi za nadzor trga lahko še vedno zahtevajo popravne ukrepe, legitimnost javne odločitve pa je odvisna od tega, ali jo je mogoče obrazložiti in izpodbijati.

09Na kaj biti pozorni v prihodnjih mesecih

• Smernice Komisije o razvrščanju visokotveganih sistemov (peti odstavek 6. člena) in njene obstoječe smernice o prepovedanih praksah (odpre zunanje spletno mesto).
• Harmonizirane standarde za zahteve za visokotvegane sisteme, s katerimi bodo ponudniki dokazovali skladnost.
• Prakso slovenskih organov za nadzor trga po ZIUDHPUI pri uvajalcih v javnem sektorju.
• Predlogo Urada za UI za oceno učinka na temeljne pravice.

AI Act Service Desk (odpre zunanje spletno mesto) Evropske komisije sproti posodablja uradno časovnico in razlage posameznih členov (v angleščini). Shranite si ga med zaznamke in vsak interni zapis o aktu opremite z datumom: besedilo se še spreminja.