AI Act za podjetja, ki AI samo uporabljajo
Kaj evropski akt o umetni inteligenci po spremembah iz julija 2026 zahteva od podjetij, ki AI kupujejo in uporabljajo, in od kdaj.
- Objavljeno
- Posodobljeno
- Čas branja
- 8 min branja
- Odgovorni urednik
- David Lahuta
Na kratko
- Podjetje, ki AI uporablja v svoji pristojnosti, a nobene ne razvija, je po evropskem aktu o umetni inteligenci „uvajalec“.1
- Dve obveznosti veljata že od februarja 2025. Zaposlenim, ki delajo z AI, je treba pomagati, da jo razumejo (pismenost na področju umetne inteligence), kratek seznam praks pa je prepovedan.14
- Pravila o preglednosti za uvajalce, na primer označevanje globokih ponaredkov, veljajo od 2. avgusta 2026.14
- Obveznosti pri visokotvegani uporabi, na primer pri AI, ki pregleduje kandidate za zaposlitev, bodo po spremembah iz julija 2026 veljale od 2. decembra 2027.2
Smo ponudnik ali uvajalec?
Akt o umetni inteligenci (AI Act), Uredba (EU) 2024/1689, podjetja razvršča glede na to, kaj z AI počnejo. Ponudnik sistem AI razvije ali ga da razviti in ga ponudi pod svojim imenom ali blagovno znamko. Uvajalec je vsaka oseba, podjetje ali organ, ki sistem AI uporablja v svoji pristojnosti, razen kadar gre za povsem osebno uporabo.1
Podjetje, ki za svoje zaposlene kupi AI asistenta ali v računovodskem ali kadrovskem programu vklopi funkcijo AI, je uvajalec. Večina akta je napisana za ponudnike. Seznam obveznosti uvajalca je precej krajši.
Meja pa se lahko premakne. Uvajalec se šteje za ponudnika visokotveganega sistema, z vsemi obveznostmi ponudnika, ki so bistveno težje, če tak sistem opremi s svojim imenom ali blagovno znamko, ga bistveno spremeni ali spremeni predvideni namen sistema AI tako, da ta postane visokotvegan.1 Če splošnega AI asistenta nastavite tako, da razvršča kandidate za zaposlitev, je to prav taka sprememba namena, ki jo je vredno opaziti, preden se zgodi.
Kaj velja že od leta 2025?
Od 2. februarja 2025 veljata dva dela akta, pismenost na področju umetne inteligence in prepovedi.14
Pismenost na področju umetne inteligence (člen 4). Pismenost na področju umetne inteligence pomeni spretnosti, znanje in razumevanje, ki omogočajo informirano uporabo AI ter zavedanje njenih priložnosti, tveganj in morebitne škode.1 Prvotni člen 4 je od podjetij zahteval, naj za svoje osebje zagotovijo „zadostno raven pismenosti na področju umetne inteligence“.1 Ta člen je nadomestil digitalni omnibus o umetni inteligenci (Digital Omnibus on AI), Uredba (EU) 2026/1744 z dne 8. julija 2026. V Uradnem listu EU je bil objavljen 24. julija 2026, veljati pa je začel tri dni pozneje.2
Obveznost po novem besedilu ostaja na strani podjetja. Ponudniki in uvajalci „sprejmejo ukrepe, s katerimi podpirajo razvoj pismenosti“ svojega osebja in drugih oseb, ki v njihovem imenu upravljajo ali uporabljajo AI, ob upoštevanju njihovega znanja, izkušenj in okoliščin uporabe. Obveznost ne zahteva določene ravni pismenosti pri posamezniku. Komisija in države članice morajo podjetjem pri tem pomagati, zlasti malim in srednjim podjetjem (MSP).2
Smernice Evropske komisije so praktične. Certifikat ni potreben, enotne oblike ni, podjetje pa lahko vodi notranjo evidenco usposabljanj in drugih navodil.3 Če zaposlene le prosite, naj preberejo navodila za uporabo, to morda ne bo dovolj. Podjetje, katerega zaposleni s klepetalnim asistentom pišejo oglasna besedila ali prevajajo, naj jih opozori na konkretna tveganja, na primer na halucinacije, torej odgovore, ki si jih AI izmisli.3 Po navedbah Komisije nacionalni organi za nadzor trga ta pravila nadzirajo in izvršujejo od 2. avgusta 2026.3
Prepovedi (člen 5). Nekatere uporabe AI so v celoti prepovedane. Med njimi so manipuliranje ljudi z zavajajočimi tehnikami, ki povzročijo znatno škodo, izkoriščanje starosti, invalidnosti ali ekonomskega položaja ljudi, sklepanje o čustvih ljudi na delovnem mestu ali v izobraževanju, razen iz zdravstvenih ali varnostnih razlogov, ter razvrščanje ljudi na podlagi biometričnih podatkov, da bi se sklepalo o njihovi rasi, političnem prepričanju, veri ali spolni usmerjenosti.1 Običajni delodajalec bo najverjetneje naletel na prepoved prepoznavanja čustev na delovnem mestu, na primer pri orodju, ki iz glasu ocenjuje razpoloženje zaposlenih v klicnem centru. Kršitev lahko stane do 35 milijonov EUR ali 7 % celotnega svetovnega letnega prometa, kar je višje, za MSP pa do nižjega od obeh zneskov.1
Omnibus je dodal dve prepovedi, ki bosta veljali od 2. decembra 2026. Zadevata AI, ki ustvarja realistične intimne podobe določljive osebe brez njene izrecne privolitve, in AI, ki ustvarja gradivo o spolni zlorabi otrok. Uvajalcu je prepovedano tak sistem uporabljati v ta namen.24
Kaj se je spremenilo 2. avgusta 2026?
Od 2. avgusta 2026 se uporablja večina akta, vključno s pravili o preglednosti iz člena 50.14 Za uvajalca pomenijo tri stvari.1
- Ljudi, ki so izpostavljeni prepoznavanju čustev ali biometrični kategorizaciji, je treba obvestiti, da sistem deluje.
- Slika, zvok ali video, ki ga je AI ustvarila ali spremenila in je podoben resničnim ljudem, krajem ali dogodkom ter bi se lažno zdel pristen, torej globoki ponaredek, mora biti kot tak označen.
- Besedilo, ki ga je AI ustvarila ali spremenila in se objavi, da bi javnost obveščalo o zadevah javnega interesa, mora biti označeno kot delo AI, razen če ga je pregledal ali uredil človek in zanj uredniško odgovornost nosi oseba ali podjetje.
Klepetalno okno na vaši spletni strani je najprej stvar ponudnika. Ponudnik mora sistem, ki komunicira z ljudmi, zasnovati tako, da vedo, da govorijo z AI, razen če je to očitno.1 Dobavitelja je smiselno vprašati, kdo je ponudnik in kako je to urejeno.
Omnibus nobene od teh obveznosti uvajalcev ni odložil. Le ponudnikom generativne AI, ki je bila na trgu že pred 2. avgustom 2026, je dal čas do 2. decembra 2026, da vsebine, ki jih ustvarjajo njihovi sistemi, opremijo s strojno berljivo oznako.2 Kršitev člena 50 lahko stane do 15 milijonov EUR ali 3 % celotnega svetovnega letnega prometa, za MSP spet do nižjega od obeh zneskov.1
Katere naše uporabe so lahko visokotvegane?
Visokotvegane so uporabe, ki jih navaja Priloga III akta, torej področja, kjer lahko AI vpliva na življenje, zdravje ali pravice ljudi. Običajno podjetje naj najprej preveri področje zaposlovanja. Sem sodi AI za zaposlovanje ali izbiro ljudi, za ciljano objavljanje zaposlitvenih oglasov, filtriranje prijav in ocenjevanje kandidatov. Sem sodi tudi AI, ki se uporablja pri odločitvah o napredovanju, prenehanju delovnega razmerja ali delovnih pogojih, pri dodeljevanju nalog na podlagi vedenja ali osebnih lastnosti ter pri spremljanju in ocenjevanju uspešnosti zaposlenih.1 Priloga III navaja tudi AI, ki ocenjuje kreditno sposobnost fizičnih oseb, in AI, ki določa cene življenjskega in zdravstvenega zavarovanja.1
Uporaba s seznama ni visokotvegana, če ne pomeni znatnega tveganja, na primer zato, ker bistveno ne vpliva na izid odločitve. Pogoje določa člen 6(3).1
Omnibus je premaknil roke. Pravila za uporabe iz Priloge III zdaj veljajo od 2. decembra 2027, pravila za AI, vgrajeno v izdelke, za katere veljajo predpisi EU o izdelkih iz Priloge I, pa od 2. avgusta 2028.24
| Običajna uporaba | Kako jo obravnava akt | Od kdaj |
|---|---|---|
| Zaposleni pišejo, prevajajo ali povzemajo s klepetalnim asistentom | Sama po sebi ni visokotvegana. Velja pismenost na področju umetne inteligence | 2. februar 2025 |
| Orodje, ki bere čustva zaposlenih z obraza ali iz glasu | Prepovedano, razen iz zdravstvenih ali varnostnih razlogov | 2. februar 2025 |
| Objavljene slike ali video resničnih ljudi, ustvarjeni z AI | Označiti kot globoki ponaredek | 2. avgust 2026 |
| Klepet z AI za stranke na spletni strani | Ljudje morajo vedeti, da govorijo z AI, zagotovi ponudnik | 2. avgust 2026 |
| Pregledovanje življenjepisov ali razvrščanje kandidatov | Visoko tveganje, zaposlovanje | 2. december 2027 |
| Spremljanje ali ocenjevanje uspešnosti zaposlenih | Visoko tveganje, zaposlovanje | 2. december 2027 |
| Ocenjevanje kreditne sposobnosti fizičnih oseb | Visoko tveganje, bistvene storitve | 2. december 2027 |
Kdo nadzira AI in kaj se beleži?
Obveznosti uvajalca pri visokotvegani uporabi določa člen 26. Za uporabe iz Priloge III veljajo od 2. decembra 2027.12 Poenostavljeno mora uvajalec
- sistem uporabljati v skladu z navodili za uporabo;
- človeški nadzor dodeliti imenovanim osebam, ki imajo potrebne kompetence, usposobljenost, pooblastila in podporo;
- poskrbeti, da so vhodni podatki ustrezni in reprezentativni, kadar jih ima pod nadzorom;
- spremljati delovanje sistema, o težavah obveščati ponudnika, sistem prenehati uporabljati, če pomeni tveganje, in prijavljati resne incidente;
- hraniti dnevnike, ki jih sistem samodejno ustvarja, kadar so pod njegovim nadzorom, najmanj šest mesecev, razen če drug predpis določa drugače;
- pred uporabo takega sistema na delovnem mestu obvestiti predstavnike delavcev in zadevne zaposlene;
- ljudi obvestiti, da pri odločitvah o njih pomaga visokotvegani sistem;
- uporabiti informacije ponudnika pri oceni učinka v zvezi z varstvom podatkov, ki jo lahko zahteva GDPR, in sodelovati z organi.1
Za kršitev člena 26 velja enaka zgornja meja kot za člen 50, 15 milijonov EUR ali 3 % svetovnega prometa.1 Obveznost hranjenja dnevnikov zajema le dnevnike, ki jih ima uvajalec pod nadzorom. Že to je dober praktičen razlog, da veste, kje deluje vsako orodje AI in kdo hrani njegove zapise.
Kaj bo želel videti revizor ali nadzorni organ?
Akt ne predpisuje enotne mape. Spodnje evidence izhajajo iz zgoraj navedenih členov, nadzorni organ ali revizor vaše stranke pa lahko zahteva vsako od njih.13
- Seznam uporab AI. Vsako orodje in funkcija v uporabi, čemu služi in kdo v podjetju zanj odgovarja.
- Razred tveganja vsake uporabe. Prepovedana, visokotvegana, z obveznostjo preglednosti ali brez obveznosti, z enim stavkom utemeljitve.
- Evidenca usposabljanj. Kdo je bil o AI usposobljen ali poučen, kdaj in o čem, kar Komisija navaja kot smiselno notranjo evidenco.3
- Obvestila. Oznake na globokih ponaredkih in na besedilih AI, objavljenih za javnost, obvestila o prepoznavanju čustev in od decembra 2027 obvestila zaposlenim in ljudem, o katerih pomaga odločati visokotvegani sistem.
- Imenovana oseba za nadzor. Za vsako visokotvegano uporabo, kdo jo nadzira in s kakšnimi pooblastili.
- Kako dolgo se zapisi hranijo. Najmanj šest mesecev za dnevnike visokotveganega sistema, ki jih imate pod nadzorom, ali dlje, če to zahteva drug predpis.1
- Dokumenti dobavitelja. Navodila za uporabo in jasen odgovor, kdo je ponudnik.
V Sloveniji
Akt o umetni inteligenci je uredba EU, zato v Sloveniji velja neposredno.1 Vsaka država članica pa določi nadzorne organe in sankcije, med katerimi so lahko globe, opozorila in ukrepi, ki niso denarni.12
Slovenija ima izvedbeni zakon že sprejet. Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI) je Državni zbor sprejel 23. oktobra 2025, objavljen je bil v Uradnem listu RS, št. 85/2025, 6. novembra 2025 in velja od 21. novembra 2025.5
Enotna kontaktna točka je Agencija za komunikacijska omrežja in storitve RS (AKOS). AKOS nadzira tudi visokotvegano AI na področju zaposlovanja in pravila o preglednosti iz člena 50, za mala in srednja podjetja ter uvajalce pa ima vstopno točko za vprašanja.5 Nad prepovedmi bdi Informacijski pooblaščenec, nad pismenostjo na področju umetne inteligence Inšpekcija za informacijsko družbo, na svojih področjih pa še Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat RS.5
Za kršitve obveznosti uvajalca iz člena 26 in pravil o preglednosti iz člena 50 zakon določa globe od 25.000 do 250.000 EUR za pravno osebo, od 100.000 do 450.000 EUR za veliko gospodarsko družbo, od 15.000 do 100.000 EUR za samostojnega podjetnika posameznika in od 2.500 do 10.000 EUR za odgovorno osebo. V posebno hudih primerih je globa lahko do 15 milijonov EUR ali 3 % svetovnega letnega prometa, pri prepovedanih praksah do 35 milijonov EUR ali 7 %, za MSP pa velja nižji od obeh zneskov.5 Globe zakon določa tudi za pismenost na področju umetne inteligence.5
Poznejših sprememb zakona nismo preverili. Z vprašanji o nacionalnih pravilih se obrnite na AKOS.
Naslednji korak
Če bi vam koristilo, bi z vami z veseljem pregledali AI, ki jo uporabljate v podjetju, vsako uporabo uvrstili v pravi razred in zapisali, kaj katera zahteva. Če bi pozneje želeli eno AI za celo podjetje, ki jo nadzorujejo vaši ljudje in ki beleži vsak korak, to zmore naša poslovna AI rešitev. Ali vam je kar koli od tega koristno, je povsem vaša odločitev.
Viri
- 1. EUR-Lex, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Official Journal L, 12 July 2024. Prebrano 17. november 2026
- 2. EUR-Lex, Regulation (EU) 2026/1744 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI), Official Journal L, 24 July 2026. Prebrano 17. november 2026
- 3. European Commission, AI literacy, questions and answers (updated 20 October 2026). Prebrano 17. november 2026
- 4. European Commission, AI Act Service Desk, timeline for the implementation of the EU AI Act. Prebrano 17. november 2026
- 5. Uradni list RS, št. 85/2025, Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI). Prebrano 17. november 2026
Zgodovina sprememb
- Objavljeno.