AI Act za tvrtke koje AI samo koriste
Što europski Akt o umjetnoj inteligenciji, izmijenjen u srpnju 2026., traži od tvrtke koja AI kupuje i koristi, i od kada.
- Objavljeno
- Ažurirano
- Vrijeme čitanja
- 8 min čitanja
- Urednik
- David Lahuta
Ukratko
- Tvrtka koja AI koristi u okviru svoje nadležnosti, a sama ga ne razvija, prema europskom Aktu o umjetnoj inteligenciji (AI Act) je „subjekt koji uvodi sustav”.1
- Dvije obveze vrijede od veljače 2025. Zaposlenicima koji rade s AI-jem treba pomoći da ga razumiju (pismenost u području umjetne inteligencije), a kratak popis praksi je zabranjen.14
- Pravila o transparentnosti za subjekte koji uvode sustav, primjerice označivanje uvjerljivog krivotvorenog sadržaja (deepfake), vrijede od 2. kolovoza 2026.14
- Obveze za visokorizične primjene, primjerice AI koji probire kandidate za posao, nakon izmjena iz srpnja 2026. vrijede od 2. prosinca 2027.2
Jesmo li dobavljač ili subjekt koji uvodi sustav?
Akt o umjetnoj inteligenciji, Uredba (EU) 2024/1689, razvrstava tvrtke prema tome što s AI-jem rade. Dobavljač razvija AI sustav ili ga daje razviti i nudi ga pod svojim imenom ili žigom. Subjekt koji uvodi sustav je svaka osoba, tvrtka ili tijelo koje upotrebljava AI sustav u okviru svoje nadležnosti, osim ako je riječ o čisto osobnoj upotrebi.1
Tvrtka koja kupi AI asistenta za svoje zaposlenike ili uključi AI funkciju u svom računovodstvenom ili kadrovskom softveru subjekt je koji uvodi sustav. Veći dio Akta napisan je za dobavljače. Popis obveza subjekta koji uvodi sustav znatno je kraći.
Ta se granica ipak može pomaknuti. Subjekt koji uvodi sustav smatra se dobavljačem visokorizičnog sustava, s njegovim znatno težim obvezama, ako na takav sustav stavi svoje ime ili žig, ako ga bitno izmijeni ili ako AI sustavu promijeni namjenu tako da postane visokorizičan.1 Uzeti općeg AI asistenta i podesiti ga da rangira kandidate za posao upravo je takva promjena namjene koju vrijedi uočiti prije nego što se dogodi.
Što vrijedi od 2025.?
Od 2. veljače 2025. vrijede dva dijela Akta, pismenost u području umjetne inteligencije i zabrane.14
Pismenost u području umjetne inteligencije (članak 4.). To su vještine, znanje i razumijevanje potrebni da bi se AI koristio informirano, uz svijest o njegovim prilikama, rizicima i mogućoj šteti.1 Izvorni članak 4. tražio je od tvrtki da osiguraju „dostatnu razinu pismenosti u području umjetne inteligencije” svojeg osoblja.1 Digitalni omnibus o umjetnoj inteligenciji, Uredba (EU) 2026/1744 od 8. srpnja 2026., zamijenio je taj članak. Objavljen je u Službenom listu 24. srpnja 2026., a na snagu je stupio tri dana kasnije.2
Novi tekst obvezu ostavlja tvrtki. Dobavljači i subjekti koji uvode AI sustave „poduzimaju mjere za potporu razvoju pismenosti u području umjetne inteligencije” za svoje osoblje i druge osobe koje u njihovo ime upravljaju AI sustavima ili ih koriste, uzimajući u obzir njihovo znanje, iskustvo i kontekst upotrebe. Obveza ne propisuje nikakvu određenu razinu pismenosti pojedinca. Komisija i države članice moraju tvrtkama pomagati da je ispune, posebno malim i srednjim poduzećima.2
Komisijine smjernice praktične su. Certifikat nije potreban, ne postoji jedan propisani oblik, a tvrtka može voditi internu evidenciju svojih osposobljavanja i drugih uputa.3 Ako se od zaposlenika traži samo da pročitaju upute za korištenje, to možda neće biti dovoljno. Tvrtka čiji ljudi pomoću chat asistenta pišu reklamne tekstove ili prevode trebala bi ih upozoriti na konkretne rizike kao što su halucinacije, odnosno odgovori koje AI izmisli.3 Prema Komisiji, nacionalna tijela za nadzor tržišta nadziru i provode ova pravila od 2. kolovoza 2026.3
Zabrane (članak 5.). Nekoliko načina upotrebe AI-ja izričito je zabranjeno. Među njima su manipulacija ljudima obmanjujućim tehnikama koje uzrokuju znatnu štetu, iskorištavanje dobi, invaliditeta ili ekonomske situacije ljudi, zaključivanje o emocijama ljudi na radnom mjestu ili u obrazovanju, osim iz medicinskih ili sigurnosnih razloga, te razvrstavanje ljudi prema biometrijskim podacima kako bi se zaključilo o njihovoj rasi, političkim stavovima, vjeri ili spolnoj orijentaciji.1 Običan poslodavac najvjerojatnije će naići na zabranu prepoznavanja emocija na poslu, primjerice u alatu koji iz glasa ocjenjuje raspoloženje zaposlenika pozivnog centra. Kazna za povredu može iznositi do 35 milijuna EUR ili 7 % ukupnog svjetskog godišnjeg prometa, ovisno o tome što je više, a za malo ili srednje poduzeće ovisno o tome što je niže.1
Omnibus je dodao dvije zabrane koje vrijede od 2. prosinca 2026. Odnose se na AI koji stvara realistične intimne slike prepoznatljive osobe bez njezina izričitog pristanka i na AI koji stvara materijal sa seksualnim zlostavljanjem djece. Za subjekta koji uvodi sustav zabranjena je upotreba sustava u tu svrhu.24
Što se promijenilo 2. kolovoza 2026.?
Od 2. kolovoza 2026. primjenjuje se veći dio Akta, uključujući pravila o transparentnosti iz članka 50.14 Za subjekta koji uvodi sustav ona znače tri stvari.1
- Ljudi izloženi prepoznavanju emocija ili biometrijskoj kategorizaciji moraju biti obaviješteni da se sustav koristi.
- Slika, zvuk ili videozapis koji je AI stvorio ili izmijenio, nalikuje stvarnim ljudima, mjestima ili događajima i lažno bi se činio vjerodostojnim, dakle uvjerljiv krivotvoreni sadržaj, mora biti označen kao takav.
- Tekst koji je AI stvorio ili izmijenio i koji se objavljuje radi informiranja javnosti o pitanjima od javnog interesa mora biti označen kao djelo AI-ja, osim ako ga je čovjek pregledao ili uredio i ako za njega osoba ili tvrtka snosi uredničku odgovornost.
Chat prozor na vašoj web-stranici prije svega je stvar dobavljača. Dobavljač mora sustav koji razgovara s ljudima osmisliti tako da znaju da komuniciraju s AI-jem, osim ako je to očito.1 Vrijedi pitati svog isporučitelja tko je dobavljač i kako je to riješeno.
Omnibus nije odgodio nijednu od ovih obveza subjekta koji uvodi sustav. Samo je dobavljačima generativnog AI-ja koji je bio na tržištu prije 2. kolovoza 2026. dao rok do 2. prosinca 2026. da ono što njihovi sustavi stvaraju označe strojno čitljivom oznakom.2 Kazna za povredu članka 50. može iznositi do 15 milijuna EUR ili 3 % ukupnog svjetskog godišnjeg prometa, a za malo ili srednje poduzeće opet ovisno o tome što je niže.1
Koje bi naše primjene mogle biti visokorizične?
Visokorizična je primjena navedena u Prilogu III. Akta, gdje AI može utjecati na živote, zdravlje ili prava ljudi. Za običnu tvrtku prvo treba provjeriti zapošljavanje. Ono obuhvaća AI koji se koristi za zapošljavanje ili odabir ljudi, ciljano oglašavanje radnih mjesta, filtriranje prijava i ocjenjivanje kandidata. Obuhvaća i AI za odlučivanje o napredovanju, prestanku radnog odnosa ili uvjetima rada, za raspodjelu zadataka na temelju ponašanja ili osobnih osobina te za praćenje i ocjenjivanje radnog učinka zaposlenika.1 Prilog III. navodi i AI koji procjenjuje kreditnu sposobnost fizičkih osoba te AI koji određuje cijene životnog i zdravstvenog osiguranja.1
Primjena s popisa nije visokorizična ako ne predstavlja znatan rizik, primjerice zato što bitno ne utječe na ishod odluke. Uvjete propisuje članak 6. stavak 3.1
Omnibus je pomaknuo datume. Pravila za primjene iz Priloga III. sada vrijede od 2. prosinca 2027., a pravila za AI ugrađen u proizvode obuhvaćene propisima EU-a o proizvodima iz Priloga I. od 2. kolovoza 2028.24
| Tipična primjena | Što iz nje proizlazi prema Aktu | Od kada |
|---|---|---|
| Zaposlenici pomoću chat asistenta pišu nacrte, prevode ili sažimaju | Sama po sebi nije visokorizična. Vrijedi obveza pismenosti u području umjetne inteligencije | 2. veljače 2025. |
| Alat koji iz lica ili glasa čita emocije zaposlenika | Zabranjeno, osim iz medicinskih ili sigurnosnih razloga | 2. veljače 2025. |
| Slike ili videozapisi stvarnih ljudi izrađeni AI-jem i objavljeni | Označiti kao uvjerljiv krivotvoreni sadržaj | 2. kolovoza 2026. |
| AI chat za kupce na web-stranici | Ljudi moraju znati da razgovaraju s AI-jem, za to se brine dobavljač | 2. kolovoza 2026. |
| Probir životopisa ili rangiranje kandidata | Visokorizično, zapošljavanje | 2. prosinca 2027. |
| Praćenje ili ocjenjivanje radnog učinka zaposlenika | Visokorizično, zapošljavanje | 2. prosinca 2027. |
| Procjena kreditne sposobnosti fizičkih osoba | Visokorizično, osnovne usluge | 2. prosinca 2027. |
Tko nadzire AI i što se evidentira?
Za visokorizičnu primjenu obveze subjekta koji uvodi sustav navodi članak 26. Za primjene iz Priloga III. vrijede od 2. prosinca 2027.12 Jednostavno rečeno, subjekt koji uvodi sustav mora
- koristiti sustav onako kako navode njegove upute za korištenje;
- ljudski nadzor povjeriti imenovanim osobama koje za to imaju kompetencije, osposobljenost, ovlasti i potporu;
- osigurati da su podaci koje unosi relevantni i reprezentativni, ako te podatke kontrolira;
- pratiti rad sustava, dobavljača obavijestiti o problemima, prestati koristiti sustav ako predstavlja rizik i prijaviti ozbiljne incidente;
- čuvati zapise koje sustav generira, ako su pod njegovom kontrolom, najmanje šest mjeseci, osim ako drugi propis određuje drukčije;
- prije upotrebe takvog sustava na radnom mjestu obavijestiti predstavnike radnika i zaposlenike na koje se sustav odnosi;
- obavijestiti ljude da visokorizični sustav pomaže donositi odluke o njima;
- informacije dobavljača iskoristiti za procjenu učinka na zaštitu podataka koju može tražiti GDPR i surađivati s nadležnim tijelima.1
Za povredu članka 26. vrijedi ista gornja granica kao za članak 50., 15 milijuna EUR ili 3 % ukupnog svjetskog prometa.1 Obveza čuvanja zapisa odnosi se samo na zapise pod kontrolom subjekta koji uvodi sustav. To je praktičan razlog da znate gdje radi svaki AI alat i tko čuva njegove zapise.
Što će revizor ili nadzorno tijelo htjeti vidjeti?
Akt ne propisuje jedinstvenu obveznu dokumentaciju. Sljedeće evidencije pokrivaju gore navedene članke, a nadzorno tijelo ili revizor vašeg kupca može zatražiti svaku od njih.13
- Popis primjena AI-ja. Svaki alat i funkcija u upotrebi, za što se koristi i tko je u tvrtki za njega odgovoran.
- Kategorija rizika svake primjene. Zabranjena, visokorizična, s obvezom transparentnosti ili bez obveza, uz jednu rečenicu obrazloženja.
- Evidencija osposobljavanja. Tko je, kada i o čemu osposobljen ili upućen u rad s AI-jem, što Komisija navodi kao razumnu internu evidenciju.3
- Obavijesti. Oznake na uvjerljivom krivotvorenom sadržaju i na AI tekstovima objavljenima za javnost, obavijesti o prepoznavanju emocija, a od prosinca 2027. i informacije zaposlenicima te osobama na koje utječu visokorizične odluke.
- Imenovana osoba za nadzor. Za svaku visokorizičnu primjenu tko je nadzire i s kojim ovlastima.
- Rokovi čuvanja. Najmanje šest mjeseci za zapise visokorizičnog sustava pod vašom kontrolom ili dulje ako to traži drugi propis.1
- Dokumenti isporučitelja. Upute za korištenje i jasan odgovor na pitanje tko je dobavljač.
U Hrvatskoj
Akt o umjetnoj inteligenciji uredba je EU-a pa se u Hrvatskoj primjenjuje izravno, bez posebnog zakona koji bi ga uveo.1 Svaka država članica ipak određuje nadzorna tijela i propisuje sankcije, koje mogu uključivati novčane kazne, upozorenja i mjere koje nisu novčane.12
Hrvatski sabor je 6. ožujka 2026. donio Plan usklađivanja zakonodavstva Republike Hrvatske s pravnom stečevinom Europske unije za 2026. godinu (NN 26/2026). U njemu je za prvo tromjesečje 2026. predviđen Zakon o provedbi Uredbe (EU) 2024/1689 (Akt o umjetnoj inteligenciji), za koji je nadležno Ministarstvo pravosuđa, uprave i digitalne transformacije (MPUDT).5 U službenim izvorima koje smo pregledali taj zakon do 17. studenoga 2026. nije donesen, pa Hrvatska nadležna tijela, jedinstvenu kontaktnu točku i kazne zakonom još nije odredila.
Do tada vrijedi ono što je gore opisano na razini EU-a. S pitanjima o nacionalnim pravilima najbolje je obratiti se MPUDT-u.
Sljedeći korak
Ako bi vam to bilo korisno, rado ćemo se s vama sastati i proći kroz AI koji vaša tvrtka koristi, svaku primjenu svrstati u odgovarajuću kategoriju rizika i zapisati što koja zahtijeva. Ako poslije budete željeli jedan AI za cijelu tvrtku, kojim upravljaju vaši ljudi i koji bilježi svaki korak, upravo to pruža naše poslovno AI rješenje. Je li vam išta od toga korisno, isključivo je vaša odluka.
Izvori
- 1. EUR-Lex, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Official Journal L, 12 July 2024. Pročitano 17. studenoga 2026.
- 2. EUR-Lex, Regulation (EU) 2026/1744 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI), Official Journal L, 24 July 2026. Pročitano 17. studenoga 2026.
- 3. European Commission, AI literacy, questions and answers (updated 20 October 2026). Pročitano 17. studenoga 2026.
- 4. European Commission, AI Act Service Desk, timeline for the implementation of the EU AI Act. Pročitano 17. studenoga 2026.
- 5. Narodne novine 26/2026, Plan usklađivanja zakonodavstva Republike Hrvatske s pravnom stečevinom Europske unije za 2026. godinu. Pročitano 17. studenoga 2026.
Povijest izmjena
- Objavljeno.