---
title: AI na računalima zaposlenika. Što smije? | Disruptive Lab
description: AI asistent koji otvara datoteke i djeluje na računalu treba ovlasti kao svaki kolega. Što smije čitati, što smije raditi i tko o tome odlučuje.
url: https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika
language: hr
covers: 2026-01-12/2026-01-18
---

1.  [Novosti](https://disruptivelab.dev/hr/novosti)
2.  [AI pod kontrolom tvrtke](https://disruptivelab.dev/hr/novosti/ai-pod-kontrolom)
3.  AI na računalima zaposlenika. Što smije?

[Vodič](https://disruptivelab.dev/hr/novosti/vodici)  [AI pod kontrolom tvrtke](https://disruptivelab.dev/hr/novosti/ai-pod-kontrolom)

# AI na računalima zaposlenika. Što smije?

AI asistent na računalu zaposlenika siguran je samo onoliko koliko su uske ovlasti koje dobije, pa bi o tome što smije čitati i što smije raditi trebala odlučivati tvrtka, a ne svaki korisnik sam.

- **Objavljeno:** 17. studenoga 2026.
- **Ažurirano:** 17. studenoga 2026.
- **Vrijeme čitanja:** 7 min čitanja
- **Urednik:** David Lahuta

Tjedan od 12. siječnja 2026.

## Ukratko

AI asistenti danas rade izravno na računalima zaposlenika. Tvrtka Anthropic predstavila je jednog od njih, Claude Cowork, 12. siječnja 2026., s izravnim pristupom datotekama na računalu.[1](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-1) Dva dana poslije, prema vlastitim navodima, istraživači tvrtke PromptArmor pokazali su kako je skrivena uputa u dokumentu natjerala asistenta da korisnikovu datoteku pošalje na račun vanjske osobe, a da ni u jednom trenutku nije zatraženo ničije odobrenje.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3) Sigurnosna stranica proizvođača danas dijeli alate asistenta na one koji čitaju i one koji djeluju te kaže da šteta ovisi o jednima i o drugima.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Upravo tu podjelu svaka tvrtka treba urediti svojim pravilima. Odlučite centralno što asistent smije čitati, što smije raditi i koje radnje uvijek čekaju odobrenje čovjeka.

## Sadržaj

1.  [Što AI asistent radi na računalu zaposlenika?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#sto-ai-asistent-radi-na-racunalu-zaposlenika)
2.  [Kako je skrivena uputa natjerala asistenta da pošalje datoteke van?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#kako-je-skrivena-uputa-natjerala-asistenta-da-posalje-datoteke-van)
3.  [Zašto je to pitanje ovlasti, a ne boljeg alata?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#zasto-je-to-pitanje-ovlasti-a-ne-boljeg-alata)
4.  [Koja je razlika između ovlasti čitanja i ovlasti djelovanja?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#koja-je-razlika-izme%C4%91u-ovlasti-citanja-i-ovlasti-djelovanja)
5.  [Tko u tvrtki odlučuje?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#tko-u-tvrtki-odlucuje)
6.  [Koje radnje uvijek čekaju odobrenje čovjeka?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#koje-radnje-uvijek-cekaju-odobrenje-covjeka)
7.  [Što pripada u pravila tvrtke?](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#sto-pripada-u-pravila-tvrtke)

## Što AI asistent radi na računalu zaposlenika?

Radi kao novi kolega kojemu ste prepustili tipkovnicu. Date mu zadatak, a on korake izvodi sam, umjesto da samo odgovori na pitanje.

Pri predstavljanju Anthropic je Cowork opisao kao ranu istraživačku inačicu (research preview) za desktop aplikaciju.[1](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-1) Cowork je tada radio u izoliranom virtualnom stroju na korisnikovu računalu, s izravnim pristupom lokalnim datotekama i povezanim alatima.[1](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-1) Sigurnosna stranica proizvođača danas navodi što takav asistent radi, odnosno čita datoteke, pretražuje web, pokreće programe i služi se aplikacijama.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Prema istoj stranici zadaci se sada izvode u izoliranom privremenom okruženju na poslužiteljima proizvođača i do računala dolaze preko desktop aplikacije, i to samo do mapa koje je korisnik povezao.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

Za tvrtku su važne dvije pojedinosti. Izolacija, piše proizvođač, ograničava gdje se izvodi kôd asistenta, ali ne i što asistent čita ili radi.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) A zakazani zadaci izvode se sami, čak i kad je računalo isključeno.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

## Kako je skrivena uputa natjerala asistenta da pošalje datoteke van?

Istraživači tvrtke PromptArmor opisuju slučaj korak po korak.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3)

1.  Korisnik je povezao asistenta s mapom povjerljivih dokumenata o nekretninama, primjerice procjenama vrijednosti i izračunima kredita.
2.  Korisnik je učitao dokument koji je izgledao kao skup radnih uputa za asistenta. U njemu je, bijelim slovima na bijeloj podlozi i fontom veličine jedne točke, stajala uputa koju nitko ne bi vidio.
3.  Korisnik je zamolio asistenta da prema tim uputama analizira datoteke.
4.  Skriveni tekst naložio je asistentu da najveću datoteku pošalje u proizvođačevu uslugu za datoteke, i to s ključem napadačeva vlastitog računa. Okruženje asistenta blokiralo je većinu veza prema van, ali proizvođačeva vlastita usluga smatrala se pouzdanom.
5.  Datoteka s financijskim i osobnim podacima stigla je na napadačev račun.

Istraživači ističu da ni u jednom trenutku nitko nije bio zamoljen da išta odobri.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3) Pišu i da je ista ranjivost ranije bila prijavljena u proizvođačevoj aplikaciji za razgovor te da ju je proizvođač priznao, ali nije otklonio.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3)

Odgovor proizvođača, kako ga istraživači citiraju, bio je upozorenje da je proizvod rana istraživačka inačica s posebnim rizicima i savjet da mu se ne daje pristup lokalnim datotekama s osjetljivim informacijama.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3) Isti savjet i danas stoji na sigurnosnoj stranici proizvođača, koja dodaje da unatoč svim zaštitama vjerojatnost napada i dalje nije jednaka nuli.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

Ta vrsta napada ima svoje ime. Kad su upute skrivene u sadržaju koji asistent čita tijekom uobičajenog zadatka, govori se o ubacivanju uputa (prompt injection).[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Popis OWASP Top 10 for LLM Applications 2026, u kojem sigurnosna zajednica navodi glavne rizike jezičnih modela umjetne inteligencije, stavlja ga na prvo mjesto i navodi da danas ne postoji pouzdan način da ga se spriječi.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4)

## Zašto je to pitanje ovlasti, a ne boljeg alata?

Zato što i proizvođač i sigurnosna zajednica obranu traže u onome što asistent smije raditi. Proizvođač piše da, kad nešto pođe po zlu, šteta gotovo u potpunosti ovisi o tome što asistent može čitati i vidjeti i što smije raditi.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Napad ove vrste uspijeva samo kad su istodobno ispunjena dva uvjeta, asistent čita sadržaj izvan izvora kojima vjerujete i može izvesti radnje koje vam mogu naštetiti.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

OWASP ide i dalje te savjetuje da se sustav projektira uz pretpostavku da će granica modela jednom biti probijena i da se ograniči što model smije raditi, kako uspješan trik ne bi postao uspješan napad.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4) Navodi tri uvjeta koji zajedno omogućuju ozbiljnu štetu, a to su pristup privatnim podacima, sadržaj iz nepouzdanog izvora i put kojim se podaci mogu poslati van, te kaže da uklanjanje bilo kojeg od njih te uvjete poništava.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4)

U opisanom slučaju bila su prisutna sva tri, povjerljiva mapa, dokument izvana i dopušten put prema van.[3](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-3) Bolji model smanjio bi izglede da napad uspije. Uže ovlasti uklonile bi jedan od tih triju uvjeta.

## Koja je razlika između ovlasti čitanja i ovlasti djelovanja?

Proizvođač alate asistenta svrstava u dvije skupine.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Alati za čitanje omogućuju mu da vidi sadržaj, primjerice poštanski sandučić ili snimku zaslona. Alati za pisanje omogućuju mu da djeluje, primjerice da izradi pozivnicu u kalendaru, izbriše datoteku, pokrene naredbu ili klikne na zaslonu. Proizvođač kaže da druga skupina po svojoj naravi nosi veći rizik.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

OWASP prekomjernu autonomiju (excessive agency) svodi na tri uzroka, više funkcija nego što zadatak traži, šire dozvole nego što zadatak traži i previše slobode za djelovanje bez provjere.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4) Njegov je primjer asistent za poštu koji samo sažima poruke. On poštu treba čitati, a ne slati ili brisati.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4)

Prema našoj procjeni, ovo su uobičajene ovlasti i tko bi o njima trebao odlučivati.

Ovlast

Uobičajena primjena

Što pođe po zlu kad je preširoka

Tko bi trebao odlučiti

Čitanje mape

dokumenti projekta ili odjela

asistent vidi plaće ili ugovore koji mu ne trebaju, a svaka datoteka može nositi skrivenu uputu

vlasnik podataka zajedno s IT-jem

Čitanje pošte i kalendara

sažeci, priprema sastanka

poruka vanjskog pošiljatelja postaje uputa

IT, prema ulogama

Pretraživanje weba

istraživanje, ispunjavanje obrazaca

svaka stranica može nositi skrivenu uputu

IT

Mijenjanje ili brisanje datoteka

sređivanje, uređivanje dokumenata

posao se izgubi ili prebriše

korisnik, u granicama koje postavi IT

Slanje, učitavanje ili objavljivanje

e-mailovi, dijeljene poveznice, učitavanja

podaci tvrtke napuštaju tvrtku

uprava, a provodi IT

Kupnja, plaćanje ili naručivanje

nabava, rezervacije

novac se troši po tuđoj uputi

uprava

Dodavanje alata i proširenja

nove veze s drugim servisima

svaki od njih otvara novi put u tvrtku

IT

## Tko u tvrtki odlučuje?

Ne samo osoba za tipkovnicom. Stranica proizvođača jasno kaže da korisnik i dalje odgovara za svaku radnju koju asistent izvede u njegovo ime, uključujući poslane poruke, obavljene kupnje te pročitane ili promijenjene podatke.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) No mnoge postavke o kojima to ovisi u rukama su upravo korisnika, primjerice koje mape poveže i koliko često ga asistent pita prije nego što djeluje.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

Neke su kontrole ipak u rukama tvrtke. Vlasnici poslovnih pretplata proizvođača mogu isključiti pretraživanje weba, mogu zapis aktivnosti asistenta slati u vlastite alate za nadzor, a uz pretplatu za velike tvrtke mogu nova proširenja pri instalaciji provjeravati na štetan sadržaj.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

OWASP dodaje dva načela zbog kojih je odluka stvar tvrtke.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4) Radnje izvedene u ime korisnika trebaju se izvoditi s ovlastima tog korisnika, a ne većima.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4) A o tome je li radnja dopuštena trebaju odlučivati čvrsta pravila u sustavu, a ne sam model umjetne inteligencije.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4)

Prema našoj procjeni, posao se dijeli jednostavno. Uprava odlučuje koje su vrste radnji uopće dopuštene. IT to pretvara u postavke i vodi zapis. Vlasnik svakog područja podataka odlučuje koje mape i sandučiće asistent smije čitati. Korisnik u tim granicama odobrava pojedine radnje.

## Koje radnje uvijek čekaju odobrenje čovjeka?

OWASP preporučuje da radnje velikog učinka prije izvođenja odobri čovjek.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4) Predlaže stupnjevit pristup, u kojem se koraci koje je lako poništiti smiju izvesti sami, a nepovratni idu čovjeku na odobrenje.[4](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-4)

Stranica proizvođača upućuje u istom smjeru. Njegov asistent uvijek pita prije trajnog brisanja datoteka, u kojem god načinu rada bio.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) Savjetuje prelazak na ručno odobravanje kad zadatak uključuje osjetljive datoteke, prvi put koristi novi alat ili web stranicu ili kad bi se pogreške teško ispravile, primjerice pri slanju poruka ili kupnji.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2) U načinu rada koji preskače sva odobrenja, kaže, radnje asistenta ne provjerava ništa.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

Za većinu tvrtki razuman početni popis radnji koje čekaju odobrenje izgleda ovako.

-   sve što šalje podatke van, primjerice e-mail, učitavanje, obrazac ili objava
-   brisanje ili prepisivanje datoteka i zapisa
-   plaćanja, narudžbe i kupnje
-   promjene podataka u sustavima tvrtke
-   prvo korištenje novog alata, proširenja ili web stranice
-   zakazani zadaci, koje proizvođač savjetuje držati podalje od osjetljivih podataka i od radnji koje se teško poništavaju[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)

## Što pripada u pravila tvrtke?

Dovoljna je stranica ili dvije, pod uvjetom da im postavke odgovaraju.

-   Koji AI asistenti smiju raditi na računalima tvrtke, i to samo na službenim računima?
-   Koje mape asistent smije čitati? Proizvođač predlaže namjensku radnu mapu umjesto širokog pristupa.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)
-   Kojim se podacima nikada ne smije približiti, primjerice financijskim dokumentima, pristupnim podacima i osobnim evidencijama?[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)
-   Koje web stranice i povezane servise smije koristiti?
-   Koje radnje uvijek čekaju odobrenje čovjeka i provodi li to postavka, a ne samo tekst pravilnika?
-   Jesu li zakazani zadaci dopušteni, i za što?
-   Bilježi li se svaki korak tako da ga IT poslije može pronaći?
-   Što korisnik treba učiniti kad asistent izađe iz okvira zadatka? Proizvođač savjetuje da se zadatak odmah zaustavi i prijavi.[2](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-2)
-   Tko preispituje pravila i koliko često?

## Što to znači za tvrtku u Europi

Kod osobnih podataka ovlasti asistenta i pravno su pitanje. Opća uredba o zaštiti podataka (GDPR) traži da se integriranim načinom obrađuju samo osobni podaci nužni za svaku posebnu svrhu obrade, a pritom izričito spominje i njihovu dostupnost.[5](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-5) Asistent povezan s cijelim diskom vidi mnogo više nego što mu zadatak traži. GDPR traži i da svatko tko djeluje pod odgovornošću tvrtke kao voditelja obrade i ima pristup osobnim podacima te podatke obrađuje samo prema njezinim uputama.[5](https://disruptivelab.dev/hr/novosti/ai-na-racunalima-zaposlenika#source-5) Ovlasti postavljene centralno, uz zapis svakog koraka, praktičan su način da se pokaže da je tako.

## Sljedeći korak

Ako bi vam to bilo korisno, možemo se kratko sastati i proći koje mape i radnje AI asistent u vašoj tvrtki smije koristiti i tko što odobrava. Na isti način radi i naše poslovno AI rješenje, koje je pod kontrolom vaše tvrtke, radi s ovlastima svakog korisnika i bilježi svaki korak. Kako ćete dalje, isključivo je vaša odluka.

[Poslovno AI rješenje po mjeri](https://disruptivelab.dev/hr/poslovno-ai-rjesenje)

## Izvori

1.  1. [Anthropic, Claude Help Center, Release notes, entry of 12 January 2026](https://support.claude.com/en/articles/12138966-release-notes). Pročitano 17. studenoga 2026.
2.  2. [Anthropic, Claude Help Center, Use Claude Cowork safely](https://support.claude.com/en/articles/13364135-use-claude-cowork-safely). Pročitano 17. studenoga 2026.
3.  3. [PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026)](https://www.promptarmor.com/resources/claude-cowork-exfiltrates-files). Pročitano 17. studenoga 2026.
4.  4. [OWASP GenAI Security Project, Top 10 for LLM Applications 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/). Pročitano 17. studenoga 2026.
5.  5. [Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex](https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32016R0679). Pročitano 17. studenoga 2026.

## Povijest izmjena

1.  17\. studenoga 2026. Objavljeno.

## Povezani članci

Analiza · AI pod kontrolom tvrtke

### [AI agenti iz SAD-a. Što je od toga stvarno?](https://disruptivelab.dev/hr/novosti/ai-agenti-sto-je-stvarno)

Veliki američki ponuđači sada prodaju AI agente. Što je agent jednostavno rečeno, za koje je zadatke danas prikladan i što od vas traže europska pravila.

17\. studenoga 2026.

Vodič · AI pod kontrolom tvrtke

### [AI u sjeni i kako ga staviti pod kontrolu](https://disruptivelab.dev/hr/novosti/ai-u-sjeni-pod-kontrolom)

Većina zaposlenih koji rade s AI-jem koristi alate koje tvrtka nije odabrala. Što može izaći iz tvrtke, zašto zabrane ne djeluju i kako AI vratiti tvrtki.

17\. studenoga 2026.

## Podaci o tvrtki

- **Naziv tvrtke:** Disruptive Lab s.r.o.
- **Sjedište:** Vavrečkova 5262, 760 01 Zlín
- **Matični broj (IČO):** 08240647
- **PDV identifikacijski broj (DIČ):** CZ08240647
- **E-mail:** office@disruptivelab.dev
- **Telefon:** +420 777 702 032
