Príručka AI pod kontrolou firmy
AI na počítačoch zamestnancov. Čo smie?
AI asistent na počítači zamestnanca je len taký bezpečný, aké oprávnenia dostane, a preto by o tom, čo smie čítať a robiť, mala rozhodovať firma, nie každý používateľ sám.
- Publikované
- Aktualizované
- Čas čítania
- 7 min čítania
- Zodpovedný redaktor
- David Lahuta
V skratke
AI asistenti dnes pracujú priamo na počítačoch zamestnancov. Spoločnosť Anthropic jedného z nich, Claude Cowork, uviedla 12. januára 2026 a dala mu priamy prístup k súborom v počítači.1 O dva dni neskôr podľa vlastných slov ukázali výskumníci z PromptArmor, ako skrytý pokyn v dokumente prinútil asistenta poslať súbor používateľa na cudzí účet bez toho, aby ktokoľvek čokoľvek schvaľoval.3 Bezpečnostná stránka výrobcu dnes delí nástroje asistenta na tie, ktoré čítajú, a tie, ktoré konajú, a hovorí, že škoda závisí od oboch.2 Práve toto rozdelenie je otázkou pre pravidlá každej firmy. Rozhodnite centrálne, čo smie asistent čítať, čo smie robiť a ktoré kroky vždy čakajú na človeka.
Čo robí AI asistent na počítači zamestnanca?
Pracuje ako nový kolega, ktorému ste prenechali klávesnicu. Zadáte mu úlohu a on jednotlivé kroky vykoná sám, namiesto toho, aby len odpovedal na otázku.
Pri uvedení opísala spoločnosť Anthropic Cowork ako skúšobnú verziu pre desktopovú aplikáciu, ktorá bežala v izolovanom virtuálnom stroji priamo v počítači používateľa a mala priamy prístup k miestnym súborom a pripojeným nástrojom.1 Jej bezpečnostná stránka dnes vymenúva, čo taký asistent robí, teda číta súbory, prehliada web, spúšťa programy a ovláda aplikácie.2 Podľa tej istej stránky dnes úlohy bežia v izolovanom dočasnom prostredí na serveroch výrobcu a do počítača siahajú cez desktopovú aplikáciu, a to len do priečinkov, ktoré používateľ pripojil.2
Pre firmu sú dôležité dva detaily. Izolácia podľa výrobcu obmedzuje, kde beží kód asistenta, nie to, čo číta a čo robí.2 A naplánované úlohy bežia samy, aj keď je počítač vypnutý.2
Ako skrytý pokyn prinútil asistenta poslať súbory von?
Výskumníci z PromptArmor opisujú prípad krok za krokom.3
- Používateľ pripojil asistenta k priečinku s dôvernými realitnými podkladmi, napríklad s odhadmi hodnoty nehnuteľností a úverovými kalkuláciami.
- Používateľ nahral dokument, ktorý vyzeral ako súbor pracovných pokynov pre asistenta. Vnútri bol bielym písmom veľkosti jeden bod na bielom pozadí ukrytý pokyn, ktorý by nikto nevidel.
- Používateľ požiadal asistenta, aby podľa týchto pokynov súbory analyzoval.
- Skrytý text asistentovi prikázal nahrať najväčší súbor do súborovej služby výrobcu, a to s kľúčom k účtu útočníka. Prostredie asistenta väčšinu spojení von blokovalo, ale vlastná služba výrobcu platila za dôveryhodnú.
- Súbor s finančnými a osobnými údajmi skončil na účte útočníka.
Výskumníci upozorňujú, že v žiadnom okamihu nikto človeka nepožiadal o schválenie.3 Píšu tiež, že na samotnú slabinu už predtým niekto upozornil v chatovom produkte výrobcu a výrobca ju uznal, ale neopravil.3
Výrobca podľa citácie výskumníkov odpovedal varovaním, že ide o skúšobnú verziu s jedinečnými rizikami, a radou nedávať asistentovi prístup k miestnym súborom s citlivými informáciami.3 Rovnaká rada je na bezpečnostnej stránke výrobcu aj dnes a stránka dodáva, že napriek všetkým opatreniam riziko útoku stále nie je nulové.2
Tento druh útoku má aj svoje pomenovanie. Pokynom ukrytým v obsahu, ktorý asistent číta pri bežnej práci, sa hovorí vloženie skrytých pokynov (prompt injection).2 OWASP Top 10 for LLM Applications 2026, zoznam hlavných rizík jazykových modelov AI, ktorý zostavuje bezpečnostná komunita, ho dáva na prvé miesto a uvádza, že dnes neexistuje spoľahlivý spôsob, ako mu zabrániť.4
Prečo ide o oprávnenia, a nie o lepší nástroj?
Pretože výrobca aj bezpečnostná komunita hľadajú obranu v tom, čo asistent smie robiť. Výrobca píše, že keď sa niečo pokazí, škoda závisí takmer výlučne od toho, čo asistent môže čítať a vidieť a čo smie robiť.2 Útok tohto druhu uspeje len vtedy, keď platia dve veci naraz, asistent číta obsah zo zdrojov, ktorým nedôverujete, a môže vykonať kroky, ktoré vám môžu uškodiť.2
OWASP ide ešte ďalej a radí navrhovať systém s predpokladom, že hranica modelu raz bude prekročená, a obmedziť, čo model smie robiť, aby sa z vydareného triku nestal vydarený útok.4 Menuje tri podmienky, ktoré spolu umožnia vážnu škodu, teda prístup k neverejným údajom, obsah z nedôveryhodného zdroja a cestu, ako údaje poslať von, a dodáva, že odstránením ktorejkoľvek z nich tieto podmienky zaniknú.4
V opísanom prípade boli prítomné všetky tri, dôverný priečinok, dokument zvonku a povolená cesta von.3 Lepší model by pravdepodobnosť útoku znížil. Užšie oprávnenia by jednu z tých troch podmienok odobrali.
Aký je rozdiel medzi právom čítať a právom konať?
Výrobca delí nástroje asistenta do dvoch skupín.2 Nástroje na čítanie mu umožnia obsah vidieť, napríklad poštovú schránku alebo snímku obrazovky. Nástroje na zápis mu umožnia konať, napríklad vytvoriť pozvánku v kalendári, zmazať súbor, spustiť príkaz alebo klikať na obrazovke. Podľa výrobcu nesie druhá skupina zo svojej podstaty väčšie riziko.2
OWASP vidí za nadmernou voľnosťou konania tri príčiny, viac funkcií, širšie oprávnenia a väčšiu samostatnosť, než úloha potrebuje.4 Sám uvádza príklad asistenta, ktorý poštu len zhŕňa. Potrebuje e-maily čítať, nie ich odosielať alebo mazať.4
Bežné oprávnenia a to, kto by o nich mal rozhodovať, podľa nás vyzerajú takto.
| Oprávnenie | Bežné použitie | Čo sa stane, keď je príliš široké | Kto by mal rozhodnúť |
|---|---|---|---|
| Čítať priečinok | dokumenty projektu alebo oddelenia | asistent vidí mzdy alebo zmluvy, ktoré nepotrebuje, a každý súbor môže niesť skrytý pokyn | vlastník údajov spolu s IT |
| Čítať poštu a kalendár | zhrnutia, príprava stretnutia | správa od cudzieho odosielateľa sa stane pokynom | IT podľa rolí |
| Prehliadať web | rešerše, vypĺňanie formulárov | každá stránka môže niesť skrytý pokyn | IT |
| Meniť a mazať súbory | upratovanie, úpravy dokumentov | práca sa stratí alebo prepíše | používateľ v medziach, ktoré nastaví IT |
| Odosielať, nahrávať, zverejňovať | e-maily, zdieľané odkazy, nahrávanie | firemné údaje opustia firmu | vedenie, vynucuje IT |
| Nakupovať, platiť, objednávať | nákupy, rezervácie | peniaze odídu na cudzí pokyn | vedenie |
| Pridávať nástroje a rozšírenia | nové prepojenia na ďalšie služby | každé otvára novú cestu dovnútra | IT |
Kto vo firme rozhoduje?
Nemal by to byť len človek pri klávesnici. Stránka výrobcu jasne hovorí, že za každý krok, ktorý asistent urobí v jeho mene, naďalej zodpovedá používateľ, vrátane odoslaných správ, nákupov a prečítaných či zmenených údajov.2 Napriek tomu mnohé nastavenia, od ktorých to závisí, má v rukách práve používateľ, napríklad ktoré priečinky pripojí a ako často sa ho asistent pred krokom opýta.2
Niektoré nastavenia však má v rukách firma. Vlastníci firemných plánov výrobcu môžu vypnúť vyhľadávanie na webe, posielať záznam činnosti asistenta do vlastných nástrojov na monitorovanie a pri podnikovom pláne nechať nové rozšírenia pri inštalácii skontrolovať na škodlivý obsah.2
OWASP pridáva dve zásady, ktoré z rozhodnutia robia vec firmy.4 Kroky vykonané za používateľa majú bežať s jeho vlastnými oprávneniami, nie s väčšími.4 A o tom, či je krok povolený, majú rozhodovať pevné pravidlá v systéme, nie samotný model AI.4
Podľa nás sa práca delí jednoducho. Vedenie rozhodne, ktoré druhy krokov sú vôbec povolené. IT to premietne do nastavení a vedie záznamy. Vlastník každej oblasti údajov rozhodne, ktoré priečinky a schránky smie asistent čítať. Používateľ v týchto medziach schvaľuje jednotlivé kroky.
Ktoré kroky vždy čakajú na človeka?
OWASP odporúča, aby kroky s veľkým dosahom vopred schválil človek.4 Navrhuje odstupňovaný prístup, pri ktorom kroky, ktoré sa dajú ľahko vrátiť, môžu prebehnúť samy a nevratné idú na schválenie človeku.4
Stránka výrobcu mieri rovnakým smerom. Jeho asistent sa pred trvalým zmazaním súborov vždy opýta, v akomkoľvek režime.2 Výrobca radí prepnúť na ručné schvaľovanie, keď úloha siaha na citlivé súbory, prvýkrát používa nový nástroj alebo web, alebo keď by sa chyby ťažko napravovali, napríklad pri odosielaní správ alebo nákupoch.2 V režime, ktorý preskakuje všetky schválenia, podľa neho kroky asistenta nekontroluje nič.2
Pre väčšinu firiem vyzerá rozumný predvolený zoznam krokov, ktoré čakajú na schválenie, takto.
- čokoľvek, čo posiela údaje von, teda e-mail, nahratie súboru, formulár alebo zverejnenie
- mazanie a prepisovanie súborov a záznamov
- platby, objednávky a nákupy
- zmeny v údajoch firemných systémov
- prvé použitie nového nástroja, rozšírenia alebo webu
- naplánované úlohy, ktoré by podľa výrobcu nemali siahať na citlivé údaje ani na kroky, ktoré sa dajú ťažko vrátiť2
Čo patrí do firemných pravidiel?
Stačí strana alebo dve, ak im zodpovedá nastavenie.
- Ktorých AI asistentov smú ľudia na firemných počítačoch používať, a len na firemných účtoch?
- Ktoré priečinky smie asistent čítať? Výrobca odporúča vyhradený pracovný priečinok namiesto širokého prístupu.2
- Ku ktorým údajom sa nesmie dostať vôbec, napríklad k finančným dokumentom, prístupovým údajom a osobným záznamom?2
- Ktoré weby a pripojené služby smie používať?
- Ktoré kroky vždy čakajú na človeka a vynucuje to nastavenie, nielen text pravidiel?
- Sú naplánované úlohy povolené, a na čo?
- Zaznamenáva sa každý krok tak, aby ho IT neskôr dohľadalo?
- Čo má používateľ urobiť, keď asistent vybočí z úlohy? Výrobca radí úlohu okamžite zastaviť a nahlásiť.2
- Kto pravidlá reviduje a ako často?
Čo to znamená pre firmu v Európe
Pri osobných údajoch sú oprávnenia asistenta aj právnou otázkou. GDPR požaduje, aby sa štandardne spracúvali len osobné údaje nevyhnutné pre každý konkrétny účel, a výslovne pritom spomína aj ich dostupnosť.5 Asistent pripojený k celému disku vidí oveľa viac, než jeho úloha potrebuje. GDPR tiež požaduje, aby každý, kto koná na základe poverenia firmy a má prístup k osobným údajom, ich spracúval len na základe jej pokynov.5 Oprávnenia nastavené centrálne a záznam každého kroku sú praktický spôsob, ako preukázať, že to platí.
Ďalší krok
Ak by sa vám to hodilo, môžeme sa krátko stretnúť a prejsť si, ktoré priečinky a kroky smie AI asistent vo vašej firme používať a kto čo schvaľuje. Rovnako funguje aj Podnikové AI riešenie, ktoré má vaša firma pod kontrolou, pracuje s oprávneniami každého používateľa a zaznamenáva každý krok. Ako s tým potom naložíte, je len na vás.
Zdroje
- 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Prečítané 17. novembra 2026
- 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Prečítané 17. novembra 2026
- 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Prečítané 17. novembra 2026
- 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Prečítané 17. novembra 2026
- 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Prečítané 17. novembra 2026
História zmien
- Publikované.