Průvodce AI pod kontrolou firmy
AI na počítačích zaměstnanců. Co smí?
AI asistent na počítači zaměstnance je jen tak bezpečný, jak úzká oprávnění dostane, a proto by o tom, co smí číst a co smí dělat, měla rozhodovat firma, ne každý uživatel sám.
- Publikováno
- Aktualizováno
- Doba čtení
- 7 min čtení
- Odpovědný redaktor
- David Lahuta
Ve zkratce
AI asistenti dnes pracují přímo na počítačích zaměstnanců. Společnost Anthropic jednoho z nich, Claude Cowork, uvedla 12. ledna 2026, s přímým přístupem k souborům v počítači.1 O dva dny později podle vlastních slov ukázali výzkumníci z PromptArmor, jak skrytý pokyn v dokumentu přiměl asistenta poslat soubor uživatele na cizí účet, aniž by se kdokoli na cokoli ptal.3 Bezpečnostní stránka výrobce dnes dělí nástroje asistenta na ty, které čtou, a ty, které jednají, a říká, že škoda závisí na obojím.2 Právě toto rozdělení je otázka pro pravidla každé firmy. Rozhodněte centrálně, co smí asistent číst, co smí dělat a které kroky vždy čekají na člověka.
Co AI asistent na počítači zaměstnance dělá?
Pracuje jako nový kolega, kterému jste půjčili klávesnici. Zadáte mu úkol a on jednotlivé kroky provede sám, místo aby jen odpověděl na otázku.
Při uvedení popsala společnost Anthropic Cowork jako zkušební verzi pro desktopovou aplikaci, která běžela v izolovaném virtuálním počítači přímo v počítači uživatele a měla přímý přístup k místním souborům a napojeným nástrojům.1 Její bezpečnostní stránka dnes vyjmenovává, co takový asistent dělá, tedy čte soubory, prochází web, spouští programy a ovládá aplikace.2 Podle téže stránky dnes úlohy běží v izolovaném dočasném prostředí na serverech výrobce a k počítači se dostanou přes desktopovou aplikaci, a to jen ke složkám, které uživatel připojil.2
Pro firmu jsou důležité dvě podrobnosti. Izolace podle výrobce omezuje, kde běží kód asistenta, ne to, co čte a co dělá.2 A naplánované úlohy běží samy, i když je počítač vypnutý.2
Jak skrytý pokyn přiměl asistenta poslat soubory ven?
Výzkumníci z PromptArmor popisují případ krok za krokem.3
- Uživatel připojil asistenta ke složce s důvěrnými realitními podklady, například s odhady a úvěrovými kalkulacemi.
- Uživatel nahrál dokument, který vypadal jako sada pracovních pokynů pro asistenta. Uvnitř byl bílým písmem o velikosti jednoho bodu na bílém pozadí schovaný pokyn, který by nikdo neviděl.
- Uživatel požádal asistenta, aby podle těchto pokynů soubory rozebral.
- Skrytý text asistentovi nařídil nahrát největší soubor do souborové služby výrobce, a to pod klíčem účtu útočníka. Prostředí asistenta většinu spojení ven blokovalo, ale vlastní služba výrobce platila za důvěryhodnou.
- Soubor s finančními údaji a osobními daty skončil na účtu útočníka.
Výzkumníci upozorňují, že v žádném okamžiku nebyl nikdo požádán o schválení.3 Píší také, že na samotnou slabinu už dřív někdo upozornil v chatovacím produktu výrobce a výrobce ji uznal, ale neopravil.3
Odpovědí výrobce bylo podle citace výzkumníků varování, že jde o zkušební verzi s jedinečnými riziky, a rada nedávat asistentovi přístup k místním souborům s citlivými informacemi.3 Stejná rada stojí na bezpečnostní stránce výrobce i dnes a stránka dodává, že přes všechna opatření není riziko útoku nulové.2
Tento druh útoku má své jméno. Pokynům schovaným v obsahu, který asistent čte při běžné práci, se říká vložení skrytých pokynů (prompt injection).2 Seznam OWASP Top 10 for LLM Applications 2026, ve kterém bezpečnostní komunita řadí hlavní rizika jazykových modelů AI, ho staví na první místo a uvádí, že dnes neexistuje spolehlivý způsob, jak mu zabránit.4
Proč jde o oprávnění, a ne o lepší nástroj?
Protože výrobce i bezpečnostní komunita hledají obranu v tom, co asistent smí dělat. Výrobce píše, že když se něco pokazí, škoda závisí téměř výhradně na tom, co asistent může číst a vidět a co smí dělat.2 Útok tohoto druhu uspěje jen tehdy, když platí dvě věci zároveň, asistent čte obsah ze zdrojů, kterým nedůvěřujete, a může provést kroky, které vám mohou uškodit.2
OWASP jde ještě dál a radí navrhovat systém s předpokladem, že hranice modelu jednou překročena bude, a omezit, co model smí dělat, aby se z povedeného triku nestal povedený útok.4 Jmenuje tři podmínky, které dohromady umožní vážnou škodu, tedy přístup k neveřejným datům, obsah z nedůvěryhodného zdroje a cestu, jak data poslat ven, a dodává, že odstraněním kterékoli z nich podmínky zaniknou.4
V popsaném případě byly přítomné všechny tři, důvěrná složka, dokument zvenčí a povolená cesta ven.3 Lepší model by šanci útoku snížil. Užší oprávnění by jednu z těch tří podmínek odebrala.
Jaký je rozdíl mezi právem číst a právem jednat?
Výrobce dělí nástroje asistenta do dvou skupin.2 Nástroje pro čtení mu umožní obsah vidět, například poštovní schránku nebo snímek obrazovky. Nástroje pro zápis mu umožní jednat, například vytvořit pozvánku do kalendáře, smazat soubor, spustit příkaz nebo klikat na obrazovce. Podle výrobce nese druhá skupina ze své podstaty větší riziko.2
OWASP vidí za příliš volnou ruku AI tři příčiny, víc funkcí, víc oprávnění a víc samostatnosti, než úkol potřebuje.4 Jeho vlastní příklad je asistent, který jen shrnuje poštu. Potřebuje e-maily číst, ne je odesílat nebo mazat.4
Běžná oprávnění a to, kdo by o nich měl rozhodovat, vypadají podle nás takto.
| Oprávnění | Běžné použití | Co se stane, když je příliš široké | Kdo by měl rozhodnout |
|---|---|---|---|
| Číst složku | dokumenty projektu nebo oddělení | asistent vidí mzdy nebo smlouvy, které nepotřebuje, a každý soubor může nést skrytý pokyn | vlastník dat spolu s IT |
| Číst poštu a kalendář | shrnutí, příprava schůzky | zpráva od cizího odesílatele se stane pokynem | IT podle rolí |
| Procházet web | rešerše, vyplňování formulářů | každá stránka může nést skrytý pokyn | IT |
| Měnit a mazat soubory | úklid, úpravy dokumentů | práce se ztratí nebo přepíše | uživatel v mezích, které nastaví IT |
| Odesílat, nahrávat, zveřejňovat | e-maily, sdílené odkazy, nahrávání | firemní data opustí firmu | vedení, vynucuje IT |
| Nakupovat, platit, objednávat | nákupy, rezervace | peníze odejdou na cizí pokyn | vedení |
| Přidávat nástroje a rozšíření | nová napojení na další služby | každé otevírá novou cestu dovnitř | IT |
Kdo ve firmě rozhoduje?
Ne jen člověk u klávesnice. Stránka výrobce jasně říká, že za každý krok, který asistent udělá jeho jménem, odpovídá dál uživatel, včetně odeslaných zpráv, nákupů a přečtených či změněných dat.2 Přesto mnohá nastavení, na kterých to závisí, má v rukou právě uživatel, například které složky připojí a jak často se ho asistent před krokem zeptá.2
Některé ovládací prvky ale firma má. Správci firemních tarifů výrobce mohou vypnout vyhledávání na webu, posílat záznam činnosti asistenta do vlastních nástrojů pro dohled a u podnikového tarifu nechat nová rozšíření při instalaci zkontrolovat na škodlivý obsah.2
OWASP přidává dvě zásady, které z rozhodnutí dělají věc firmy.4 Kroky provedené za uživatele mají běžet s jeho vlastními oprávněními a ne s většími.4 A o tom, zda je krok povolený, mají rozhodovat pevná pravidla v systému, ne samotný model AI.4
Podle nás se práce dělí jednoduše. Vedení rozhodne, které druhy kroků jsou vůbec povolené. IT to převede do nastavení a vede záznam. Vlastník každé oblasti dat rozhodne, které složky a schránky smí asistent číst. Uživatel v těchto mezích schvaluje jednotlivé kroky.
Které kroky vždy čekají na člověka?
OWASP doporučuje, aby kroky s velkým dopadem předem schválil člověk.4 Navrhuje odstupňovaný přístup, kdy snadno vratné kroky mohou proběhnout samy a nevratné jdou ke schválení člověku.4
Stránka výrobce míří stejným směrem. Jeho asistent se před trvalým smazáním souborů vždy zeptá, v jakémkoli režimu.2 Výrobce radí přepnout na ruční schvalování, když úloha sahá na citlivé soubory, poprvé používá nový nástroj nebo web, nebo když by se chyba těžko vracela, například při odesílání zpráv nebo nákupech.2 V režimu, který přeskakuje všechna schválení, podle něj kroky asistenta nekontroluje nic.2
Pro většinu firem vypadá rozumný výchozí seznam kroků, které čekají na schválení, takto.
- cokoli, co posílá data ven, tedy e-mail, nahrání souboru, formulář nebo zveřejnění
- mazání a přepisování souborů a záznamů
- platby, objednávky a nákupy
- změny v datech firemních systémů
- první použití nového nástroje, rozšíření nebo webu
- naplánované úlohy, které by podle výrobce neměly sahat na citlivá data ani na kroky, jež se těžko vracejí2
Co patří do firemních pravidel?
Stačí stránka nebo dvě, pokud jim odpovídá nastavení.
- Které AI asistenty smí lidé na firemních počítačích používat, a jen na firemních účtech?
- Které složky smí asistent číst? Výrobce doporučuje vyhrazenou pracovní složku místo širokého přístupu.2
- Ke kterým datům se nesmí dostat vůbec, například k finančním dokumentům, přístupovým údajům a osobním záznamům?2
- Které weby a napojené služby smí používat?
- Které kroky vždy čekají na člověka a vynucuje to nastavení, ne jen text směrnice?
- Jsou naplánované úlohy povolené, a k čemu?
- Zaznamenává se každý krok tak, aby ho IT později dohledalo?
- Co má uživatel udělat, když asistent vybočí z úkolu? Výrobce radí úlohu okamžitě zastavit a nahlásit.2
- Kdo pravidla reviduje a jak často?
Co to znamená pro firmu v Evropě
U osobních údajů jsou oprávnění asistenta i otázkou práva. GDPR požaduje, aby se standardně zpracovávaly jen osobní údaje potřebné pro každý konkrétní účel, a výslovně přitom zmiňuje i jejich dostupnost.5 Asistent připojený k celému disku vidí mnohem víc, než jeho úkol potřebuje. GDPR také požaduje, aby každý, kdo jedná z pověření firmy a má přístup k osobním údajům, je zpracovával jen podle jejích pokynů.5 Oprávnění nastavená centrálně a záznam každého kroku jsou praktický způsob, jak doložit, že to platí.
Další krok
Pokud by se vám to hodilo, můžeme se krátce sejít a projít, které složky a kroky smí AI asistent ve vaší firmě používat a kdo co schvaluje. Stejně funguje i podnikové AI řešení, které má vaše firma pod kontrolou, pracuje s oprávněními každého uživatele a zaznamená každý krok. Jak s tím pak naložíte, je jen na vás.
Zdroje
- 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Přečteno 17. listopadu 2026
- 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Přečteno 17. listopadu 2026
- 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Přečteno 17. listopadu 2026
- 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Přečteno 17. listopadu 2026
- 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Přečteno 17. listopadu 2026
Historie změn
- Zveřejněno.