Útmutató AI a cég irányítása alatt
AI a munkatársak gépein. Mit tehet meg?
Egy AI-asszisztens a munkatárs gépén annyira biztonságos, amennyire szűkek a jogosultságai, ezért hogy mit olvashat és mit tehet, azt a cég döntse el, ne egyedül a felhasználó.
- Megjelent
- Frissítve
- Olvasási idő
- 8 perc olvasás
- Felelős szerkesztő
- David Lahuta
Röviden
Az AI-asszisztensek ma már közvetlenül a munkatársak számítógépein dolgoznak. Az Anthropic 2026. január 12-én mutatta be egyiküket, a Claude Cowork nevű eszközt, amely közvetlenül hozzáfér a gépen tárolt fájlokhoz.1 Két nappal később a PromptArmor kutatói saját beszámolójuk szerint megmutatták, hogy egy dokumentumba rejtett utasítás hatására az asszisztens egy kívülálló fiókjába küldte a felhasználó egyik fájlját, és közben senkitől semmilyen jóváhagyást nem kért.3 A gyártó biztonsági oldala ma két csoportra osztja az asszisztens eszközeit, olvasó és író, vagyis cselekvő eszközökre, és azt írja, hogy a kár mindkettőn múlik.2 Ez a felosztás minden cég számára belső szabályozási kérdés. A cégnek központilag kell eldöntenie, mit olvashat az asszisztens, mit tehet meg, és mely lépések várnak mindig egy ember jóváhagyására.
Mit csinál egy AI-asszisztens a munkatárs számítógépén?
Úgy dolgozik, mint egy új kolléga, akinek átadták a billentyűzetet. Ön kiad neki egy feladatot, ő pedig a lépéseit maga elvégzi, nem csak válaszol egy kérdésre.
Bemutatáskor az Anthropic az asztali alkalmazás kísérleti előzetes változataként (research preview) írta le a Coworkot, amely a felhasználó számítógépén, egy elszigetelt virtuális gépben futott, és közvetlenül hozzáfért a helyi fájlokhoz és a hozzá kapcsolt eszközökhöz.1 A gyártó biztonsági oldala ma felsorolja, mit csinál egy ilyen asszisztens, vagyis fájlokat olvas, böngészik a weben, programokat futtat és alkalmazásokat kezel.2 Ugyanez az oldal azt írja, hogy a feladatok ma a gyártó szerverein, egy elszigetelt, ideiglenes környezetben futnak, a számítógépen pedig az asztali alkalmazáson keresztül csak azokat a mappákat érik el, amelyeket a felhasználó csatlakoztatott.2
Egy cég számára két részlet fontos. Az elszigetelés a gyártó szerint azt korlátozza, hol fut az asszisztens kódja, azt viszont nem, hogy mit olvas és mit tesz.2 Az ütemezett feladatok pedig maguktól futnak, akkor is, ha a számítógép ki van kapcsolva.2
Hogyan vette rá egy rejtett utasítás az asszisztenst, hogy fájlokat küldjön ki?
A PromptArmor kutatói lépésről lépésre írják le az esetet.3
- Egy felhasználó az asszisztenst egy olyan mappához csatlakoztatta, amelyben bizalmas ingatlanügyi iratok voltak, például értékbecslések és hitelkalkulációk.
- A felhasználó feltöltött egy dokumentumot, amely az asszisztensnek szóló munkautasítások gyűjteményének látszott. Benne fehér oldalon, fehér, egypontos betűvel írva olyan utasítás rejtőzött, amelyet senki sem vett volna észre.
- A felhasználó megkérte az asszisztenst, hogy ezek szerint az utasítások szerint elemezze a fájlokat.
- A rejtett szöveg arra utasította az asszisztenst, hogy töltse fel a legnagyobb fájlt a gyártó fájlszolgáltatásába, mégpedig a támadó saját fiókjának kulcsával. Az asszisztens környezete a legtöbb külső kapcsolatot letiltotta, a gyártó saját szolgáltatása viszont megbízhatónak számított.
- A pénzügyi és személyes adatokat tartalmazó fájl a támadó fiókjába került.
A kutatók megjegyzik, hogy a folyamat során egyszer sem kellett senkinek semmit jóváhagynia.3 Azt is írják, hogy a mögöttes sebezhetőséget korábban már jelezték a gyártónak a csevegőalkalmazásával kapcsolatban, a gyártó el is ismerte, de nem javította ki.3
A kutatók által idézett válaszában a gyártó arra figyelmeztetett, hogy a termék sajátos kockázatokkal járó kísérleti előzetes változat, és azt tanácsolta, hogy ne adjanak neki hozzáférést érzékeny információt tartalmazó helyi fájlokhoz.3 Ugyanez a tanács ma is olvasható a gyártó biztonsági oldalán, amely hozzáteszi, hogy a védelmi intézkedések ellenére a támadás esélye továbbra sem nulla.2
Ennek a támadásnak neve is van. Azokat az utasításokat, amelyek az asszisztens által egy szokásos feladat közben olvasott tartalomban rejtőznek, a szakma angol szóval prompt injectionnek nevezi, vagyis a modellnek becsempészett utasításnak.2 Az OWASP Top 10 for LLM Applications 2026, vagyis a biztonsági szakma listája az AI-alapú nyelvi modellek legfőbb kockázatairól, ezt teszi az első helyre, és azt írja, hogy ma nincs megbízható módszer a megelőzésére.4
Miért jogosultsági kérdés ez, és miért nem egy jobb eszköz a megoldás?
Mert a gyártó és a biztonsági szakma is abban látja a védelmet, hogy mit szabad az asszisztensnek tennie. A gyártó azt írja, hogy ha valami félremegy, a kár szinte teljes egészében azon múlik, mit olvashat és láthat az asszisztens, és mit tehet meg.2 Egy ilyen támadás csak akkor sikerül, ha egyszerre két feltétel teljesül, vagyis ha az asszisztens az Ön által megbízhatónak tartott forrásokon kívülről származó tartalmat olvas, és olyan lépéseket tehet, amelyek kárt okozhatnak Önnek.2
Az OWASP tovább megy, és azt tanácsolja, hogy a rendszert abból kiindulva tervezzék, hogy a modell határait előbb-utóbb átlépik, és úgy korlátozzák, mit tehet a modell, hogy egy sikeres trükkből ne legyen sikeres támadás.4 Három feltételt nevez meg, amelyek együtt teszik lehetővé a súlyos kárt, nevezetesen a nem nyilvános adatokhoz való hozzáférést, a megbízhatatlan tartalmat és az adatok kiküldésének lehetőségét, és azt írja, hogy ha bármelyik megszűnik, a súlyos kár feltételei sem állnak fenn.4
A fenti esetben mindhárom adott volt, vagyis egy bizalmas mappa, egy kívülről érkezett dokumentum és egy engedélyezett kifelé vezető út.3 Egy jobb modell csökkentette volna a támadás esélyét. A szűkebb jogosultságok viszont a háromból egyet eleve kiiktattak volna.
Mi a különbség az olvasási és a cselekvési jogosultság között?
A gyártó két csoportba sorolja az asszisztens eszközeit.2 Az olvasó eszközökkel tartalmat lát, például egy postafiókot vagy egy képernyőképet. Az író eszközökkel cselekszik, például naptármeghívót hoz létre, fájlt töröl, parancsot futtat vagy a képernyőn kattint. A gyártó szerint a második csoport természeténél fogva nagyobb kockázattal jár.2
Az OWASP a túlzott önállóságot három okra vezeti vissza, vagyis több funkcióra és szélesebb jogosultságokra, mint amennyit a feladat igényel, valamint túl nagy, ellenőrzés nélküli mozgástérre.4 Saját példája egy levelezőasszisztens, amely csak összefoglalja az üzeneteket. Ehhez olvasnia kell a leveleket, küldenie vagy törölnie viszont nem.4
Az alábbi táblázat a leggyakoribb jogosultságokat mutatja, és véleményünk szerint azt is, ki döntsön róluk.
| Jogosultság | Jellemző használat | Mi történik, ha túl széles | Ki döntsön róla |
|---|---|---|---|
| Mappa olvasása | egy projekt vagy egy osztály dokumentumai | az asszisztens olyan béreket vagy szerződéseket lát, amelyekre nincs szüksége, és bármely fájl rejtett utasítást hordozhat | az adatgazda, az IT-val közösen |
| Levelezés és naptár olvasása | összefoglalók, megbeszélés előkészítése | egy külső feladó üzenete utasítássá válik | az IT, szerepkörönként |
| Böngészés a weben | kutatás, űrlapok kitöltése | bármely oldal rejtett utasítást hordozhat | az IT |
| Fájlok módosítása vagy törlése | rendrakás, dokumentumok szerkesztése | munka vész el vagy íródik felül | a felhasználó, az IT által szabott keretek között |
| Küldés, feltöltés, közzététel | e-mailek, megosztott linkek, feltöltések | a cég adatai kikerülnek a cégből | a vezetés, az IT érvényesíti |
| Vásárlás, fizetés, rendelés | beszerzések, foglalások | pénz megy el valaki más utasítására | a vezetés |
| Eszközök és bővítmények hozzáadása | új kapcsolatok más szolgáltatásokhoz | mindegyik újabb bejutási pontot nyit | az IT |
Ki dönt a cégen belül?
Nem egyedül az, aki a billentyűzetnél ül. A gyártó oldala egyértelműen kimondja, hogy az asszisztens által a felhasználó nevében tett minden lépésért továbbra is a felhasználó felel, beleértve az elküldött üzeneteket, a vásárlásokat és az elolvasott vagy módosított adatokat.2 Ugyanakkor az erről döntő beállítások közül sok a felhasználó kezében van, például hogy mely mappákat csatlakoztatja, és milyen gyakran kérdez rá az asszisztens egy lépés előtt.2
Néhány beállítás viszont a cégnél van. A gyártó üzleti csomagjaiban a fiók tulajdonosai kikapcsolhatják a webes keresést, az asszisztens tevékenységének naplóját saját monitorozó rendszereikbe továbbíthatják, az Enterprise csomagban pedig az új bővítményeket telepítéskor kártékony tartalomra vizsgáltathatják.2
Az OWASP két elvet tesz hozzá, amelyek a döntést a cég ügyévé teszik.4 A felhasználó nevében végzett lépések az ő saját jogosultságaival fussanak, annál többel ne.4 Arról pedig, hogy egy lépés megengedett-e, a rendszerben rögzített szabályok döntsenek, ne maga az AI-modell.4
Véleményünk szerint a feladatok egyszerűen feloszthatók. A vezetés dönti el, milyen fajta lépések megengedettek egyáltalán. Az IT ezt beállításokká alakítja, és gondoskodik a naplózásról. Az egyes adatterületek adatgazdái döntik el, mely mappákat és postafiókokat olvashat az asszisztens. A felhasználó ezeken a kereteken belül hagyja jóvá az egyes lépéseket.
Mely lépésekhez kell mindig emberi jóváhagyás?
Az OWASP azt ajánlja, hogy a nagy hatású lépéseket egy ember hagyja jóvá, mielőtt megtörténnek.4 Fokozatos megközelítést javasol, amelyben a könnyen visszafordítható lépések maguktól is futhatnak, a visszafordíthatatlanok viszont emberhez kerülnek.4
A gyártó oldala ugyanebbe az irányba mutat. Az asszisztense a fájlok végleges törlése előtt mindig rákérdez, bármilyen üzemmódban fut is.2 Azt tanácsolja, hogy váltsanak kézi jóváhagyásra, ha egy feladat érzékeny fájlokat érint, először használ egy új eszközt vagy weboldalt, vagy ha a hibákat nehéz lenne visszafordítani, például üzenetek küldésekor vagy vásárláskor.2 Abban az üzemmódban, amely minden jóváhagyást kihagy, szerinte semmi sem ellenőrzi az asszisztens lépéseit.2
A legtöbb cégnél a jóváhagyásra váró lépések észszerű alapértelmezett listája így néz ki.
- minden, ami adatot küld ki, például e-mail, feltöltés, űrlap vagy közzététel
- fájlok és rekordok törlése vagy felülírása
- fizetések, rendelések és vásárlások
- adatok módosítása a cég rendszereiben
- egy új eszköz, bővítmény vagy weboldal első használata
- ütemezett feladatok, amelyeket a gyártó tanácsa szerint távol kell tartani az érzékeny adatoktól és a nehezen visszafordítható lépésektől2
Mi kerüljön a céges szabályzatba?
Egy-két oldal elég, ha a beállítások is összhangban vannak vele.
- Mely AI-asszisztensek futhatnak a céges számítógépeken, és csak céges fiókkal?
- Mely mappákat olvashat az asszisztens? A gyártó széles hozzáférés helyett egy erre kijelölt munkamappát javasol.2
- Mely adatokhoz nem férhet hozzá soha, például pénzügyi dokumentumokhoz, belépési adatokhoz és személyes nyilvántartásokhoz?2
- Mely weboldalakat és csatlakoztatott szolgáltatásokat használhat?
- Mely lépésekhez kell mindig emberi jóváhagyás, és ezt a beállítások is kikényszerítik, nem csak a szabályzat szövege?
- Engedélyezettek az ütemezett feladatok, és ha igen, mire?
- Naplózódik minden lépés úgy, hogy az IT később is visszanézhesse?
- Mit tegyen a felhasználó, ha az asszisztens túllép a feladaton? A gyártó tanácsa, hogy azonnal állítsa le a feladatot, és jelentse az esetet.2
- Ki vizsgálja felül a szabályzatot, és milyen gyakran?
Mit jelent ez egy európai cég számára
Ha személyes adatokról van szó, az asszisztens jogosultságai jogi kérdést is jelentenek. A GDPR előírja, hogy alapértelmezés szerint csak az adott célhoz szükséges személyes adatok kezelésére kerüljön sor, és ennek kapcsán kifejezetten megnevezi az adatok hozzáférhetőségét is.5 Egy teljes meghajtóhoz csatlakoztatott asszisztens jóval többet lát, mint amennyire a feladatához szüksége van. A GDPR azt is előírja, hogy aki a cég irányítása alatt eljárva hozzáfér személyes adatokhoz, azokat kizárólag a cég mint adatkezelő utasításának megfelelően kezelheti.5 A központilag beállított jogosultságok és minden lépés rögzítése gyakorlati módja annak, hogy ezt igazolni lehessen.
Következő lépés
Ha hasznosnak tartja, egy rövid megbeszélésen szívesen végignézzük Önnel, mely mappákat és lépéseket használhat egy AI-asszisztens az Ön cégénél, és ki mit hagy jóvá. Vállalati AI-megoldásunk is így működik, minden felhasználó saját jogosultságaival és minden lépés rögzítésével, a cég saját irányítása alatt. Hogy utána mit kezd vele, csak Önön múlik.
Források
- 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Megtekintve 2026. november 17.
- 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Megtekintve 2026. november 17.
- 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Megtekintve 2026. november 17.
- 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Megtekintve 2026. november 17.
- 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Megtekintve 2026. november 17.
Változásnapló
- Közzétéve.