Juhend AI ettevõtte kontrolli all
AI töötajate arvutis. Mida see tohib?
AI-assistent töötaja arvutis on täpselt nii turvaline kui talle antud õigused, seega peaks ettevõte, mitte iga kasutaja üksi, otsustama, mida see tohib lugeda ja teha.
- Avaldatud
- Uuendatud
- Lugemisaeg
- 7 min lugemist
- Toimetaja
- David Lahuta
Lühidalt
AI-assistendid töötavad nüüd otse töötajate arvutites. Anthropic tõi 12. jaanuaril 2026 turule ühe neist, Claude Coworki, millel on otsene juurdepääs kohalikele failidele.1 Kaks päeva hiljem näitasid PromptArmori teadlased oma sõnul, kuidas dokumenti peidetud juhis pani assistendi saatma kasutaja faili võõra inimese kontole, ilma et kordagi oleks luba küsitud.3 Tootja turvalehekülg jagab nüüd assistendi tööriistad kaheks, nendeks, mis loevad, ja nendeks, mis tegutsevad, ning ütleb, et võimalik kahju sõltub mõlemast.2 Just see jaotus on põhimõtteline küsimus, mille iga ettevõte peab ise ära otsustama. Otsustage keskselt, mida assistent tohib lugeda, mida teha ja millised toimingud ootavad alati inimese kinnitust.
Mida AI-assistent töötaja arvutis teeb?
See töötab nagu uus kolleeg, kellele on klaviatuur kätte antud. Te annate talle ülesande ja see teeb kõik vajalikud sammud ise ära, selle asemel et ainult küsimusele vastata.
Turuletoomisel kirjeldas Anthropic Coworki töölauarakenduse uurimusliku eelversioonina, mis töötas kasutaja arvutis eraldatud virtuaalmasinas ning millel oli otsene juurdepääs kohalikele failidele ja ühendatud tööriistadele.1 Tootja tänane turvalehekülg loetleb, mida selline assistent teeb, nimelt loeb faile, sirvib veebi, käivitab programme ja kasutab rakendusi.2 Sama lehekülje järgi töötavad ülesanded nüüd eraldatud ajutises keskkonnas tootja serverites ja jõuavad arvutisse töölauarakenduse kaudu, ainult nendesse kaustadesse, mille kasutaja on ühendanud.2
Ettevõtte jaoks on siin eriti olulised kaks üksikasja. Eraldatus piirab tootja sõnul seda, kus assistendi kood töötab, kuid mitte seda, mida assistent loeb või teeb.2 Ajastatud ülesanded töötavad aga iseseisvalt edasi isegi siis, kui arvuti on välja lülitatud.2
Kuidas pani peidetud juhis assistendi faile välja saatma?
PromptArmori teadlased kirjeldavad kogu juhtumit oma aruandes samm-sammult.3
- Kasutaja ühendas assistendi kaustaga, kus olid konfidentsiaalsed kinnisvarafailid, näiteks hindamisaruanded ja laenuarvestused.
- Kasutaja laadis üles dokumendi, mis nägi välja nagu assistendi töö juhend. Selle sees oli valge kirjaga valgel taustal ja ühepunktises kirjas juhis, mida keegi poleks märganud.
- Kasutaja palus assistendil faile selle juhendi järgi analüüsida.
- Peidetud tekst käskis assistendil laadida suurima faili üles tootja failiteenusesse, kasutades ründaja enda konto võtit. Assistendi keskkond blokeeris enamiku välisühendustest, kuid tootja enda teenust loeti usaldusväärseks.
- Fail koos finantsnäitajate ja isikuandmetega jõudis lõpuks otse ründaja kontole.
Teadlased märgivad, et kogu selle protsessi jooksul ei palutud ühelgi hetkel inimesel midagi kinnitada.3 Nad kirjutavad ka, et selle aluseks olevast turvanõrkusest oli varem teatatud juba tootja vestlusrakenduse puhul ja tootja oli seda tunnistanud, kuid polnud parandanud.3
Teadlaste tsiteeritud vastuses hoiatas tootja, et toode on ainulaadsete riskidega uurimuslik eelversioon, ja soovitas mitte anda sellele juurdepääsu tundlikku teavet sisaldavatele kohalikele failidele.3 Sama soovitus on tootja turvaleheküljel ka täna ning leht lisab, et vaatamata kaitsemeetmetele ei ole rünnaku tõenäosus siiski null.2
Sellisel rünnakul on oma nimi. Juhiseid, mis on peidetud sisusse, mida assistent tavalise ülesande käigus loeb, nimetatakse viibasüstiks (inglise keeles prompt injection).2 OWASP Top 10 for LLM Applications 2026, turvakogukonna loetelu AI-keelemudelite peamistest riskidest, paneb selle esimesele kohale ja ütleb, et usaldusväärset viisi selle ärahoidmiseks praegu ei ole.4
Miks on see õiguste küsimus, mitte parema tööriista küsimus?
Sest nii tootja kui ka turvakogukond näevad peamist kaitset selles, mida assistendil on lubatud teha. Tootja kirjutab, et kui midagi läheb valesti, sõltub kahju peaaegu täielikult sellest, mida assistent saab lugeda ja näha ning mida see tohib teha.2 Selline rünnak saab õnnestuda ainult siis, kui korraga on täidetud kaks tingimust, assistent loeb sisu väljastpoolt teie usaldatud allikaid ja see saab teha toiminguid, mis võivad teile kahju tekitada.2
OWASP läheb veelgi kaugemale ja soovitab süsteemi kavandada eeldusel, et mudeli piir ühel päeval ületatakse, ning piirata seda, mida mudel tohib teha, nii et õnnestunud pettusest ei saaks õnnestunud rünnakut.4 See nimetab kolm tingimust, mis koos teevad tõsise kahju võimalikuks, nimelt juurdepääsu privaatsetele andmetele, ebausaldusväärse sisu ja võimaluse andmeid välja saata, ning ütleb, et piisab ükskõik millise neist kõrvaldamisest, et need tingimused enam koos ei kehtiks.4
Eespool kirjeldatud juhtumis olid kõik kolm olemas, konfidentsiaalne kaust, väljastpoolt tulnud dokument ja lubatud tee välja.3 Parem mudel oleks rünnaku õnnestumise tõenäosust vähendanud. Kitsamad õigused oleksid aga ühe kolmest tingimusest üldse kõrvaldanud.
Mis vahe on lugemisõigustel ja tegutsemisõigustel?
Tootja jagab assistendi tööriistad selgelt kahte rühma.2 Lugemistööriistad lasevad sel sisu näha, näiteks postkasti või ekraanipilti. Kirjutamistööriistad lasevad sel tegutseda, näiteks luua kalendrikutse, kustutada faili, käivitada käsu või klõpsata ekraanil. Tootja sõnul kannab teine rühm oma olemuselt suuremat riski.2
OWASP toob liigse tegutsemisvabaduse puhul välja kolm põhjust, rohkem funktsioone, kui ülesanne vajab, laiemad õigused, kui ülesanne vajab, ja liiga suur vabadus tegutseda ilma kontrollita.4 Selle enda näide on e-posti assistent, mis ainult teeb kirjadest kokkuvõtteid. See peab kirju lugema, mitte neid saatma ega kustutama.4
Meie hinnangul on levinumad õigused ja nende üle otsustajad järgmised.
| Õigus | Tavaline kasutus | Mis läheb valesti, kui see on liiga lai | Kes peaks otsustama |
|---|---|---|---|
| Kausta lugemine | projekti või osakonna dokumendid | assistent näeb palgaandmeid või lepinguid, mida ta ei vaja, ja iga fail võib sisaldada peidetud juhist | andmete omanik koos IT-ga |
| E-posti ja kalendri lugemine | kokkuvõtted, koosolekuks valmistumine | välise saatja kirjast saab juhis | IT, rolli kaupa |
| Veebi sirvimine | taustauuring, vormide täitmine | igal lehel võib olla peidetud juhis | IT |
| Failide muutmine või kustutamine | korrastamine, dokumentide toimetamine | töö läheb kaotsi või kirjutatakse üle | kasutaja, IT seatud piirides |
| Saatmine, üleslaadimine või avaldamine | e-kirjad, jagatud lingid, üleslaadimised | ettevõtte andmed jõuavad väljapoole ettevõtet | juhtkond, IT jõustab |
| Ostmine, maksmine või tellimine | ostud, broneeringud | raha kulub võõra juhise järgi | juhtkond |
| Tööriistade ja laienduste lisamine | uued ühendused teiste teenustega | iga uus ühendus avab uue sissepääsu | IT |
Kes ettevõttes otsustab?
Mitte klaviatuuri taga istuv inimene üksi. Tootja lehekülg ütleb selgelt, et kasutaja vastutab iga toimingu eest, mille assistent tema nimel teeb, sealhulgas saadetud sõnumite, tehtud ostude ning loetud või muudetud andmete eest.2 Samas on paljud seaded, mis seda määravad, just kasutaja käes, näiteks see, millised kaustad on ühendatud ja kui sageli assistent enne tegutsemist küsib.2
Mõned kontrollivahendid on siiski ka ettevõtte enda käes. Tootja äripakettide omanikud saavad veebiotsingu välja lülitada, saata assistendi tegevuste logi oma seiretööriistadesse ning ettevõttepaketi puhul lasta uusi laiendusi paigaldamisel kahjuliku sisu suhtes kontrollida.2
OWASP lisab kaks põhimõtet, mis teevad otsusest ettevõtte otsuse.4 Kasutaja nimel tehtavad toimingud peaksid toimuma selle kasutaja enda õigustega, mitte laiemate õigustega.4 Ja selle üle, kas toiming on lubatud, peaksid otsustama süsteemi kindlad reeglid, mitte AI-mudel ise.4
Meie hinnangul jaguneb see töö ettevõttes üsna lihtsalt. Juhtkond otsustab, millised toimingute liigid on üldse lubatud. IT muudab selle otsuse konkreetseteks seadeteks ja peab kõigi toimingute logi. Iga andmevaldkonna omanik otsustab, milliseid kaustu ja postkaste assistent tohib lugeda. Kasutaja kinnitab nendes piirides oma igapäevatöös üksikuid toiminguid.
Millised toimingud ootavad alati inimest?
OWASP soovitab, et suure mõjuga toimingud kinnitaks inimene enne nende toimumist.4 See pakub välja astmelise lähenemise, mille puhul kergesti tagasipööratavad sammud võivad toimuda iseseisvalt, pöördumatud aga lähevad inimesele otsustamiseks.4
Ka tootja enda lehekülg osutab täpselt samas suunas. Selle assistent küsib alati enne failide jäädavat kustutamist, ükskõik millises režiimis see töötab.2 Tootja soovitab lülituda käsitsi kinnitamisele, kui ülesanne puudutab tundlikke faile, kasutab esimest korda uut tööriista või veebilehte või kui vigu oleks raske tagasi pöörata, näiteks sõnumite saatmisel või ostude tegemisel.2 Režiimis, mis jätab kõik kinnitused vahele, ei kontrolli tootja sõnul assistendi toiminguid miski.2
Enamikule ettevõtetele sobib vaikimisi lähtekohaks selline nimekiri toimingutest, mis ootavad alati inimese kinnitust.
- kõik, mis saadab andmeid väljapoole, näiteks e-kiri, üleslaadimine, vorm või avaldamine
- failide ja kirjete kustutamine või ülekirjutamine
- maksed, tellimused ja ostud
- andmete muutmine ettevõtte süsteemides
- uue tööriista, laienduse või veebilehe esmakordne kasutamine
- ajastatud ülesanded, mida tootja soovitab hoida eemal tundlikest andmetest ja raskesti tagasipööratavatest toimingutest2
Mis kuulub ettevõtte põhimõtetesse?
Pikka dokumenti pole vaja. Piisab ühest või kahest leheküljest, kui assistendi seaded vastavad sellele, mis seal kirjas on.
- Milliseid AI-assistente tohib ettevõtte arvutites kasutada ja kas ainult ettevõtte kontodega?
- Milliseid kaustu tohib assistent lugeda? Tootja soovitab laia juurdepääsu asemel eraldi töökausta.2
- Millised andmed ei tohi kunagi assistendi lähedale sattuda, näiteks finantsdokumendid, juurdepääsuandmed ja isikuandmeid sisaldavad kirjed?2
- Milliseid veebilehti ja ühendatud teenuseid tohib see kasutada?
- Millised toimingud ootavad alati inimest ja kas seda jõustab seade, mitte ainult põhimõtete tekst?
- Kas ajastatud ülesanded on lubatud ja milleks?
- Kas iga samm salvestatakse kohta, kus IT saab seda hiljem näha?
- Mida teeb kasutaja, kui assistent läheb ülesandest kaugemale? Tootja soovitab ülesande kohe peatada ja sellest teatada.2
- Kes põhimõtted üle vaatab ja kui sageli?
Mida see tähendab ettevõttele Euroopas
Isikuandmete puhul on assistendile antavad õigused ka õiguslik küsimus. Isikuandmete kaitse üldmäärus (GDPR) nõuab, et vaikimisi töödeldakse ainult isikuandmeid, mis on vajalikud töötlemise konkreetse eesmärgi saavutamiseks, ja nimetab sõnaselgelt ka nende andmete kättesaadavust.5 Assistent, mis on ühendatud terve kettaga, näeb seega palju rohkem andmeid, kui selle ülesanne tegelikult vajab. GDPR nõuab samuti, et igaüks, kes tegutseb ettevõtte volituse alusel ja kellel on juurdepääs isikuandmetele, töötleks neid ainult ettevõtte juhiste alusel.5 Keskselt määratud õigused ja iga sammu salvestamine on praktiline viis näidata, et see nõue on täidetud.
Järgmine samm
Kui see oleks teile kasulik, võime lühidalt kohtuda ja koos läbi vaadata, milliseid kaustu ja toiminguid tohib AI-assistent teie ettevõttes kasutada ning kes mida kinnitab. Ettevõtte AI-lahendus töötab samal põhimõttel, iga kasutaja õigustega ja iga sammu salvestades, teie ettevõtte kontrolli all. Mida te sellega edasi teete, on täielikult teie otsus.
Allikad
- 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Loetud 17. november 2026
- 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Loetud 17. november 2026
- 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Loetud 17. november 2026
- 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Loetud 17. november 2026
- 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Loetud 17. november 2026
Muudatuste ajalugu
- Avaldatud.