AI darbinieku datoros. Ko tas drīkst darīt?
AI asistents darbinieka datorā ir tik drošs, cik šauras tiesības tam piešķirtas, tāpēc par to, ko tas drīkst lasīt un darīt, jālemj uzņēmumam, nevis katram lietotājam pašam.
- Publicēts
- Atjaunināts
- Lasīšanas laiks
- 7 min lasīšanai
- Redaktors
- David Lahuta
Īsumā
AI asistenti tagad strādā tieši darbinieku datoros. Uzņēmums Anthropic 2026. gada 12. janvārī laida klajā vienu no tiem, Claude Cowork, ar tiešu piekļuvi lokālajiem failiem.1 Divas dienas vēlāk uzņēmuma PromptArmor pētnieki, pēc pašu teiktā, parādīja, kā dokumentā paslēpta instrukcija lika asistentam nosūtīt lietotāja failu uz sveša cilvēka kontu, un apstiprinājums netika prasīts ne reizi.3 Piegādātāja drošības lapa tagad sadala asistenta rīkus tādos, kas lasa, un tādos, kas rīkojas, un raksta, ka kaitējums ir atkarīgs no abiem.2 Tieši šis iedalījums ir katra uzņēmuma iekšējās politikas jautājums. Izlemiet centralizēti, ko asistents drīkst lasīt, ko tas drīkst darīt un kuras darbības vienmēr gaida cilvēka apstiprinājumu.
Ko AI asistents dara darbinieka datorā?
Tas strādā kā jauns kolēģis, kuram iedota tastatūra. Jūs tam uzdodat uzdevumu, un tas pats izpilda visus soļus, nevis tikai atbild uz jautājumu.
Laižot Cowork klajā, Anthropic to aprakstīja kā pētniecības priekšskatījumu (research preview) darbvirsmas lietotnē, kas darbojās izolētā virtuālajā mašīnā lietotāja datorā ar tiešu piekļuvi lokālajiem failiem un pievienotajiem rīkiem.1 Cowork drošības lapā šodien uzskaitīts, ko šāds asistents dara, proti, tas lasa failus, pārlūko tīmekli, palaiž programmas un lieto lietotnes.2 Tajā pašā lapā teikts, ka uzdevumi tagad tiek izpildīti izolētā, īslaicīgā vidē piegādātāja serveros un datoram piekļūst caur darbvirsmas lietotni, turklāt tikai tajās mapēs, ko lietotājs ir pievienojis.2
Uzņēmumam svarīgas ir divas detaļas. Izolācija, kā raksta piegādātājs, ierobežo, kur darbojas asistenta kods, bet ne to, ko tas lasa vai dara.2 Turklāt ieplānotie uzdevumi izpildās paši, pat tad, ja dators ir izslēgts.2
Kā paslēpta instrukcija lika asistentam nosūtīt failus ārpus uzņēmuma?
PromptArmor pētnieki gadījumu apraksta soli pa solim.3
- Lietotājs pievienoja asistentu mapei ar konfidenciāliem nekustamā īpašuma dokumentiem, piemēram, īpašumu novērtējumiem un kredīta aprēķiniem.
- Lietotājs augšupielādēja dokumentu, kas izskatījās pēc asistentam domātu darba instrukciju kopuma. Tajā ar baltu tekstu uz baltas lapas, viena punkta burtu izmērā, bija paslēpta instrukcija, ko neviens neieraudzītu.
- Lietotājs lūdza asistentu analizēt failus saskaņā ar šīm instrukcijām.
- Paslēptais teksts lika asistentam augšupielādēt lielāko failu piegādātāja failu pakalpojumā, izmantojot uzbrucēja paša konta atslēgu. Asistenta vide bloķēja lielāko daļu savienojumu ar ārpasauli, bet piegādātāja paša pakalpojums tika uzskatīts par uzticamu.
- Fails ar finanšu skaitļiem un personas datiem nonāca uzbrucēja kontā.
Pētnieki norāda, ka neviens cilvēks ne reizi netika lūgts kaut ko apstiprināt.3 Viņi arī raksta, ka par pamatā esošo ievainojamību jau iepriekš bija ziņots saistībā ar piegādātāja tērzēšanas produktu un piegādātājs to bija atzinis, bet nebija novērsis.3
Piegādātāja atbilde, kā to citē pētnieki, bija brīdinājums, ka produkts ir pētniecības priekšskatījums ar unikāliem riskiem, un ieteikums nedot tam piekļuvi lokālajiem failiem ar sensitīvu informāciju.3 Tas pats ieteikums šodien ir lasāms piegādātāja drošības lapā, kurā piebilsts, ka, neraugoties uz aizsardzības pasākumiem, uzbrukuma iespējamība joprojām nav nulle.2
Šādam uzbrukumam ir nosaukums. Instrukcijas, kas paslēptas saturā, ko asistents lasa parasta uzdevuma laikā, sauc par uzvednes injekciju (prompt injection).2 OWASP Top 10 for LLM Applications 2026, drošības kopienas saraksts ar galvenajiem AI valodas modeļu riskiem, to ierindo pirmajā vietā un raksta, ka uzticama veida, kā to novērst, šodien nav.4
Kāpēc tas ir tiesību, nevis labāka rīka jautājums?
Tāpēc, ka gan piegādātājs, gan drošības kopiena aizsardzību saskata tajā, ko asistentam ir atļauts darīt. Piegādātājs raksta, ka tad, ja kaut kas noiet greizi, kaitējums gandrīz pilnībā ir atkarīgs no tā, ko asistents var lasīt un redzēt un ko tas drīkst darīt.2 Šāds uzbrukums izdodas tikai tad, ja vienlaikus ir spēkā divi nosacījumi, proti, asistents lasa saturu ārpus jūsu uzticamajiem avotiem un tas var veikt darbības, kas jums var kaitēt.2
OWASP iet vēl tālāk un iesaka sistēmas projektēt ar pieņēmumu, ka modeļa robeža kādu dienu tiks pārkāpta, un ierobežot to, ko modelis drīkst darīt, lai veiksmīga viltība nekļūtu par veiksmīgu uzbrukumu.4 Tas min trīs nosacījumus, kas kopā padara iespējamu nopietnu kaitējumu, proti, piekļuvi privātiem datiem, neuzticamu saturu un iespēju nosūtīt datus ārā, un raksta, ka pietiek novērst jebkuru no tiem, lai šie apstākļi zustu.4
Iepriekš aprakstītajā gadījumā bija visi trīs, proti, konfidenciāla mape, dokuments no ārpuses un atļauts ceļš uz āru.3 Labāks modelis būtu mazinājis uzbrukuma izredzes. Šaurākas tiesības būtu novērsušas vienu no trim.
Kāda ir atšķirība starp lasīšanas un darbības tiesībām?
Piegādātājs asistenta rīkus iedala divās grupās.2 Lasīšanas rīki ļauj tam redzēt saturu, piemēram, pastkasti vai ekrānuzņēmumu. Rakstīšanas rīki ļauj tam rīkoties, piemēram, izveidot ielūgumu kalendārā, izdzēst failu, izpildīt komandu vai noklikšķināt ekrānā. Piegādātājs raksta, ka otrā grupa pēc savas būtības ir riskantāka.2
OWASP pārmērīgu rīcības brīvību saista ar trim cēloņiem, proti, vairāk funkciju, nekā uzdevumam vajag, plašākas atļaujas, nekā uzdevumam vajag, un pārāk liela brīvība rīkoties bez pārbaudes.4 Paša OWASP piemērs ir e-pasta asistents, kas tikai apkopo ziņojumus. Tam vajag lasīt pastu, nevis to sūtīt vai dzēst.4
Mūsuprāt, biežākās tiesības un tas, kam par tām būtu jālemj, izskatās šādi.
| Tiesības | Tipisks lietojums | Kas notiek, ja tās ir pārāk plašas | Kam būtu jālemj |
|---|---|---|---|
| Lasīt mapi | projekta vai nodaļas dokumenti | asistents redz algas vai līgumus, kas tam nav vajadzīgi, un katrā failā var būt paslēpta instrukcija | datu īpašniekam kopā ar IT |
| Lasīt e-pastu un kalendāru | kopsavilkumi, sanāksmes sagatavošana | ārēja sūtītāja ziņojums kļūst par instrukciju | IT atbilstoši amatam |
| Pārlūkot tīmekli | izpēte, veidlapu aizpildīšana | jebkurā lapā var būt paslēpta instrukcija | IT |
| Mainīt vai dzēst failus | kārtošana, dokumentu rediģēšana | darbs tiek zaudēts vai pārrakstīts | lietotājam IT noteiktajās robežās |
| Sūtīt, augšupielādēt vai publicēt | e-pasti, kopīgotas saites, augšupielādes | uzņēmuma dati nonāk ārpus uzņēmuma | vadībai, IT to nodrošina |
| Pirkt, maksāt vai pasūtīt | pirkumi, rezervācijas | nauda tiek iztērēta pēc kāda cita instrukcijas | vadībai |
| Pievienot rīkus un paplašinājumus | jauni savienojumi ar citiem pakalpojumiem | katrs paver jaunu ceļu iekšā | IT |
Kurš uzņēmumā lemj?
Ne tikai cilvēks pie tastatūras. Piegādātāja lapā skaidri teikts, ka lietotājs paliek atbildīgs par katru darbību, ko asistents veic viņa vārdā, ieskaitot nosūtītos ziņojumus, veiktos pirkumus un lasītos vai mainītos datus.2 Tomēr daudzi iestatījumi, kas to nosaka, ir lietotāja rokās, piemēram, kuras mapes ir pievienotas un cik bieži asistents jautā, pirms rīkojas.2
Daži kontroles mehānismi tomēr ir uzņēmuma rokās. Piegādātāja biznesa plānu īpašnieki var izslēgt meklēšanu tīmeklī, var sūtīt asistenta darbību ierakstu uz saviem uzraudzības rīkiem, un korporatīvajā plānā var panākt, lai jaunie paplašinājumi instalēšanas brīdī tiktu pārbaudīti, vai tajos nav kaitīga satura.2
OWASP piebilst vēl divus principus, kuru dēļ šis lēmums ir uzņēmuma lēmums.4 Darbībām, kas tiek veiktas lietotāja vārdā, jānotiek ar paša lietotāja tiesībām un ne ar plašākām.4 Turklāt to, vai darbība ir atļauta, jānosaka fiksētiem noteikumiem sistēmā, nevis pašam AI modelim.4
Mūsuprāt, pienākumi sadalās vienkārši. Vadība izlemj, kādi darbību veidi vispār ir atļauti. IT to pārvērš iestatījumos un glabā ierakstu. Katras datu jomas īpašnieks izlemj, kuras mapes un pastkastes asistents drīkst lasīt. Lietotājs šo robežu ietvaros apstiprina atsevišķas darbības.
Kuras darbības vienmēr gaida cilvēku?
OWASP iesaka, lai cilvēks apstiprinātu darbības ar lielu ietekmi, pirms tās notiek.4 Tas piedāvā pakāpenisku pieeju, kurā viegli atsaucami soļi var notikt paši, bet neatgriezeniski tiek nodoti cilvēkam.4
Piegādātāja lapa norāda tajā pašā virzienā. Piegādātāja asistents vienmēr jautā, pirms neatgriezeniski dzēš failus, neatkarīgi no režīma, kurā tas darbojas.2 Lapa iesaka pārslēgties uz manuālu apstiprināšanu, ja uzdevums skar sensitīvus failus, pirmo reizi izmanto jaunu rīku vai vietni vai ja kļūdas būtu grūti labot, piemēram, sūtot ziņojumus vai veicot pirkumus.2 Režīmā, kas izlaiž visus apstiprinājumus, kā tajā teikts, asistenta darbības nepārbauda nekas.2
Lielākajai daļai uzņēmumu saprātīgs noklusējuma saraksts ar darbībām, kas gaida apstiprinājumu, izskatās šādi.
- viss, kas sūta datus ārpus uzņēmuma, piemēram, e-pasts, augšupielāde, veidlapa vai publikācija
- failu un ierakstu dzēšana vai pārrakstīšana
- maksājumi, pasūtījumi un pirkumi
- datu izmaiņas uzņēmuma sistēmās
- jauna rīka, paplašinājuma vai tīmekļa vietnes pirmā izmantošana
- ieplānotie uzdevumi, kurus piegādātājs iesaka turēt tālāk no sensitīviem datiem un no darbībām, ko grūti atsaukt2
Kam jābūt uzņēmuma politikā?
Pietiek ar vienu vai divām lappusēm, ja vien iestatījumi tām atbilst.
- Kuri AI asistenti drīkst darboties uzņēmuma datoros, un tikai ar uzņēmuma kontiem?
- Kuras mapes asistents drīkst lasīt? Piegādātājs iesaka atsevišķu darba mapi, nevis plašu piekļuvi.2
- Kuri dati nekad nedrīkst nonākt tā tuvumā, piemēram, finanšu dokumenti, piekļuves dati un personas datu ieraksti?2
- Kuras tīmekļa vietnes un pievienotos pakalpojumus tas drīkst izmantot?
- Kuras darbības vienmēr gaida cilvēku, un vai to nodrošina iestatījums, nevis tikai politikas teksts?
- Vai ieplānotie uzdevumi ir atļauti, un kādiem mērķiem?
- Vai katrs solis tiek reģistrēts tur, kur IT to vēlāk var redzēt?
- Kas lietotājam jādara, ja asistents iziet ārpus uzdevuma robežām? Piegādātājs iesaka uzdevumu nekavējoties apturēt un par to ziņot.2
- Kurš politiku pārskata un cik bieži?
Ko tas nozīmē uzņēmumam Eiropā
Ja runa ir par personas datiem, asistentam piešķirtās tiesības ir arī juridisks jautājums. VDAR prasa, lai pēc noklusējuma tiktu apstrādāti tikai tie personas dati, kas nepieciešami katram konkrētajam apstrādes nolūkam, un tā tieši min arī šo datu pieejamību.5 Asistents, kas pievienots visam diskam, redz daudz vairāk, nekā vajag tā uzdevumam. VDAR arī prasa, lai ikviens, kas darbojas uzņēmuma pakļautībā un kam ir piekļuve personas datiem, tos apstrādātu tikai saskaņā ar uzņēmuma norādījumiem.5 Centralizēti noteiktas tiesības un katra soļa ieraksts ir praktisks veids, kā pierādīt, ka šīs prasības tiek ievērotas.
Nākamais solis
Ja tas jums noderētu, varam īsi tikties un kopā aplūkot, kuras mapes un darbības AI asistents jūsu uzņēmumā drīkst izmantot un kurš ko apstiprina. Uzņēmuma AI risinājums darbojas tieši tāpat, ar katra lietotāja tiesībām un katra soļa ierakstu, jūsu uzņēmuma kontrolē. Ko ar to darīt pēc tam, ir tikai jūsu lēmums.
Avoti
- 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Skatīts 2026. gada 17. novembris
- 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Skatīts 2026. gada 17. novembris
- 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Skatīts 2026. gada 17. novembris
- 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Skatīts 2026. gada 17. novembris
- 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Skatīts 2026. gada 17. novembris
Izmaiņu vēsture
- Publicēts.