Pereiti prie turinio
Disruptive Lab

Gidas Įmonės kontroliuojamas DI

DI darbuotojo kompiuteryje. Ką jam galima?

DI asistentas darbuotojo kompiuteryje yra tiek saugus, kiek leidžia jam suteiktos teisės, todėl tai, ką jis gali skaityti ir daryti, turėtų spręsti įmonė, o ne vien kiekvienas naudotojas.

Paskelbta
Atnaujinta
Skaitymo laikas
7 min. skaitymo
Redaktorius
David Lahuta

Trumpai

DI asistentai jau dirba tiesiogiai darbuotojų kompiuteriuose. Bendrovė „Anthropic“ vieną jų, „Claude Cowork“, turintį tiesioginę prieigą prie vietinių failų, pristatė 2026 m. sausio 12 d.1 Po dviejų dienų, pasak jų pačių, „PromptArmor“ tyrėjai parodė, kaip dokumente paslėptas nurodymas privertė asistentą išsiųsti naudotojo failą į pašalinio asmens paskyrą, o patvirtinimo nė karto nebuvo paprašyta.3 Gamintojo saugumo puslapis dabar asistento įrankius skirsto į tuos, kurie skaito, ir tuos, kurie veikia, ir teigia, kad žala priklauso nuo abiejų.2 Būtent šis skirstymas yra kiekvienos įmonės politikos klausimas. Spręsti reikėtų centralizuotai, ką asistentas gali skaityti, ką gali daryti ir kurie veiksmai visada laukia žmogaus.

Ką DI asistentas daro darbuotojo kompiuteryje?

Jis dirba kaip naujas kolega, kuriam perdavėte klaviatūrą. Jūs duodate užduotį, o jis pats atlieka visus jos žingsnius, užuot tik atsakęs į klausimą.

Pristatydama „Cowork“, bendrovė „Anthropic“ jį apibūdino kaip darbalaukio programėlės bandomąją tyrimų versiją (angl. research preview), veikiančią izoliuotoje virtualioje mašinoje naudotojo kompiuteryje, su tiesiogine prieiga prie vietinių failų ir prijungtų įrankių.1 Šiandien jo saugumo puslapyje išvardyta, ką toks asistentas daro, t. y. skaito failus, naršo internete, paleidžia programas ir naudojasi programėlėmis.2 Tame pačiame puslapyje rašoma, kad užduotys dabar vykdomos izoliuotoje laikinoje aplinkoje gamintojo serveriuose, o prie kompiuterio prieina per darbalaukio programėlę ir tik prie tų aplankų, kuriuos prijungė naudotojas.2

Įmonei svarbios dvi detalės. Izoliacija, kaip rašo gamintojas, riboja tai, kur vykdomas asistento kodas, bet ne tai, ką jis skaito ar daro.2 O suplanuotos užduotys vykdomos savarankiškai, net kai kompiuteris išjungtas.2

Kaip paslėptas nurodymas privertė asistentą išsiųsti failus?

„PromptArmor“ tyrėjai šį atvejį aprašo žingsnis po žingsnio.3

  1. Naudotojas prijungė asistentą prie aplanko su konfidencialiais nekilnojamojo turto failais, pavyzdžiui, vertinimais ir paskolų skaičiavimais.
  2. Naudotojas įkėlė dokumentą, kuris atrodė kaip darbo instrukcijų rinkinys asistentui. Jame baltu šriftu ant balto puslapio, vieno punkto dydžio raidėmis, buvo įrašytas nurodymas, kurio niekas nebūtų pastebėjęs.
  3. Naudotojas paprašė asistento pagal tas instrukcijas išanalizuoti failus.
  4. Paslėptas tekstas liepė asistentui įkelti didžiausią failą į gamintojo failų paslaugą, su paties užpuoliko paskyros raktu. Asistento aplinka blokavo daugumą išorinių ryšių, tačiau paties gamintojo paslauga buvo laikoma patikima.
  5. Failas su finansiniais skaičiais ir asmens duomenimis pateko į užpuoliko paskyrą.

Tyrėjai pažymi, kad nė vienu metu žmogaus nebuvo paprašyta ką nors patvirtinti.3 Jie taip pat rašo, kad apie šį pažeidžiamumą gamintojo pokalbių produkte buvo pranešta anksčiau ir jis buvo pripažintas, tačiau nepašalintas.3

Gamintojo atsakymas, kaip jį cituoja tyrėjai, buvo įspėjimas, kad produktas yra bandomoji tyrimų versija su jai būdingomis rizikomis, ir patarimas nesuteikti jam prieigos prie vietinių failų su jautria informacija.3 Tą patį patarimą ir šiandien rasite gamintojo saugumo puslapyje, kuriame dar priduriama, kad nepaisant apsaugos priemonių atakos tikimybė vis tiek nėra nulinė.2

Tokia ataka turi pavadinimą. Nurodymai, paslėpti turinyje, kurį asistentas skaito atlikdamas įprastą užduotį, vadinami užklausos injekcija (angl. prompt injection).2 OWASP Top 10 for LLM Applications 2026, saugumo bendruomenės sudarytas pagrindinių DI kalbos modelių rizikų sąrašas, ją nurodo pirmoje vietoje ir teigia, kad šiandien nėra patikimo būdo jos išvengti.4

Kodėl tai teisių, o ne geresnio įrankio klausimas?

Todėl, kad ir gamintojas, ir saugumo bendruomenė apsaugą sieja su tuo, ką asistentui leidžiama daryti. Gamintojas rašo, kad kai kas nors nepavyksta, žala beveik visiškai priklauso nuo to, ką asistentas gali skaityti ir matyti ir ką jam leidžiama daryti.2 Tokia ataka pavyksta tik tada, kai vienu metu tenkinamos dvi sąlygos, t. y. asistentas skaito turinį ne iš jūsų patikimų šaltinių ir gali atlikti veiksmus, kurie jums gali pakenkti.2

OWASP eina dar toliau ir pataria projektuoti sistemas darant prielaidą, kad modelio ribos kada nors bus peržengtos, ir riboti, ką modelis gali daryti, kad pavykęs apgaulės bandymas netaptų pavykusia ataka.4 Jis įvardija tris sąlygas, kurios kartu leidžia padaryti didelę žalą, t. y. prieigą prie privačių duomenų, nepatikimą turinį ir būdą išsiųsti duomenis į išorę, ir teigia, kad pašalinus bet kurią iš jų tokios galimybės nebelieka.4

Aukščiau aprašytame atvejyje buvo visos trys sąlygos, t. y. konfidencialus aplankas, dokumentas iš išorės ir leidžiamas kelias į išorę.3 Geresnis modelis būtų sumažinęs tikimybę. Siauresnės teisės būtų pašalinusios vieną iš trijų sąlygų.

Kuo skiriasi skaitymo ir veiksmų teisės?

Gamintojas asistento įrankius skirsto į dvi grupes.2 Skaitymo įrankiai leidžia jam matyti turinį, pavyzdžiui, pašto dėžutę ar ekrano kopiją. Rašymo įrankiai leidžia jam veikti, pavyzdžiui, sukurti kvietimą kalendoriuje, ištrinti failą, paleisti komandą ar spustelėti ekrane. Gamintojas teigia, kad antroji grupė dėl savo pobūdžio kelia didesnę riziką.2

OWASP per didelį savarankiškumą sieja su trimis priežastimis, t. y. daugiau funkcijų, nei reikia užduočiai, platesnės teisės, nei reikia užduočiai, ir per didelė laisvė veikti be jokios patikros.4 Jo pateikiamas pavyzdys yra pašto asistentas, kuris tik apibendrina laiškus. Jam reikia skaityti paštą, o ne jį siųsti ar trinti.4

Mūsų nuomone, dažniausios teisės ir tai, kas dėl jų turėtų spręsti, atrodo taip.

Teisė Įprastas naudojimas Kas nutinka, kai ji per plati Kas turėtų spręsti
Skaityti aplanką projekto ar skyriaus dokumentai asistentas mato atlyginimus ar sutartis, kurių jam nereikia, o kiekviename faile gali slypėti paslėptas nurodymas duomenų savininkas kartu su IT
Skaityti paštą ir kalendorių santraukos, pasirengimas susitikimui išorės siuntėjo laiškas tampa nurodymu IT, pagal pareigybę
Naršyti internete informacijos paieška, formų pildymas bet kuriame puslapyje gali būti paslėptas nurodymas IT
Keisti ar trinti failus tvarkymas, dokumentų redagavimas darbas prarandamas arba perrašomas naudotojas, IT nustatytose ribose
Siųsti, įkelti ar skelbti el. laiškai, bendrinamos nuorodos, įkėlimai įmonės duomenys palieka įmonę vadovybė, o įgyvendina IT
Pirkti, mokėti ar užsakyti pirkimai, rezervacijos pinigai išleidžiami pagal svetimo asmens nurodymą vadovybė
Pridėti įrankius ir plėtinius nauji ryšiai su kitomis paslaugomis kiekvienas jų atveria naują kelią į vidų IT

Kas įmonėje sprendžia?

Ne vien žmogus prie klaviatūros. Gamintojo puslapyje aiškiai pasakyta, kad naudotojas lieka atsakingas už kiekvieną asistento jo vardu atliktą veiksmą, įskaitant išsiųstus pranešimus, atliktus pirkimus ir perskaitytus ar pakeistus duomenis.2 Vis dėlto daug tai lemiančių nustatymų yra naudotojo rankose, pavyzdžiui, kurie aplankai prijungti ir kaip dažnai asistentas klausia prieš imdamasis veiksmo.2

Kai kurios valdymo priemonės vis dėlto yra įmonės rankose. Kai įmonė naudoja gamintojo verslo planą, jo savininkai gali išjungti paiešką internete, siųsti asistento veiklos įrašus į savo stebėsenos įrankius, o įmonių plane ir nustatyti, kad nauji plėtiniai juos diegiant būtų patikrinami, ar juose nėra kenksmingo turinio.2

OWASP prideda du principus, dėl kurių šis sprendimas tampa įmonės sprendimu.4 Veiksmai, atliekami naudotojo vardu, turėtų būti vykdomi su paties naudotojo teisėmis, ne platesnėmis.4 O tai, ar veiksmas leidžiamas, turėtų lemti iš anksto nustatytos sistemos taisyklės, o ne pats DI modelis.4

Mūsų nuomone, darbą galima paskirstyti paprastai. Vadovybė sprendžia, kokios veiksmų rūšys apskritai leidžiamos. IT tai paverčia nustatymais ir saugo įrašus. Kiekvienos duomenų srities savininkas sprendžia, kuriuos aplankus ir pašto dėžutes asistentas gali skaityti. Naudotojas tose ribose tvirtina pavienius veiksmus.

Kurie veiksmai visada laukia žmogaus?

OWASP rekomenduoja, kad didelio poveikio veiksmus žmogus patvirtintų prieš juos atliekant.4 Jis siūlo pakopinį požiūrį, pagal kurį lengvai atšaukiami žingsniai gali vykti savaime, o neatšaukiami perduodami žmogui.4

Gamintojo puslapis rodo ta pačia kryptimi. Jo asistentas visada klausia prieš negrįžtamai ištrindamas failus, kad ir kokiu režimu veiktų.2 Jis pataria pereiti prie rankinio tvirtinimo, kai užduotis liečia jautrius failus, pirmą kartą naudoja naują įrankį ar svetainę arba kai klaidas būtų sunku atitaisyti, pavyzdžiui, siunčiant pranešimus ar perkant.2 Režime, kuriame praleidžiami visi patvirtinimai, kaip teigia gamintojas, asistento veiksmų niekas netikrina.2

Daugumai įmonių tinkamas numatytasis sąrašas veiksmų, kurie laukia patvirtinimo, atrodo taip.

  • viskas, kas siunčia duomenis į išorę, pavyzdžiui, el. laiškas, įkėlimas, forma ar publikacija
  • failų ir įrašų trynimas ar perrašymas
  • mokėjimai, užsakymai ir pirkimai
  • duomenų pakeitimai įmonės sistemose
  • pirmasis naujo įrankio, plėtinio ar svetainės naudojimas
  • suplanuotos užduotys, kurias gamintojas pataria laikyti atokiau nuo jautrių duomenų ir nuo sunkiai atšaukiamų veiksmų2

Kas turėtų būti įmonės politikoje?

Pakanka vieno ar dviejų puslapių, jei tik nustatymai juos atitinka.

  • Kurie DI asistentai gali veikti įmonės kompiuteriuose ir ar tik su įmonės paskyromis?
  • Kuriuos aplankus asistentas gali skaityti? Gamintojas siūlo atskirą darbo aplanką, o ne plačią prieigą.2
  • Kokie duomenys niekada neturi patekti į jo akiratį, pavyzdžiui, finansiniai dokumentai, prisijungimo duomenys ir asmens įrašai?2
  • Kurias svetaines ir prijungtas paslaugas jis gali naudoti?
  • Kurie veiksmai visada laukia žmogaus ir ar tai užtikrina nustatymas, o ne vien politikos tekstas?
  • Ar leidžiamos suplanuotos užduotys ir kam?
  • Ar kiekvienas žingsnis įrašomas ten, kur IT vėliau gali jį peržiūrėti?
  • Ką naudotojas daro, kai asistentas peržengia užduoties ribas? Gamintojas pataria nedelsiant sustabdyti užduotį ir apie tai pranešti.2
  • Kas peržiūri politiką ir kaip dažnai?

Ką tai reiškia įmonei Europoje

Kai kalbama apie asmens duomenis, asistentui suteikiamos teisės yra ir teisinis klausimas. BDAR reikalauja, kad standartizuotai, t. y. pagal numatytuosius nustatymus, būtų tvarkomi tik tie asmens duomenys, kurie būtini kiekvienam konkrečiam tikslui, ir aiškiai mini tų duomenų prieinamumą.5 Asistentas, prijungtas prie viso disko, mato kur kas daugiau, nei reikia jo užduočiai. BDAR taip pat reikalauja, kad kiekvienas įmonei pavaldus asmuo, galintis susipažinti su asmens duomenimis, juos tvarkytų tik pagal įmonės nurodymus.5 Centralizuotai nustatytos teisės ir kiekvieno žingsnio įrašas yra praktiškas būdas parodyti, kad šis reikalavimas vykdomas.

Kitas žingsnis

Jei jums būtų naudinga, galime trumpai susitikti ir kartu aptarti, kokius aplankus DI asistentas gali naudoti jūsų įmonėje, kokius veiksmus atlikti ir kas ką tvirtina. Tuo pačiu principu veikia ir mūsų verslo DI sprendimas. Jis dirba su kiekvieno naudotojo teisėmis, įrašo kiekvieną žingsnį ir yra jūsų įmonės kontroliuojamas. Ką darysite toliau, spręsite tik jūs.

Verslo DI sprendimas

Šaltiniai

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Perskaityta 2026 m. lapkričio 17 d.
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Perskaityta 2026 m. lapkričio 17 d.
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Perskaityta 2026 m. lapkričio 17 d.
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Perskaityta 2026 m. lapkričio 17 d.
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Perskaityta 2026 m. lapkričio 17 d.

Pakeitimų istorija

  1. Paskelbta.

Pakalbėkime apie jūsų projektą

Palikite kontaktinius duomenis, ir mes susisieksime su jumis pasiūlydami laiką. Nemokamai ir be įsipareigojimų.

Su šalies kodu, pavyzdžiui, +370.

Jūsų duomenis naudosime tik tam, kad jums atsakytume. Privatumo politika

Šią formą nuo automatinio pateikimo saugo Google reCAPTCHA. Google privatumo politika (atsidaro naujame lange) Google paslaugų teikimo sąlygos (atsidaro naujame lange)

Arba susisiekite su mumis tiesiogiai

Parašykite mums office@disruptivelab.dev
Paskambinkite mums +420 777 702 032

Pageidaujama bendravimo kalba yra anglų.

Visi kontaktai ir adresai