Salt la conținut
Disruptive Lab

Ghid AI sub controlul companiei

AI pe calculatoarele angajaților. Ce poate?

Un asistent AI pe calculatorul unui angajat este sigur doar în limita drepturilor primite, așa că firma, nu fiecare utilizator, ar trebui să decidă ce poate citi și ce poate face.

Publicat
Actualizat
Timp de citire
8 min de lectură
Redactor
David Lahuta

Pe scurt

Asistenții AI lucrează acum direct pe calculatoarele angajaților. Anthropic a lansat unul dintre aceștia, Claude Cowork, pe 12 ianuarie 2026, cu acces direct la fișierele locale.1 Două zile mai târziu, potrivit propriei relatări, cercetătorii de la PromptArmor au arătat cum o instrucțiune ascunsă într-un document l-a determinat să trimită un fișier al utilizatorului în contul unei terțe persoane, fără să ceară vreo aprobare.3 Pagina de siguranță a producătorului împarte acum instrumentele unui asistent în instrumente care citesc și instrumente care acționează și spune că paguba depinde de amândouă.2 Pentru orice firmă, tocmai această împărțire este întrebarea de politică internă. Decideți centralizat ce poate citi un asistent, ce poate face și ce acțiuni așteaptă întotdeauna un om.

Ce face un asistent AI pe calculatorul unui angajat?

Lucrează ca un coleg nou căruia i s-a dat tastatura. Îi dați o sarcină, iar el execută singur pașii, în loc să răspundă doar la o întrebare.

La lansare, Anthropic a descris Cowork ca pe o versiune de previzualizare pentru cercetare a aplicației desktop, care rula într-o mașină virtuală izolată pe calculatorul utilizatorului, cu acces direct la fișierele locale și la instrumentele conectate.1 Pagina sa de siguranță enumeră astăzi ce face un astfel de asistent, adică citește fișiere, navighează pe web, rulează programe și folosește aplicații.2 Aceeași pagină spune că sarcinile rulează acum într-un mediu izolat și temporar pe serverele producătorului și ajung la calculator prin aplicația desktop, doar pentru folderele pe care utilizatorul le-a conectat.2

Pentru o firmă contează două detalii. Izolarea, scrie producătorul, limitează locul în care rulează codul asistentului, dar nu ce citește sau ce face.2 Iar sarcinile programate rulează singure, chiar și când calculatorul este oprit.2

Cum a determinat o instrucțiune ascunsă un asistent să trimită fișiere în afară?

Cercetătorii de la PromptArmor descriu cazul pas cu pas.3

  1. Un utilizator a conectat asistentul la un folder cu documente imobiliare confidențiale, de exemplu evaluări și estimări de credit.
  2. Utilizatorul a încărcat un document care arăta ca un set de instrucțiuni de lucru pentru asistent. Înăuntru, cu litere albe pe fundal alb și cu un corp de literă de un punct, se afla o instrucțiune pe care nimeni nu ar fi observat-o.
  3. Utilizatorul i-a cerut asistentului să analizeze fișierele pe baza acelor instrucțiuni.
  4. Textul ascuns îi spunea asistentului să încarce cel mai mare fișier în serviciul de fișiere al producătorului, folosind cheia de acces a contului atacatorului. Mediul asistentului bloca majoritatea conexiunilor spre exterior, dar serviciul propriu al producătorului era considerat de încredere.
  5. Fișierul, cu cifre financiare și date cu caracter personal, a ajuns în contul atacatorului.

Cercetătorii notează că nimeni nu a fost întrebat în niciun moment dacă aprobă ceva.3 Ei mai scriu că vulnerabilitatea de fond fusese semnalată anterior în produsul de chat al producătorului și recunoscută, dar nu și remediată.3

Răspunsul producătorului, așa cum îl citează cercetătorii, a fost un avertisment că produsul este o versiune de previzualizare pentru cercetare, cu riscuri aparte, și sfatul de a nu-i da acces la fișiere locale cu informații sensibile.3 Același sfat apare și astăzi pe pagina de siguranță a producătorului, care adaugă că, în ciuda măsurilor de protecție, riscul unui atac rămâne mai mare decât zero.2

Acest tip de atac are un nume. Instrucțiunile ascunse în conținutul pe care asistentul îl citește în timpul unei sarcini obișnuite se numesc prompt injection, adică injectarea de instrucțiuni.2 OWASP Top 10 for LLM Applications 2026, lista în care comunitatea de securitate adună principalele riscuri ale modelelor lingvistice AI, îl pune pe primul loc și spune că astăzi nu există o metodă sigură de a-l preveni.4

De ce este o chestiune de drepturi, nu de instrument mai bun?

Pentru că atât producătorul, cât și comunitatea de securitate caută apărarea în ceea ce are voie asistentul să facă. Producătorul scrie că, atunci când ceva merge prost, paguba depinde aproape în întregime de ce poate citi și vedea asistentul și de ce are voie să facă.2 Un atac de acest fel reușește doar când două condiții sunt îndeplinite în același timp, asistentul citește conținut din afara surselor în care aveți încredere și poate face acțiuni care v-ar putea dăuna.2

OWASP merge mai departe și recomandă ca sistemul să fie proiectat pornind de la premisa că limita modelului va fi depășită într-o zi, iar ceea ce are voie modelul să facă să fie restrâns, astfel încât un truc reușit să nu devină un atac reușit.4 Numește trei condiții care împreună fac posibilă o pagubă serioasă, adică accesul la date private, conținutul din surse nesigure și o cale de a trimite date în afară, și spune că, odată înlăturată oricare dintre ele, aceste condiții nu mai sunt întrunite.4

În cazul de mai sus toate trei erau prezente, un folder confidențial, un document venit din afară și o cale permisă spre exterior.3 Un model mai bun ar fi scăzut șansele. Drepturi mai restrânse ar fi eliminat una dintre cele trei condiții.

Care este diferența dintre dreptul de a citi și dreptul de a acționa?

Producătorul împarte instrumentele unui asistent în două grupe.2 Instrumentele de citire îi permit să vadă conținut, de exemplu o căsuță de e-mail sau o captură de ecran. Instrumentele de scriere îi permit să acționeze, de exemplu să creeze o invitație în calendar, să șteargă un fișier, să ruleze o comandă sau să dea clic pe ecran. Producătorul spune că a doua grupă are, prin natura ei, un risc mai mare.2

OWASP pune prea multă autonomie pe seama a trei cauze, mai multe funcții decât are nevoie sarcina, permisiuni mai largi decât are nevoie sarcina și prea multă libertate de a acționa fără verificare.4 Exemplul său este un asistent de e-mail care doar rezumă mesajele. Are nevoie să citească e-mailurile, nu să le trimită sau să le șteargă.4

Iată, în opinia noastră, drepturile obișnuite și cine ar trebui să decidă asupra lor.

Drept Utilizare tipică Ce merge prost când este prea larg Cine ar trebui să decidă
Citirea unui folder documentele unui proiect sau ale unui departament asistentul vede salarii sau contracte de care nu are nevoie, iar orice fișier poate conține o instrucțiune ascunsă proprietarul datelor, împreună cu IT
Citirea e-mailului și a calendarului rezumate, pregătirea unei ședințe mesajul unui expeditor din afară devine o instrucțiune IT, pe roluri
Navigarea pe web documentare, completarea de formulare orice pagină poate conține o instrucțiune ascunsă IT
Modificarea sau ștergerea fișierelor organizarea și editarea documentelor munca se pierde sau este suprascrisă utilizatorul, în limitele stabilite de IT
Trimiterea, încărcarea sau publicarea e-mailuri, linkuri partajate, încărcări datele firmei ies din firmă conducerea, iar IT asigură aplicarea
Cumpărarea, plata sau comanda achiziții, rezervări se cheltuiesc bani la comanda altcuiva conducerea
Adăugarea de instrumente și extensii conexiuni noi cu alte servicii fiecare deschide o nouă cale de intrare IT

Cine decide în firmă?

Nu doar persoana de la tastatură. Pagina producătorului spune clar că utilizatorul rămâne responsabil pentru fiecare acțiune pe care asistentul o face în numele său, inclusiv mesajele trimise, achizițiile făcute și datele citite sau modificate.2 Cu toate acestea, multe dintre setările de care depinde acest lucru țin de utilizator, de exemplu ce foldere sunt conectate și cât de des întreabă asistentul înainte să acționeze.2

Unele controale țin însă de firmă. Titularii planurilor de business ale producătorului pot dezactiva căutarea pe web, pot trimite o evidență a activității asistentului în propriile instrumente de monitorizare, iar pe planul enterprise pot cere ca extensiile noi să fie scanate la instalare pentru conținut dăunător.2

OWASP adaugă două principii care transformă decizia într-una a firmei.4 Acțiunile făcute pentru un utilizator ar trebui să ruleze cu drepturile acelui utilizator și nu cu mai multe.4 Iar dacă o acțiune este permisă ar trebui să stabilească reguli fixe din sistem, nu modelul AI însuși.4

În opinia noastră, munca se împarte simplu. Conducerea decide ce tipuri de acțiuni sunt permise în general. IT le transformă în setări și păstrează evidența. Proprietarul fiecărei zone de date decide ce foldere și ce căsuțe de e-mail poate citi un asistent. Utilizatorul aprobă acțiunile individuale în aceste limite.

Ce acțiuni așteaptă întotdeauna un om?

OWASP recomandă ca un om să aprobe acțiunile cu impact mare înainte ca acestea să aibă loc.4 Propune o abordare în trepte, în care pașii ușor reversibili pot rula singuri, iar cei ireversibili ajung la un om.4

Pagina producătorului merge în aceeași direcție. Asistentul său întreabă întotdeauna înainte de a șterge definitiv fișiere, în orice mod ar rula.2 Producătorul recomandă trecerea la aprobarea manuală când o sarcină atinge fișiere sensibile, folosește pentru prima dată un instrument sau un site nou ori când greșelile ar fi greu de anulat, de exemplu la trimiterea de mesaje sau la achiziții.2 În modul care sare peste toate aprobările, spune producătorul, nimic nu verifică acțiunile asistentului.2

Pentru cele mai multe firme, o listă implicită rezonabilă de acțiuni care așteaptă aprobare arată astfel.

  • orice trimite date în afară, de exemplu un e-mail, o încărcare, un formular sau o publicare
  • ștergerea sau suprascrierea fișierelor și a înregistrărilor
  • plăți, comenzi și achiziții
  • modificări ale datelor din sistemele firmei
  • prima folosire a unui instrument, a unei extensii sau a unui site nou
  • sarcinile programate, pe care producătorul recomandă să le țineți departe de datele sensibile și de acțiunile greu de anulat2

Ce ar trebui să cuprindă politica firmei?

Una sau două pagini sunt suficiente, cu condiția ca setările să o respecte.

  • Ce asistenți AI pot rula pe calculatoarele firmei, și numai cu conturile firmei?
  • Ce foldere poate citi un asistent? Producătorul sugerează un folder de lucru dedicat în locul unui acces larg.2
  • Ce date nu ajung niciodată în apropierea lui, de exemplu documente financiare, date de autentificare și evidențe cu date cu caracter personal?2
  • Ce site-uri și servicii conectate poate folosi?
  • Ce acțiuni așteaptă întotdeauna un om și impune acest lucru setarea, nu doar textul politicii?
  • Sunt permise sarcinile programate, și pentru ce?
  • Este înregistrat fiecare pas acolo unde IT îl poate vedea mai târziu?
  • Ce face un utilizator când asistentul depășește limitele sarcinii? Sfatul producătorului este să oprească imediat sarcina și să o raporteze.2
  • Cine revizuiește politica și cât de des?

Ce înseamnă asta pentru o companie din Europa

Când este vorba de date cu caracter personal, drepturile pe care le primește un asistent sunt și o chestiune juridică. GDPR cere ca, în mod implicit, să fie prelucrate numai datele cu caracter personal necesare pentru fiecare scop specific și menționează explicit accesibilitatea acestora.5 Un asistent conectat la un disc întreg vede mult mai mult decât are nevoie sarcina sa. GDPR mai cere ca orice persoană care acționează sub autoritatea firmei și are acces la date cu caracter personal să le prelucreze numai la cererea firmei.5 Drepturile stabilite centralizat, cu fiecare pas înregistrat, sunt o cale practică de a demonstra că această cerință este respectată.

Pasul următor

Dacă vă este de folos, ne putem întâlni pe scurt ca să trecem împreună prin ce foldere și ce acțiuni poate folosi un asistent AI în firma dumneavoastră și cine ce aprobă. Soluția noastră AI la comandă funcționează la fel, cu permisiunile fiecărui utilizator și o evidență a fiecărui pas, sub controlul firmei dumneavoastră. Ce faceți apoi cu ea rămâne în întregime decizia dumneavoastră.

Soluție AI la comandă

Surse

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Accesat la 17 noiembrie 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Accesat la 17 noiembrie 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Accesat la 17 noiembrie 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Accesat la 17 noiembrie 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Accesat la 17 noiembrie 2026

Istoricul modificărilor

  1. Publicat.

Să discutăm despre proiectul dumneavoastră

Lăsați-ne datele de contact și revenim cu o propunere de dată, gratuit și fără obligații.

Cu prefixul țării, de exemplu +40.

Folosim datele dumneavoastră doar pentru a vă răspunde. Politica de confidențialitate

Protejat de Google reCAPTCHA împotriva trimiterilor automate. Politica de confidențialitate Google (se deschide într-o fereastră nouă) Termenii și condițiile Google (se deschide într-o fereastră nouă)

Sau contactați-ne direct

Scrieți-ne office@disruptivelab.dev
Sunați-ne +420 777 702 032

Limba noastră preferată de comunicare este engleza.

Toate datele de contact și adresele