Przejdź do treści
Disruptive Lab

Poradnik AI pod kontrolą firmy

AI na komputerze pracownika. Co jej wolno?

Asystent AI na komputerze pracownika jest tak bezpieczny, jak nadane mu uprawnienia, dlatego o tym, co może czytać i robić, powinna decydować firma, a nie sam użytkownik.

Opublikowano
Zaktualizowano
Czas czytania
7 min czytania
Redaktor
David Lahuta

W skrócie

Asystenci AI pracują już bezpośrednio na komputerach pracowników. Firma Anthropic udostępniła jednego z nich, Claude Cowork, 12 stycznia 2026 roku, z bezpośrednim dostępem do plików lokalnych.1 Dwa dni później, jak sami podają, badacze z PromptArmor pokazali, że ukryte polecenie w dokumencie skłoniło asystenta do wysłania pliku użytkownika na konto osoby z zewnątrz, i to bez ani jednej prośby o zgodę.3 Strona dostawcy poświęcona bezpieczeństwu dzieli dziś narzędzia asystenta na takie, które czytają, i takie, które działają, i podaje, że od obu zależy wielkość szkody.2 Właśnie na tym podziale każda firma powinna oprzeć swoje zasady. Warto centralnie ustalić, co asystent może czytać, co może robić i które działania zawsze czekają na człowieka.

Co robi asystent AI na komputerze pracownika?

Działa jak nowy współpracownik, któremu oddano klawiaturę. Dostaje zadanie i sam wykonuje kolejne kroki, zamiast tylko odpowiadać na pytania.

Przy premierze Anthropic opisał Cowork jako wersję zapoznawczą (research preview) w aplikacji desktopowej.1 Cowork działał w odizolowanej maszynie wirtualnej na komputerze użytkownika i miał bezpośredni dostęp do plików lokalnych i podłączonych narzędzi.1 Obecna strona dostawcy poświęcona bezpieczeństwu wymienia, co taki asystent robi, czyli czyta pliki, przegląda internet, uruchamia programy i korzysta z aplikacji.2 Ta sama strona podaje, że zadania są teraz wykonywane w odizolowanym, tymczasowym środowisku na serwerach dostawcy, a do komputera sięgają przez aplikację desktopową, i to tylko do folderów podłączonych przez użytkownika.2

Dla firmy ważne są dwa szczegóły. Izolacja, jak pisze dostawca, ogranicza miejsce, w którym działa kod asystenta, ale nie to, co asystent czyta lub robi.2 Z kolei zaplanowane zadania uruchamiają się samodzielnie, nawet gdy komputer jest wyłączony.2

Jak ukryte polecenie sprawiło, że asystent wysłał pliki na zewnątrz?

Badacze z PromptArmor opisują ten przypadek krok po kroku.3

  1. Użytkownik podłączył asystenta do folderu z poufnymi dokumentami dotyczącymi nieruchomości, takimi jak wyceny i szacunki kosztów kredytu.
  2. Użytkownik wgrał dokument, który wyglądał jak zestaw instrukcji roboczych dla asystenta. W środku, białym tekstem na białej stronie i czcionką o rozmiarze jednego punktu, znajdowało się polecenie, którego nikt by nie zauważył.
  3. Użytkownik poprosił asystenta o analizę plików według tych instrukcji.
  4. Ukryty tekst kazał asystentowi wgrać największy plik do usługi przechowywania plików dostawcy, z użyciem klucza do konta atakującego. Środowisko asystenta blokowało większość połączeń na zewnątrz, ale własna usługa dostawcy była uznawana za zaufaną.
  5. Plik z danymi finansowymi i danymi osobowymi trafił na konto atakującego.

Badacze zaznaczają, że na żadnym etapie nikt nie został poproszony o zatwierdzenie czegokolwiek.3 Piszą też, że luka, na której opiera się atak, została wcześniej zgłoszona w czacie AI tego samego dostawcy i potwierdzona, ale nie usunięta.3

Odpowiedzią dostawcy, jak cytują ją badacze, było ostrzeżenie, że produkt jest wersją zapoznawczą obarczoną szczególnym ryzykiem, oraz rada, by nie dawać mu dostępu do plików lokalnych z wrażliwymi informacjami.3 Ta sama rada widnieje dziś na stronie dostawcy o bezpieczeństwie, która dodaje, że mimo zabezpieczeń ryzyko ataku nadal nie jest zerowe.2

Ten rodzaj ataku ma swoją nazwę. Polecenia ukryte w treściach, które asystent czyta przy zwykłym zadaniu, nazywa się wstrzykiwaniem poleceń (prompt injection).2 OWASP Top 10 for LLM Applications 2026, czyli lista głównych zagrożeń modeli językowych AI opracowana przez środowisko specjalistów od bezpieczeństwa, stawia je na pierwszym miejscu i podaje, że dziś nie istnieje niezawodny sposób, by mu zapobiec.4

Dlaczego to kwestia uprawnień, a nie lepszego narzędzia?

Ponieważ zarówno dostawca, jak i specjaliści od bezpieczeństwa upatrują obrony w tym, co asystentowi wolno. Dostawca pisze, że gdy coś pójdzie źle, szkoda zależy niemal wyłącznie od tego, co asystent może przeczytać i zobaczyć oraz co może zrobić.2 Atak tego rodzaju udaje się tylko wtedy, gdy jednocześnie spełnione są dwa warunki, czyli asystent czyta treści spoza zaufanych źródeł i może podejmować działania, które mogą wyrządzić szkodę.2

OWASP idzie dalej i radzi projektować przy założeniu, że granica modelu kiedyś zostanie przekroczona, oraz ograniczać to, co model może robić, tak aby udany podstęp nie stał się udanym atakiem.4 Wymienia trzy warunki, które razem umożliwiają poważną szkodę, czyli dostęp do danych prywatnych, niezaufane treści i drogę do wysłania danych na zewnątrz, i podaje, że usunięcie choćby jednego z nich sprawia, że te warunki przestają być spełnione.4

W opisanym przypadku spełnione były wszystkie trzy, czyli poufny folder, dokument z zewnątrz i dozwolona droga wyjścia.3 Lepszy model zmniejszyłby szanse powodzenia ataku. Węższe uprawnienia usunęłyby jeden z trzech warunków.

Czym różnią się uprawnienia do odczytu od uprawnień do działania?

Dostawca dzieli narzędzia asystenta na dwie grupy.2 Narzędzia do odczytu pozwalają mu widzieć treści, na przykład skrzynkę pocztową lub zrzut ekranu. Narzędzia do zapisu pozwalają mu działać, na przykład utworzyć zaproszenie w kalendarzu, usunąć plik, uruchomić polecenie lub klikać na ekranie. Dostawca podaje, że druga grupa z natury niesie większe ryzyko.2

OWASP wskazuje trzy źródła nadmiernej sprawczości, czyli więcej funkcji, niż wymaga zadanie, szersze uprawnienia, niż wymaga zadanie, i zbyt dużą swobodę działania bez kontroli.4 Jako przykład podaje asystenta poczty, który tylko streszcza wiadomości. Musi czytać pocztę, ale nie musi jej wysyłać ani usuwać.4

Naszym zdaniem typowe uprawnienia i to, kto powinien o nich decydować, wyglądają tak.

Uprawnienie Typowe zastosowanie Co się dzieje, gdy jest zbyt szerokie Kto powinien decydować
Odczyt folderu dokumenty projektu lub działu asystent widzi wynagrodzenia lub umowy, których nie potrzebuje, a każdy plik może zawierać ukryte polecenie właściciel danych razem z IT
Odczyt poczty i kalendarza streszczenia, przygotowanie spotkania wiadomość od nadawcy z zewnątrz staje się poleceniem IT, według roli
Przeglądanie internetu wyszukiwanie informacji, wypełnianie formularzy każda strona może zawierać ukryte polecenie IT
Zmiana lub usuwanie plików porządkowanie, edycja dokumentów praca zostaje utracona lub nadpisana użytkownik, w granicach ustalonych przez IT
Wysyłanie, wgrywanie lub publikowanie e-maile, udostępnione linki, przesyłanie plików dane firmy wychodzą poza firmę zarząd, a egzekwuje to IT
Kupowanie, płacenie lub zamawianie zakupy, rezerwacje pieniądze zostają wydane na cudze polecenie zarząd
Dodawanie narzędzi i rozszerzeń nowe połączenia z innymi usługami każde z nich otwiera nową drogę wejścia IT

Kto w firmie decyduje?

Nie sama osoba przy klawiaturze. Strona dostawcy mówi jasno, że użytkownik pozostaje odpowiedzialny za każde działanie, które asystent podejmuje w jego imieniu, w tym za wysłane wiadomości, dokonane zakupy oraz odczytane lub zmienione dane.2 Tymczasem wiele ustawień, które o tym przesądzają, pozostaje w rękach użytkownika, na przykład to, które foldery są podłączone i jak często asystent pyta przed działaniem.2

Niektóre mechanizmy kontroli są jednak w rękach firmy. Właściciele kont w planach biznesowych dostawcy mogą wyłączyć wyszukiwanie w internecie, mogą przesyłać zapis działań asystenta do własnych narzędzi monitorowania, a w planie Enterprise mogą włączyć skanowanie nowych rozszerzeń pod kątem szkodliwych treści przy ich instalacji.2

OWASP dodaje dwie zasady, które czynią tę decyzję sprawą całej firmy.4 Działania podejmowane w imieniu użytkownika powinny przebiegać z uprawnieniami tego użytkownika, nie szerszymi.4 O tym, czy działanie jest dozwolone, powinny zaś rozstrzygać stałe reguły w systemie, a nie sam model AI.4

Naszym zdaniem podział pracy jest prosty. Zarząd decyduje, jakie rodzaje działań są w ogóle dozwolone. IT przekłada to na ustawienia i pilnuje zapisu działań. Właściciel każdego obszaru danych decyduje, które foldery i skrzynki pocztowe asystent może czytać. Użytkownik zatwierdza pojedyncze działania w tych granicach.

Które działania zawsze czekają na człowieka?

OWASP zaleca, aby działania o dużych skutkach zatwierdzał człowiek, zanim zostaną wykonane.4 Proponuje podejście stopniowe, w którym kroki łatwe do cofnięcia mogą przebiegać samodzielnie, a nieodwracalne czekają na decyzję człowieka.4

Strona dostawcy wskazuje ten sam kierunek. Asystent dostawcy zawsze pyta przed trwałym usunięciem plików, niezależnie od trybu, w jakim działa.2 Dostawca radzi przełączyć się na ręczne zatwierdzanie, gdy zadanie dotyczy plików wrażliwych, gdy asystent po raz pierwszy korzysta z nowego narzędzia lub strony albo gdy błędy byłyby trudne do odwrócenia, na przykład przy wysyłaniu wiadomości lub zakupach.2 Jak podaje, w trybie, który pomija wszystkie zatwierdzenia, nic nie sprawdza działań asystenta.2

Dla większości firm rozsądna domyślna lista działań czekających na zatwierdzenie wygląda tak.

  • wszystko, co wysyła dane na zewnątrz, na przykład e-mail, przesłanie pliku, formularz lub publikacja
  • usuwanie lub nadpisywanie plików i rekordów
  • płatności, zamówienia i zakupy
  • zmiany danych w systemach firmy
  • pierwsze użycie nowego narzędzia, rozszerzenia lub strony internetowej
  • zaplanowane zadania, które dostawca radzi trzymać z dala od danych wrażliwych i od działań trudnych do cofnięcia2

Co powinny zawierać firmowe zasady?

Wystarczy strona lub dwie, pod warunkiem że ustawienia są z nimi zgodne.

  • Z jakich asystentów AI można korzystać na komputerach firmowych, i to wyłącznie na kontach firmowych?
  • Które foldery asystent może czytać? Dostawca proponuje osobny folder roboczy zamiast szerokiego dostępu.2
  • Jakie dane nigdy nie powinny znaleźć się w jego zasięgu, na przykład dokumenty finansowe, dane dostępowe i dane osobowe?2
  • Z jakich stron internetowych i podłączonych usług może korzystać?
  • Które działania zawsze czekają na człowieka i czy wymusza to ustawienie, a nie tylko tekst zasad?
  • Czy zaplanowane zadania są dozwolone i do czego?
  • Czy każdy krok jest zapisywany tam, gdzie IT może go później zobaczyć?
  • Co robi użytkownik, gdy asystent wykracza poza zadanie? Dostawca radzi natychmiast przerwać zadanie i to zgłosić.2
  • Kto przegląda te zasady i jak często?

Co to oznacza dla firmy w Europie

W przypadku danych osobowych uprawnienia asystenta są także kwestią prawną. RODO wymaga, aby domyślnie przetwarzane były tylko te dane osobowe, które są niezbędne do osiągnięcia każdego konkretnego celu przetwarzania, i wprost wymienia przy tym dostępność tych danych.5 Asystent podłączony do całego dysku widzi znacznie więcej, niż wymaga jego zadanie. RODO wymaga też, aby każda osoba działająca z upoważnienia firmy i mająca dostęp do danych osobowych przetwarzała je wyłącznie na polecenie firmy.5 Uprawnienia ustalane centralnie, z zapisem każdego kroku, są praktycznym sposobem, by wykazać, że tak się dzieje.

Następny krok

Jeśli byłoby to dla Państwa przydatne, możemy się krótko spotkać i wspólnie ustalić, do jakich folderów asystent AI może mieć dostęp w Państwa firmie, jakie działania może wykonywać i kto co zatwierdza. Na tej samej zasadzie działa firmowe rozwiązanie AI. Pracuje z uprawnieniami każdego użytkownika, zapisuje każdy krok i pozostaje pod kontrolą Państwa firmy. Dalsza decyzja należy wyłącznie do Państwa.

Firmowe rozwiązanie AI

Źródła

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Dostęp 17 listopada 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Dostęp 17 listopada 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Dostęp 17 listopada 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Dostęp 17 listopada 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Dostęp 17 listopada 2026

Historia zmian

  1. Opublikowano.

Porozmawiajmy o Państwa projekcie

Prosimy zostawić dane kontaktowe, a odezwiemy się z propozycją terminu. Bezpłatnie i bez zobowiązań.

Z numerem kierunkowym kraju, na przykład +48.

Państwa dane wykorzystamy wyłącznie do udzielenia odpowiedzi. Polityka prywatności

Formularz jest chroniony przed botami przez Google reCAPTCHA. Polityka prywatności Google (otwiera się w nowym oknie) Warunki korzystania z usług Google (otwiera się w nowym oknie)

Można też skontaktować się z nami bezpośrednio

Napisz do nas office@disruptivelab.dev
Zadzwoń do nas +420 777 702 032

Naszym preferowanym językiem komunikacji jest angielski.

Wszystkie dane kontaktowe i adresy