Poradnik Dane, integracja, automatyzacja
AI czyta zgłoszenia, ale nie słucha poleceń
Krok z AI, który czyta zgłoszenia z zewnątrz, czasem weźmie obcy tekst za polecenie, dlatego proces trzeba zaprojektować tak, by na podstawie takiego polecenia nie mógł działać samodzielnie.
- Opublikowano
- Zaktualizowano
- Czas czytania
- 7 min czytania
- Redaktor
- David Lahuta
W skrócie
- Od grudnia 2025 roku projekt open source Cline powierzał modelowi AI sortowanie przychodzących zgłoszeń błędów i dawał mu prawo uruchamiania poleceń.13
- W testach jednego z badaczy wystarczył tytuł publicznego zgłoszenia, by ten krok z AI zainstalował kod wybrany przez kogoś z zewnątrz, a 17 lutego 2026 roku skradziony klucz do publikacji posłużył do wydania zmienionej wersji narzędzia projektu, pobranej około 4000 razy.134
- Lista zagrożeń AI opracowana przez środowisko specjalistów od bezpieczeństwa podaje, że dziś nie istnieje niezawodny sposób, by tekst nie mógł wydawać modelowi poleceń.6
- Odpowiedź leży w projekcie procesu. AI czyta i proponuje, człowiek zatwierdza to, co ma skutki, żaden sekret nie jest w jej zasięgu, a każdy krok jest zapisywany.
Co się stało według badaczy i samego projektu?
Cline to asystent open source dla programistów, rozpowszechniany jako rozszerzenie edytora i jako narzędzie wiersza poleceń przez npm, publiczny rejestr takich pakietów.13 21 grudnia 2025 roku jego opiekunowie dodali na GitHubie zautomatyzowany proces (workflow), który sortował nowe zgłoszenia (issues), czyli publiczne raporty o błędach i prośby, które każdy może założyć na stronie projektu, i na nie odpowiadał.13 Każde nowe zgłoszenie trafiało do modelu AI firmy Anthropic.13 Niebezpiecznym czyniły go dwa ustawienia. Każdy użytkownik GitHuba mógł go uruchomić, zakładając zgłoszenie, a AI wolno było uruchamiać polecenia.1
Badacz Adnan Khan odkrył, że tytuł zgłoszenia był kopiowany wprost do instrukcji dla AI.3 W jego testach wystarczył tytuł, który podawał, że brakuje jakiegoś narzędzia, i prosił AI, by najpierw zainstalowała „narzędzie pomocnicze”.3 AI przeprowadziła instalację, a wraz z nią uruchomiła skrypt kontrolowany przez atakującego.3 Stamtąd atakujący mógł podrzucić pliki do magazynu plików współdzielonego z nocnym procesem wydawania wersji, który przechowywał klucze do publikowania nowych wersji.13
| Data | Co się stało |
|---|---|
| 21 grudnia 2025 | Dodano proces z AI do sortowania zgłoszeń.1 |
| 1 stycznia 2026 | Badacz poufnie zgłasza podatność przez GitHub, ale nikt się nią nie zajmuje, dopóki jej nie opublikuje.1 |
| 9 lutego 2026 | Badacz publikuje podatność. W ciągu 30 minut projekt usuwa proces i zaczyna wymieniać klucze.1 |
| 9 lutego 2026 | Usunięty zostaje niewłaściwy klucz do npm, a ten ujawniony pozostaje ważny.13 |
| 17 lutego 2026, 3:26 czasu pacyficznego | Osoba nieuprawniona używa tego klucza do opublikowania wersji 2.3.0 narzędzia wiersza poleceń z jednym dodanym wierszem, który instaluje osobnego agenta AI, OpenClaw.14 |
| 17 lutego 2026, 11:40 UTC | System monitorujący firmy z branży bezpieczeństwa wykrywa to wydanie około 14 minut po jego publikacji.4 |
| 17 lutego 2026, 11:30 czasu pacyficznego | Wersja 2.3.0 zostaje wycofana, po mniej więcej ośmiu godzinach.2 |
Zmienioną wersję pobrano około 4000 razy.4 Badacz pisze, że nie stał za nią on, lecz ktoś, kto znalazł jego demonstrację ataku na testowej kopii projektu i użył go przeciwko prawdziwemu projektowi.3 Projekt podaje, że zainstalowany agent jest legalnym programem open source, że nie dostarczono żadnego złośliwego kodu i że nikt nie uzyskał dostępu do danych użytkowników.1 Sam też wyciąga z tego wniosek. Przyznanie modelowi językowemu prawa do uruchamiania poleceń tam, gdzie przetwarza tekst od kogokolwiek, jest według niego w praktyce równoznaczne z przyznaniem tego prawa każdemu użytkownikowi GitHuba.1 5 marca 2026 roku firma grith, zajmująca się bezpieczeństwem, podsumowała ten przypadek jako pięć kroków od tytułu zgłoszenia na GitHubie, z językiem naturalnym jako punktem wejścia.5
Dlaczego tekst z zewnątrz może wydawać polecenia krokowi z AI?
Bo model językowy nie potrafi niezawodnie odróżnić instrukcji od danych. OWASP Top 10 for LLM Applications 2026, czyli lista głównych zagrożeń systemów opartych na modelach językowych AI opracowana przez środowisko specjalistów od bezpieczeństwa, stawia to zagrożenie na pierwszym miejscu i nazywa je wstrzykiwaniem poleceń (prompt injection), czyli każdymi danymi wejściowymi, które zmieniają działanie modelu w sposób niezamierzony przez jego twórcę.6 Wyjaśnia, że model otrzymuje swoje instrukcje i czytane treści jako jeden strumień, bez wbudowanej granicy między nimi.6
Lista wymienia miejsca, z których taki tekst pochodzi, i są to zwykłe dane wejściowe w firmie.6 Publiczne strony internetowe i e-maile od nieznanych nadawców są niezaufane.6 Tytuły zgłoszeń w publicznym systemie zgłaszania błędów są zaufane tylko częściowo.6 Nawet własne dokumenty i poczta firmy mogą zawierać podrzucony tekst, na przykład taki, który trafił do niej przez publiczny formularz.6 Atakujący nie musi się nigdzie włamywać. Umieszcza tekst tam, gdzie AI go przeczyta, a AI wykonuje pracę z uprawnieniami samej firmy.6
Lista mówi o rozwiązaniu wprost. Dziś nie istnieje niezawodny sposób zapobiegania wstrzykiwaniu poleceń, dlatego system wokół modelu należy projektować z założeniem, że ktoś kiedyś obejdzie jego instrukcje, i ograniczać to, co model może zrobić.6
Dla firmy oznacza to jedno pytanie przy każdym procesie, w którym AI czyta coś z zewnątrz, czy to przychodzący e-mail, zgłoszenie do działu wsparcia, formularz na stronie, czy załącznik od dostawcy. Gdyby ktoś wpisał w ten tekst polecenie, co krok z AI mógłby z nim zrobić?
Jakie zasady projektowe zapewniają bezpieczeństwo kroku z AI?
Większość tego, co trzeba, obejmują cztery zasady. Każda opiera się na zaleceniach OWASP i na tym, co projekt zmienił po incydencie.61
AI czyta i proponuje, sama nie działa. OWASP radzi dawać krokowi z AI tylko te narzędzia, których wymaga jego zadanie.6 Jego własnym przykładem jest krok, który streszcza e-maile i musi je czytać, ale nie musi ich wysyłać ani usuwać.6 Odradza też otwarte narzędzia, takie jak uruchamianie dowolnego polecenia, na rzecz wąskich, które robią jedną rzecz.6 Proces projektu Cline mógł uruchamiać polecenia, a projekt podaje dziś, że każda przyszła automatyzacja będzie tylko czytać, bez prawa uruchamiania poleceń.1
Każde działanie, które ma skutki, zatwierdza człowiek. OWASP zaleca, aby działania o dużych skutkach zatwierdzał człowiek, zanim zostaną wykonane.6 Człowiek powinien widzieć dokładnie to działanie, które zostanie wykonane, a nie jego streszczenie, a OWASP ostrzega, że zbyt wiele zatwierdzeń osłabia czujność osoby, która ich udziela.6 Dlatego liczy się podział. Kroki łatwe do cofnięcia mogą przebiegać samodzielnie, a nieodwracalne, na przykład płatność, trafiają do człowieka.6 Tam, gdzie jeden krok z AI czyta niezaufane dane wejściowe, ma dostęp do danych wrażliwych i może coś zmienić lub wysłać na zewnątrz, OWASP zaleca, by człowiek zatwierdzał każde działanie.6
Żaden sekret nie jest w zasięgu. OWASP radzi trzymać klucze i możliwość wprowadzania zmian w zwykłym kodzie aplikacji, poza modelem, a każde działanie wykonywać z uprawnieniami osoby, dla której jest wykonywane, i nie szerszymi.6 Ten przypadek pokazuje, dlaczego „w zasięgu” oznacza więcej niż to, co AI dostaje do ręki. Sam proces sortowania nie miał klucza do publikacji, ale współdzielił magazyn plików z procesem wydawania wersji, który go miał.1 Projekt przestał od tego czasu używać tego współdzielonego magazynu we wszystkich procesach, które obsługują klucze do publikacji.1
Każdy krok jest zapisywany, a ktoś te zapisy czyta. OWASP radzi rejestrować i obserwować to, co robi krok z AI, aby wykrywać niepożądane działania i na nie reagować.6 Zapisy pomagają tylko wtedy, gdy ktoś do nich zagląda. Badacz znalazł nieudane uruchomienia nocnego wydania z okresu od 31 stycznia do 3 lutego 2026 roku, na których widać ślad jego własnego narzędzia, i pisze, że błędy tolerowano, zamiast je zbadać.3 Projekt sprawdza teraz wymianę klucza także na samym kluczu, a nie tylko w panelu administracyjnym.1
| Zasada | W procesie biznesowym | Co projekt potem zmienił |
|---|---|---|
| AI czyta i proponuje | Sortuje e-maile i przygotowuje odpowiedzi, ale sama niczego nie wysyła | Przyszła automatyzacja będzie tylko czytać, bez prawa uruchamiania poleceń1 |
| Zatwierdza człowiek | Zmiana danych, płatność lub wiadomość na zewnątrz czeka na wskazaną osobę | Procesy z AI całkowicie usunięto1 |
| Żaden sekret w zasięgu | Krok z AI nie ma haseł ani kluczy i nie współdzieli magazynu plików z krokami, które je mają | Brak współdzielonego magazynu w procesach z kluczami do publikacji1 |
| Każdy krok zapisany | Każde wejście, propozycja, zatwierdzenie i działanie są rejestrowane, a błędy badane | Wymianę klucza sprawdza się na samym kluczu1 |
Ten poradnik dotyczy projektu procesu. To, jakie dane AI może widzieć i gdzie działa, to osobne pytania z własnymi odpowiedziami.
Co sprawdzić w każdym zautomatyzowanym procesie?
Warto przejrzeć każdy proces, w którym AI czyta coś, co przyszło z zewnątrz, raz przed uruchomieniem i ponownie po każdej większej zmianie.
Zanim podejmą Państwo decyzję
- Jakie dane wejściowe czyta krok z AI i czy któreś z nich może napisać ktoś obcy, e-mail, formularz, zgłoszenie lub załącznik?
- Co może robić poza czytaniem i proponowaniem? Każde narzędzie i każde uprawnienie jest spisane.
- Które jego działania zmieniają dane, wysyłają coś na zewnątrz lub przesuwają pieniądze i kto zatwierdza każde z nich, zanim nastąpi?
- Czy osoba zatwierdzająca widzi dokładnie to działanie, a nie jego streszczenie?
- Do jakich haseł, kluczy i danych ma dostęp, bezpośrednio lub przez magazyn plików współdzielony z innymi krokami?
- Czy działa z uprawnieniami osoby, dla której pracuje, i nie szerszymi?
- Czy każde wejście, propozycja, zatwierdzenie i działanie są zapisywane i czy ktoś bada niewyjaśnione błędy?
- Czy przetestował go złośliwymi danymi wejściowymi ktoś, kto zna jego zabezpieczenia, jak radzi OWASP?6
- Kto przyjmuje zgłoszenia podatności i jak szybko ktoś na nie odpowiada?
- Czy krok z AI można szybko wyłączyć, nie zatrzymując całego procesu?
Co to oznacza dla firmy w Europie
E-maile, zgłoszenia i formularze zwykle zawierają dane osobowe, więc do procesu, który je czyta, ma zastosowanie ogólne rozporządzenie o ochronie danych (RODO). Jego art. 25 wymaga, aby administrator wdrożył odpowiednie środki techniczne i organizacyjne zarówno przy określaniu sposobów przetwarzania, jak i w czasie samego przetwarzania.7 Domyślnie przetwarzane mogą być wyłącznie te dane osobowe, które są niezbędne dla osiągnięcia każdego konkretnego celu przetwarzania.7 Art. 32 wymaga stopnia bezpieczeństwa odpowiadającego ryzyku, w tym zdolności do ciągłego zapewnienia poufności i integralności systemów oraz regularnego testowania, mierzenia i oceniania skuteczności tych środków.7 Wśród ryzyk, które należy uwzględnić, wymienia nieuprawnione ujawnienie danych osobowych i nieuprawniony dostęp do nich.7 Naszym zdaniem cztery opisane wyżej zasady są właśnie takimi środkami, o jakich mówią te artykuły. Czy wystarczą w danym procesie, musi ocenić każdy administrator.
Następny krok
Jeśli to Państwu pomoże, chętnie przyjrzymy się wspólnie, na krótkim spotkaniu, jednemu procesowi w Państwa firmie, w którym AI czyta przychodzące zgłoszenia, i temu, co może w nim zrobić samodzielnie. Firmowe rozwiązanie AI opiera się na tych samych zasadach, z uprawnieniami każdego użytkownika, zatwierdzaniem zmian przez człowieka i zapisem każdego kroku. Co Państwo z tym potem zrobią, zależy wyłącznie od Państwa.
Źródła
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Dostęp 17 listopada 2026
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Dostęp 17 listopada 2026
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Dostęp 17 listopada 2026
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Dostęp 17 listopada 2026
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Dostęp 17 listopada 2026
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Dostęp 17 listopada 2026
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Dostęp 17 listopada 2026
Historia zmian
- Opublikowano.