Test chatbota od dostawcy przed wdrożeniem
Chatbot na stronie internetowej to drzwi do Państwa systemów, dlatego zasługuje na taki sam test odbiorczy jak każde inne kupowane oprogramowanie, a do tego na kilka testów przeznaczonych specjalnie dla niego.
- Opublikowano
- Zaktualizowano
- Czas czytania
- 7 min czytania
- Redaktor
- David Lahuta
W skrócie
Chatbot AI na Państwa stronie to oprogramowanie, z którym może rozmawiać każdy, także ktoś zupełnie obcy. Zanim go Państwo uruchomią, trzeba go przetestować tak, jak zrobiłby to atakujący. W przypadku opisanym w grudniu 2025 roku badacze obeszli zabezpieczenia chatbota dużej firmy, skłonili go do ujawnienia ukrytych instrukcji i do udzielenia odpowiedzi z kodem, który uruchamiał się w przeglądarce użytkownika.1 Przyczyną były zwykłe błędy aplikacji internetowych, a zgłoszenie wysłane oficjalnym kanałem firmy przez wiele tygodni pozostawało bez odpowiedzi.1 Zanim odbiorą Państwo chatbota, warto sprawdzić, co ujawnia, co może zrobić i do czyich danych ma dostęp, a od dostawcy uzyskać na piśmie zapewnienia dotyczące rejestrów, poprawek i działającego kanału zgłaszania błędów.23
Co poszło nie tak w przypadku Eurostar?
22 grudnia 2025 roku firma Pen Test Partners, specjalizująca się w bezpieczeństwie IT, opisała, jak wykryła cztery luki w publicznym chatbocie AI przewoźnika kolejowego Eurostar.1 Badacz trafił na chatbota jako zwykły klient planujący podróż i testował go zgodnie z opublikowanymi przez firmę zasadami zgłaszania luk w zabezpieczeniach.1
Badacze opisują rozwiązanie, które wyglądało poprawnie, ale w praktyce nie było egzekwowane.
- Kontrola bezpieczeństwa sprawdzała tylko ostatnią wiadomość. Przy każdej nowej wiadomości strona wysyłała na serwer całą rozmowę, a serwer sprawdzał wyłącznie najnowszą.1 Wcześniejsze wiadomości można było zmienić w przeglądarce i trafiały one do modelu AI jako zaufany kontekst.1 Jak piszą badacze, warstwa ochronna była widoczna na ekranie, ale na serwerze egzekwowano ją słabo.1
- Ukryte instrukcje wyszły na jaw. Po ominięciu kontroli badacz skłonił model do ujawnienia nazwy modelu i promptu systemowego, czyli ukrytych instrukcji, które mówią botowi, jak ma się zachowywać, w tym sposób, w jaki bot tworzył linki w odpowiedziach.1
- Odpowiedzi mogły zawierać kod. Odpowiedzi bota wyświetlały się w oknie czatu bez żadnego filtrowania, więc można go było skłonić do udzielenia odpowiedzi z kodem, który następnie wykonywała przeglądarka użytkownika.1
- Numerów rozmów nikt nie weryfikował. Serwer przyjmował numery rozmów i wiadomości tak proste jak „1” albo „hello”.1
Badacze nie próbowali dostać się do rozmów innych użytkowników i piszą, że wstrzyknięte instrukcje nie ujawniły danych innych osób.1 Błędy ocenili jako niezbyt poważne, bo chatbot potrafił wtedy niewiele, i ostrzegli, że przy większej liczbie funkcji mogłoby dojść do wycieku danych osobowych.1
Druga połowa historii dotyczy kanału zgłaszania błędów. Pierwsze zgłoszenie wysłano 11 czerwca 2025 roku, a przypomnienie 18 czerwca, i żadne nie doczekało się odpowiedzi.1 Współpracownik badacza skontaktował się 7 lipca z szefem bezpieczeństwa firmy, a 31 lipca badacze usłyszeli, że po zgłoszeniu nie ma żadnego śladu.1 W międzyczasie kanał zgłoszeń przekazano zewnętrznemu dostawcy, a dotychczasowy wycofano.1 Prośby o potwierdzenie przyjęcia i o termin naprawy pozostały bez odpowiedzi.1 Błędy ostatecznie naprawiono, a badacze piszą, że wciąż nie wiedzą, czy usunięto je wszystkie.1
Ich własny wniosek jest krótki. Stare słabości aplikacji internetowych i interfejsów API pozostają groźne także wtedy, gdy w grę wchodzi model AI.1
Dlaczego nie wystarczy powiedzieć chatbotowi, jak ma się zachowywać?
Ponieważ instrukcje i tekst odwiedzającego trafiają do modelu jednym strumieniem. OWASP Top 10 for LLM Applications 2026, opracowana przez społeczność specjalistów od bezpieczeństwa lista głównych zagrożeń dla systemów opartych na modelach językowych AI, stawia na pierwszym miejscu prompt injection.2 Prompt injection to tekst, który zmienia działanie modelu w sposób niezamierzony przez jego twórcę.2
Lista mówi o tym wprost. Dziś nie istnieje niezawodny sposób zapobiegania prompt injection, dlatego system wokół modelu należy projektować z założeniem, że ktoś obejdzie jego instrukcje, i ograniczać to, co model może zrobić.2 Instrukcje nie muszą przy tym pochodzić od odwiedzającego. Mogą być ukryte na stronie internetowej, w dokumencie lub w e-mailu, który bot czyta.2
Dla kupującego oznacza to inne pytanie. Nie chodzi o to, czy bota da się oszukać. Chodzi o to, co się stanie, gdy to się uda.
Co przetestować, zanim chatbot zacznie odpowiadać?
Należy przetestować zagrożenia, z którymi publiczny chatbot faktycznie ma do czynienia. Tabela przekłada listę OWASP i ustalenia z przypadku Eurostar na prosty język.12
| Co przetestować | Czego próbuje tester | Jak wygląda wynik pozytywny |
|---|---|---|
| Instrukcje ukryte w danych wejściowych | namówić bota do złamania jego zasad, wprost albo przez dokument lub stronę, którą czyta2 | bot może powiedzieć coś dziwnego, ale nie może zrobić ani ujawnić niczego, czego nie powinien |
| Kontrola bezpieczeństwa | zmienić wcześniejsze wiadomości lub ominąć kontrolę z poziomu przeglądarki1 | każda kontrola działa na serwerze i obejmuje całą rozmowę |
| Ukryte instrukcje | skłonić bota do ich ujawnienia2 | nie zawierają haseł, kluczy ani reguł, które cokolwiek chronią2 |
| Dane innych osób | dostać się do cudzej rozmowy lub do danych innego klienta12 | numery rozmów nadaje serwer i są powiązane z sesją odwiedzającego1 |
| Kod w odpowiedziach | skłonić bota do zwrócenia kodu, który uruchomi się w przeglądarce12 | każda odpowiedź wyświetla się jako zwykły tekst albo jest filtrowana przed wyświetleniem12 |
| Co bot może zrobić | skłonić go do działania poza jego zadaniem, na przykład wysłania e-maila lub zmiany zamówienia2 | ma tylko te funkcje i uprawnienia, których wymaga jego zadanie2 |
| Rachunek | zmusić go do generowania w pętli długich i kosztownych odpowiedzi2 | ustawiono sztywny limit wydatków i limit na jednego odwiedzającego2 |
Dwa z tych punktów zasługują na bliższe spojrzenie.
Ukryte instrukcje nie są tajemnicą. OWASP zaleca twórcom zakładać, że ktoś je odkryje, nigdy nie umieszczać w nich haseł ani kluczy i nie traktować ich jako jedynej bariery bezpieczeństwa.2 Wynikiem pozytywnym nie jest więc bot, który odmawia ich ujawnienia. Wynikiem pozytywnym jest bot, którego instrukcje można ujawnić bez żadnej szkody.
Bot powinien móc jak najmniej. OWASP nazywa to zagrożenie excessive agency, czyli sytuację, w której bot może więcej, niż powinien, i wskazuje trzy przyczyny, zbyt wiele funkcji, zbyt wiele uprawnień i zbyt dużą swobodę samodzielnego działania.2 Zaleca tylko te narzędzia, których wymaga zadanie, możliwie najmniejsze uprawnienia, działania wykonywane z uprawnieniami użytkownika, który o nie poprosił, oraz człowieka zatwierdzającego wszystko, co ma duże skutki.2 Jako przykład OWASP podaje chatbota obsługi klienta, który może samodzielnie przyznać zwrot w formie bonu, natomiast o wypłacie pieniędzy decyduje człowiek.2
Kto powinien przeprowadzić testy?
Ktoś, kto bota nie budował i komu wyjaśniono, jak działają jego zabezpieczenia. OWASP zaleca testowanie przez atakujących, którzy znają zastosowane zabezpieczenia, a nie wyłącznie za pomocą stałego zestawu znanych ataków.2 Badanie, na które się powołuje, objęło dwanaście niedawno opisanych metod obrony, których autorzy w większości podawali, że ataki prawie nigdy się nie udają, a atakujący, którzy dostosowali swoją metodę, przełamali większość z nich w ponad 90% przypadków.2
Badacze z przypadku Eurostar dodają, że test nie jest jednorazowy, i zalecają regularne sprawdzanie chatbota znanymi technikami prompt injection i ataków typu replay.1 Naszym zdaniem raport z testów dostawcy to dobry początek, a niezależny test przed uruchomieniem to krok, dzięki któremu odbiór naprawdę coś znaczy.
Czego wymagać od dostawcy na piśmie?
Przewodnik Secure by Demand amerykańskich agencji CISA i FBI z 2024 roku podsuwa kupującym pytania do zadania przed zakupem, wymagania do wpisania w umowę i kontrole do przeprowadzenia po zakupie.3 Wskazuje też, że pytania można stosować wobec resellerów i usługodawców, więc przewodnik pasuje również do chatbota kupionego od agencji albo w modelu usługowym.3 W połączeniu z wnioskami z przypadku Eurostar1 daje to punkty, które chcielibyśmy mieć na piśmie.
- Działający kanał zgłoszeń. Opublikowana na ogólnodostępnej stronie polityka zgłaszania podatności, która zezwala osobom z zewnątrz na testowanie.3 Do tego informacja, kto czyta zgłoszenia i co się z nimi dzieje, gdy kanał przejmuje ktoś inny.1
- Odpowiedź i termin. Prośby badaczy o potwierdzenie przyjęcia i termin naprawy pozostały bez odpowiedzi.1 Warto zapisać w umowie, jak szybko dostawca potwierdza zgłoszenie bezpieczeństwa i jak szybko usuwa poważny błąd.
- Rejestry, które można odczytać. Logi bezpieczeństwa już w wersji podstawowej, a w przypadku usługi w chmurze przechowywane co najmniej sześć miesięcy bez dodatkowej opłaty, obejmujące zmiany konfiguracji, logowania użytkowników i dostęp do danych.3 W przypadku chatbota badacze dodają zapis każdej rozmowy, z którego można ją odtworzyć, łącznie z decyzjami bezpieczeństwa i narzędziami użytymi przez model, oraz alerty przy nietypowej aktywności.1
- Możliwość wyłączenia. Awaryjny wyłącznik, który szybko wyłącza chatbota lub jedną z jego funkcji.1
- Poprawki łatwe do wdrożenia. Informacja, jak dostawca ułatwia instalację poprawek bezpieczeństwa.3
- Z czego jest zbudowany. Wykaz komponentów firm trzecich, z których składa się produkt, czyli tak zwany SBOM (software bill of materials).3
- Bezpieczne logowanie dla Państwa pracowników. Jednokrotne logowanie (SSO) i uwierzytelnianie wieloskładnikowe dla osób zarządzających chatbotem, bez dodatkowych kosztów.3
Lista kontrolna odbioru chatbota
- Każda kontrola bezpieczeństwa działa na serwerze i obejmuje całą rozmowę, a nie tylko ostatnią wiadomość.
- Numery rozmów i wiadomości nadaje serwer i są powiązane z sesją odwiedzającego.
- Odpowiedzi wyświetlają się jako zwykły tekst albo są filtrowane przed wyświetleniem.
- Ukryte instrukcje nie zawierają haseł, kluczy ani reguł, które cokolwiek chronią.
- Bot ma tylko te funkcje, dane i uprawnienia, których wymaga jego zadanie, a wszystko, co ma duże skutki, zatwierdza człowiek.
- Ustawiono limit wydatków i limit na jednego odwiedzającego.
- Ktoś, kto bota nie budował, przetestował go tak, jak zrobiłby to atakujący, i przetestuje go ponownie.
- Każda rozmowa jest rejestrowana, a Państwo mogą odczytać te zapisy.
- Dostawca ma publiczny kanał zgłoszeń bezpieczeństwa, wskazaną osobę, która go czyta, oraz uzgodnione terminy odpowiedzi i naprawy.
- Mogą Państwo sami i natychmiast wyłączyć chatbota.
Następny krok
Jeśli będzie to dla Państwa pomocne, możemy krótko porozmawiać i przejść razem test odbiorczy chatbota, którego Państwo kupują, punkt po punkcie, mając przed sobą odpowiedzi Państwa dostawcy. Co Państwo z tym potem zrobią, zależy wyłącznie od Państwa.
Źródła
- 1. Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025. Dostęp 17 listopada 2026
- 2. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026. Dostęp 17 listopada 2026
- 3. CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem. Dostęp 17 listopada 2026
Historia zmian
- Opublikowano.