Ugrás a tartalomhoz
Disruptive Lab

Útmutató Beszerzés és szállítók

Beszállítói chatbot tesztje élesítés előtt

A weboldalán futó chatbot ajtó az Ön rendszereibe, ezért ugyanaz az átvételi teszt jár neki, mint bármely más megvásárolt szoftvernek, és néhány kifejezetten rá szabott teszt is.

Megjelent
Frissítve
Olvasási idő
7 perc olvasás
Felelős szerkesztő
David Lahuta

Röviden

A weboldalán futó AI-chatbot olyan szoftver, amellyel ismeretlenek is beszélgethetnek. Mielőtt élesbe kerül, tesztelje úgy, ahogyan egy támadó tenné. Egy 2025 decemberében nyilvánosságra hozott esetben kutatók átjuttatták egy nagyvállalat chatbotját a biztonsági ellenőrzésein, rávették, hogy felfedje a rejtett utasításait, és olyan kódot adjon vissza, amely lefutott a felhasználó böngészőjében.1 Az okok hétköznapi webes hibák voltak, a cég hibabejelentési csatornáján beküldött jelentés pedig hetekig válasz nélkül maradt.1 Mielőtt átveszi a chatbotot, tesztelje, mit árul el, mit tehet meg és kinek az adataihoz fér hozzá, a beszállítótól pedig kérjen írásban naplózást, javításokat és egy működő bejelentési csatornát.23

Mi romlott el az Eurostar esetében?

  1. december 22-én a Pen Test Partners biztonsági cég közzétette, hogyan talált négy hibát az Eurostar vasúttársaság nyilvános AI-chatbotjában.1 A kutató hétköznapi ügyfélként, egy utazás tervezése közben bukkant a chatbotra, és a cég által a biztonsági hibák bejelentésére közzétett szabályok keretei között tesztelte.1

A kutatók olyan kialakítást írnak le, amely jónak tűnt, de valójában nem érvényesült.

  • A biztonsági ellenőrzés csak az utolsó üzenetet nézte. Az oldal minden új üzenettel a teljes beszélgetést visszaküldte a szervernek, a szerver pedig csak a legújabbat ellenőrizte.1 A korábbi üzeneteket a böngészőben meg lehetett változtatni, és megbízható előzményként jutottak el az AI-modellhez.1 A kutatók megfogalmazása szerint a biztonsági réteg a képernyőn látszott, a szerveren viszont alig érvényesült.1
  • A rejtett utasítások kiderültek. Az ellenőrzésen túljutva a kutató rávette a modellt, hogy árulja el a modell nevét és az úgynevezett rendszerpromptot, vagyis azokat a rejtett utasításokat, amelyek megmondják a botnak, hogyan viselkedjen, többek között azt is, hogyan állítja össze a válaszaiban a hivatkozásokat.1
  • A válaszok kódot is hordozhattak. A bot válaszai tisztítás nélkül jelentek meg a csevegőablakban, így rá lehetett venni, hogy olyan kódot adjon vissza, amelyet aztán a felhasználó böngészője lefuttatott.1
  • A beszélgetésazonosítókat nem ellenőrizték. A szerver olyan egyszerű beszélgetés- és üzenetazonosítókat is elfogadott, mint az „1” vagy a „hello”.1

A kutatók nem próbáltak hozzáférni más felhasználók beszélgetéseihez, és azt írják, hogy a becsempészett utasítások nem fedték fel más felhasználók adatait.1 A hibákat nem tartották túl súlyosnak, mert a chatbot akkoriban keveset tudott, de figyelmeztettek, hogy több funkcióval személyes adatok is napvilágra kerülhetnének.1

A történet második fele a bejelentési csatornáról szól. Az első bejelentés 2025. június 11-én ment el, egy emlékeztető június 18-án, és egyikre sem érkezett válasz.1 Egy kolléga július 7-én megkereste a cég biztonsági vezetőjét, július 31-én pedig azt a választ kapták, hogy a bejelentésről nincs semmilyen nyilvántartás.1 A bejelentési csatornát közben átadták egy külső szolgáltatónak, a régit pedig megszüntették.1 A bejelentés visszaigazolására és a javítás határidejére vonatkozó kérések válasz nélkül maradtak.1 A hibákat végül kijavították, a kutatók pedig azt írják, hogy máig nem tudják, minden probléma teljesen megoldódott-e.1

Saját tanulságuk rövid. A régi webes és API-gyengeségek akkor is számítanak, ha a folyamatban egy AI-modell is részt vesz.1

Miért nem elég megmondani a chatbotnak, hogyan viselkedjen?

Mert a modell az utasításokat és a látogató szövegét ugyanazon a csatornán kapja meg. Az OWASP Top 10 for LLM Applications 2026, a biztonsági közösség listája az AI nyelvi modellekre épülő rendszerek fő kockázatairól, az első helyre a promptinjektálást (prompt injection) sorolja.2 Promptinjektálásról akkor beszélünk, ha egy szöveg úgy változtatja meg a modell működését, ahogyan azt a készítője nem szánta.2

A lista ezt nyíltan kimondja. Ma nincs megbízható módszer a promptinjektálás megakadályozására, ezért a modell körüli rendszert abból kiindulva kell megtervezni, hogy az utasításait valaki meg fogja kerülni, és korlátozni kell, mit tehet meg a modell.2 Az utasításoknak ráadásul nem is a látogatótól kell származniuk. Rejtőzhetnek egy weboldalon, dokumentumban vagy e-mailben is, amelyet a bot elolvas.2

A vásárló szempontjából ez megváltoztatja a kérdést. Nem az a kérdés, hogy a botot be lehet-e csapni, hanem az, hogy mi történik, ha ez sikerül.

Mit teszteljen, mielőtt a chatbot élesbe kerül?

Azokat a kockázatokat tesztelje, amelyekkel egy nyilvános chatbot valóban találkozik. A táblázat az OWASP listáját és az Eurostar esetének megállapításait követi, közérthetően.12

Mit teszteljen Mivel próbálkozik a tesztelő Milyen a megfelelő eredmény
A bemenetbe rejtett utasításokat rábeszélni a botot, hogy megszegje a szabályait, közvetlenül vagy egy általa olvasott dokumentumon vagy oldalon keresztül2 a bot mondhat furcsa dolgokat, de semmit nem tehet meg és nem árulhat el, amit nem szabad
A biztonsági ellenőrzést megváltoztatni a korábbi üzeneteket, vagy a böngészőből megkerülni az ellenőrzést1 minden ellenőrzés a szerveren fut, a teljes beszélgetésre
A rejtett utasításokat rávenni a botot, hogy felfedje őket2 nincs bennük jelszó, kulcs vagy olyan szabály, amely bármit védene2
Mások adatait hozzáférni egy másik beszélgetéshez vagy egy másik ügyfél adataihoz12 a beszélgetések azonosítóit a szerver osztja ki, és a látogató munkamenetéhez kötődnek1
A válaszokban lévő kódot rávenni a botot, hogy a böngészőben lefutó kódot adjon vissza12 minden válasz egyszerű szövegként jelenik meg, vagy megjelenítés előtt megtisztítják12
Mit tehet meg a bot rávenni, hogy a feladatán kívül cselekedjen, például e-mailt küldjön vagy módosítson egy megrendelést2 csak a feladatához szükséges funkciókkal és jogosultságokkal rendelkezik2
A számlát rávenni, hogy végtelen ciklusban hosszú, drága válaszokat generáljon2 be van állítva egy szigorú költségkeret és egy látogatónkénti korlát2

Kettőt érdemes közelebbről is megnézni.

A rejtett utasítások nem titkok. Az OWASP azt tanácsolja a fejlesztőknek, hogy számoljanak azzal, hogy ezek kideríthetők, soha ne tegyenek beléjük jelszót vagy kulcsot, és ne támaszkodjanak rájuk egyetlen védvonalként.2 Nem az a megfelelő eredmény, ha a bot nem hajlandó felfedni őket, hanem az, ha a felfedésük nem okoz kárt.

A bot a lehető legkevesebbet tehesse meg. Az OWASP ezt a kockázatot túlzott cselekvési szabadságnak (excessive agency) nevezi, amikor a bot többet tehet meg, mint kellene, és három okát említi, a túl sok funkciót, a túl sok jogosultságot és az önálló cselekvés túl nagy szabadságát.2 Ellenszerként azt javasolja, hogy a bot csak a feladathoz szükséges eszközöket kapja meg, a lehető legkevesebb jogosultsággal, a műveleteket a kérést indító felhasználó jogaival hajtsa végre, és minden nagy hatású lépést ember hagyjon jóvá.2 Példája egy ügyfélszolgálati chatbot, amely a visszatérítést áruházi jóváírásként önállóan is megadhatja, a pénz kifizetéséről viszont ember dönt.2

Ki végezze a tesztelést?

Olyasvalaki, aki nem vett részt az építésében, és akinek elmondják, hogyan működik a védelem. Az OWASP azt tanácsolja, hogy úgy teszteljenek, mintha a támadó ismerné a védelmet, ne csak ismert támadások rögzített készletével.2 Az általa idézett kutatás tizenkét friss védelmi megoldást vizsgált, amelyek többsége arról számolt be, hogy a támadások szinte soha nem jutnak át, és a módszerüket hozzáigazító támadók a legtöbbjükkel szemben az esetek több mint 90%-ában sikerrel jártak.2

Az Eurostar esetét feltáró kutatók hozzáteszik, hogy a tesztelés nem egyszeri feladat, és azt tanácsolják, hogy a chatbotot rendszeresen próbálják ki ismert promptinjektálási és visszajátszásos technikákkal.1 Véleményünk szerint a beszállító saját tesztjelentése jó kiindulópont, és az élesítés előtti független teszt az a lépés, amitől az átvétel valóban jelent is valamit.

Mit kérjen írásban a beszállítótól?

Az amerikai CISA és az FBI 2024-ben kiadott Secure by Demand útmutatója kérdéseket ad a vevőknek, amelyeket a vásárlás előtt érdemes feltenni, követelményeket, amelyeket a szerződésbe érdemes beírni, és ellenőrzéseket, amelyeket utána érdemes elvégezni.3 Azt is írja, hogy a kérdések viszonteladóknál és szolgáltatóknál is használhatók, így egy digitális ügynökségtől vagy szolgáltatásként vásárolt chatbotra is alkalmazhatók.3 Az Eurostar esetének tanulságaival együtt1 mi a következő pontokat kérnénk írásban.

  • Működő bejelentési csatorna. Nyilvános weboldalon közzétett szabályzat a sérülékenységek bejelentéséről, és amely bárkinek megengedi a tesztelést.3 Emellett az, hogy ki olvassa a bejelentéseket, és mi történik velük, ha a csatorna gazdát cserél.1
  • Válasz és határidő. A kutatók kéréseire, hogy igazolják vissza a bejelentés beérkezését és adjanak határidőt a javításra, nem érkezett válasz.1 Rögzítsék a szerződésben, milyen gyorsan kell visszaigazolni egy biztonsági bejelentést, és milyen gyorsan kell kijavítani egy súlyos hibát.
  • Olvasható naplók. Biztonsági naplózás már az alapváltozatban, felhőszolgáltatásnál legalább hat hónapig, felár nélkül megőrizve, amely kiterjed a beállítások módosítására, a bejelentkezésekre és az adatokhoz való hozzáférésre.3 Chatbotnál a kutatók ehhez hozzáteszik minden beszélgetés olyan naplózását, amelyből a beszélgetés utólag rekonstruálható, a biztonsági döntésekkel és a modell által használt eszközökkel együtt, valamint riasztást a szokatlan mintákra.1
  • Lehetőség a kikapcsolásra. Vészkapcsoló, amely gyorsan kikapcsolja a chatbotot vagy annak egy funkcióját.1
  • Könnyen telepíthető javítások. Annak leírása, hogyan teszi a beszállító egyszerűvé a biztonsági javítások telepítését.3
  • Miből épül fel. A termékbe épített, harmadik féltől származó összetevők listája, az úgynevezett szoftveres anyagjegyzék (SBOM).3
  • Biztonságos bejelentkezés a munkatársainak. Egyszeri bejelentkezés (SSO) és többfaktoros hitelesítés a chatbotot kezelő munkatársak számára, felár nélkül.3

Átvételi ellenőrzőlista chatbothoz

  • Minden biztonsági ellenőrzés a szerveren fut, a teljes beszélgetésre, nem csak az utolsó üzenetre.
  • A beszélgetés- és üzenetazonosítókat a szerver osztja ki, és a látogató munkamenetéhez kötődnek.
  • A válaszok egyszerű szövegként jelennek meg, vagy megjelenítés előtt megtisztítják őket.
  • A rejtett utasításokban nincs jelszó, kulcs vagy olyan szabály, amely bármit védene.
  • A bot csak a feladatához szükséges funkciókkal, adatokkal és jogosultságokkal rendelkezik, és minden nagy hatású lépést ember hagy jóvá.
  • Be van állítva egy költségkeret és egy látogatónkénti korlát.
  • A botot olyasvalaki tesztelte támadóként, aki nem vett részt az építésében, és később újra teszteli.
  • Minden beszélgetést naplóznak, és a naplókat Ön is el tudja olvasni.
  • A beszállítónak van nyilvános csatornája a biztonsági bejelentésekre, egy megnevezett felelőse, aki olvassa, és egyeztetett határidői a válaszra és a javításra.
  • A chatbotot Ön maga is azonnal ki tudja kapcsolni.

Következő lépés

Ha hasznosnak tartja, egy rövid megbeszélésen szívesen végigmegyünk Önnel pontról pontra a megvásárolni kívánt chatbot átvételi tesztjén, a beszállító válaszait is áttekintve. Hogy utána mit kezd vele, az már az Ön döntése.

Vállalati AI-megoldás

Források

  1. 1. Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025. Megtekintve 2026. november 17.
  2. 2. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026. Megtekintve 2026. november 17.
  3. 3. CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem. Megtekintve 2026. november 17.

Változásnapló

  1. Közzétéve.

Beszéljünk a projektjéről

Hagyja meg elérhetőségét, és időponttal jelentkezünk. Ingyenesen és kötelezettségmentesen.

Országhívószámmal, például +36.

Adatait kizárólag a válaszadáshoz használjuk fel. Adatvédelmi tájékoztató

Az űrlapot a Google reCAPTCHA védi az automatikus beküldések ellen. A Google adatvédelmi irányelvei (új ablakban nyílik meg) A Google Általános Szerződési Feltételei (új ablakban nyílik meg)

Vagy keressen minket közvetlenül

Írjon nekünk office@disruptivelab.dev
Hívjon minket +420 777 702 032

Kommunikációs nyelvként az angolt részesítjük előnyben.

Minden elérhetőség és cím