Útmutató Beszerzés és szállítók
Beszállítói chatbot tesztje élesítés előtt
A weboldalán futó chatbot ajtó az Ön rendszereibe, ezért ugyanaz az átvételi teszt jár neki, mint bármely más megvásárolt szoftvernek, és néhány kifejezetten rá szabott teszt is.
- Megjelent
- Frissítve
- Olvasási idő
- 7 perc olvasás
- Felelős szerkesztő
- David Lahuta
Röviden
A weboldalán futó AI-chatbot olyan szoftver, amellyel ismeretlenek is beszélgethetnek. Mielőtt élesbe kerül, tesztelje úgy, ahogyan egy támadó tenné. Egy 2025 decemberében nyilvánosságra hozott esetben kutatók átjuttatták egy nagyvállalat chatbotját a biztonsági ellenőrzésein, rávették, hogy felfedje a rejtett utasításait, és olyan kódot adjon vissza, amely lefutott a felhasználó böngészőjében.1 Az okok hétköznapi webes hibák voltak, a cég hibabejelentési csatornáján beküldött jelentés pedig hetekig válasz nélkül maradt.1 Mielőtt átveszi a chatbotot, tesztelje, mit árul el, mit tehet meg és kinek az adataihoz fér hozzá, a beszállítótól pedig kérjen írásban naplózást, javításokat és egy működő bejelentési csatornát.23
Mi romlott el az Eurostar esetében?
- december 22-én a Pen Test Partners biztonsági cég közzétette, hogyan talált négy hibát az Eurostar vasúttársaság nyilvános AI-chatbotjában.1 A kutató hétköznapi ügyfélként, egy utazás tervezése közben bukkant a chatbotra, és a cég által a biztonsági hibák bejelentésére közzétett szabályok keretei között tesztelte.1
A kutatók olyan kialakítást írnak le, amely jónak tűnt, de valójában nem érvényesült.
- A biztonsági ellenőrzés csak az utolsó üzenetet nézte. Az oldal minden új üzenettel a teljes beszélgetést visszaküldte a szervernek, a szerver pedig csak a legújabbat ellenőrizte.1 A korábbi üzeneteket a böngészőben meg lehetett változtatni, és megbízható előzményként jutottak el az AI-modellhez.1 A kutatók megfogalmazása szerint a biztonsági réteg a képernyőn látszott, a szerveren viszont alig érvényesült.1
- A rejtett utasítások kiderültek. Az ellenőrzésen túljutva a kutató rávette a modellt, hogy árulja el a modell nevét és az úgynevezett rendszerpromptot, vagyis azokat a rejtett utasításokat, amelyek megmondják a botnak, hogyan viselkedjen, többek között azt is, hogyan állítja össze a válaszaiban a hivatkozásokat.1
- A válaszok kódot is hordozhattak. A bot válaszai tisztítás nélkül jelentek meg a csevegőablakban, így rá lehetett venni, hogy olyan kódot adjon vissza, amelyet aztán a felhasználó böngészője lefuttatott.1
- A beszélgetésazonosítókat nem ellenőrizték. A szerver olyan egyszerű beszélgetés- és üzenetazonosítókat is elfogadott, mint az „1” vagy a „hello”.1
A kutatók nem próbáltak hozzáférni más felhasználók beszélgetéseihez, és azt írják, hogy a becsempészett utasítások nem fedték fel más felhasználók adatait.1 A hibákat nem tartották túl súlyosnak, mert a chatbot akkoriban keveset tudott, de figyelmeztettek, hogy több funkcióval személyes adatok is napvilágra kerülhetnének.1
A történet második fele a bejelentési csatornáról szól. Az első bejelentés 2025. június 11-én ment el, egy emlékeztető június 18-án, és egyikre sem érkezett válasz.1 Egy kolléga július 7-én megkereste a cég biztonsági vezetőjét, július 31-én pedig azt a választ kapták, hogy a bejelentésről nincs semmilyen nyilvántartás.1 A bejelentési csatornát közben átadták egy külső szolgáltatónak, a régit pedig megszüntették.1 A bejelentés visszaigazolására és a javítás határidejére vonatkozó kérések válasz nélkül maradtak.1 A hibákat végül kijavították, a kutatók pedig azt írják, hogy máig nem tudják, minden probléma teljesen megoldódott-e.1
Saját tanulságuk rövid. A régi webes és API-gyengeségek akkor is számítanak, ha a folyamatban egy AI-modell is részt vesz.1
Miért nem elég megmondani a chatbotnak, hogyan viselkedjen?
Mert a modell az utasításokat és a látogató szövegét ugyanazon a csatornán kapja meg. Az OWASP Top 10 for LLM Applications 2026, a biztonsági közösség listája az AI nyelvi modellekre épülő rendszerek fő kockázatairól, az első helyre a promptinjektálást (prompt injection) sorolja.2 Promptinjektálásról akkor beszélünk, ha egy szöveg úgy változtatja meg a modell működését, ahogyan azt a készítője nem szánta.2
A lista ezt nyíltan kimondja. Ma nincs megbízható módszer a promptinjektálás megakadályozására, ezért a modell körüli rendszert abból kiindulva kell megtervezni, hogy az utasításait valaki meg fogja kerülni, és korlátozni kell, mit tehet meg a modell.2 Az utasításoknak ráadásul nem is a látogatótól kell származniuk. Rejtőzhetnek egy weboldalon, dokumentumban vagy e-mailben is, amelyet a bot elolvas.2
A vásárló szempontjából ez megváltoztatja a kérdést. Nem az a kérdés, hogy a botot be lehet-e csapni, hanem az, hogy mi történik, ha ez sikerül.
Mit teszteljen, mielőtt a chatbot élesbe kerül?
Azokat a kockázatokat tesztelje, amelyekkel egy nyilvános chatbot valóban találkozik. A táblázat az OWASP listáját és az Eurostar esetének megállapításait követi, közérthetően.12
| Mit teszteljen | Mivel próbálkozik a tesztelő | Milyen a megfelelő eredmény |
|---|---|---|
| A bemenetbe rejtett utasításokat | rábeszélni a botot, hogy megszegje a szabályait, közvetlenül vagy egy általa olvasott dokumentumon vagy oldalon keresztül2 | a bot mondhat furcsa dolgokat, de semmit nem tehet meg és nem árulhat el, amit nem szabad |
| A biztonsági ellenőrzést | megváltoztatni a korábbi üzeneteket, vagy a böngészőből megkerülni az ellenőrzést1 | minden ellenőrzés a szerveren fut, a teljes beszélgetésre |
| A rejtett utasításokat | rávenni a botot, hogy felfedje őket2 | nincs bennük jelszó, kulcs vagy olyan szabály, amely bármit védene2 |
| Mások adatait | hozzáférni egy másik beszélgetéshez vagy egy másik ügyfél adataihoz12 | a beszélgetések azonosítóit a szerver osztja ki, és a látogató munkamenetéhez kötődnek1 |
| A válaszokban lévő kódot | rávenni a botot, hogy a böngészőben lefutó kódot adjon vissza12 | minden válasz egyszerű szövegként jelenik meg, vagy megjelenítés előtt megtisztítják12 |
| Mit tehet meg a bot | rávenni, hogy a feladatán kívül cselekedjen, például e-mailt küldjön vagy módosítson egy megrendelést2 | csak a feladatához szükséges funkciókkal és jogosultságokkal rendelkezik2 |
| A számlát | rávenni, hogy végtelen ciklusban hosszú, drága válaszokat generáljon2 | be van állítva egy szigorú költségkeret és egy látogatónkénti korlát2 |
Kettőt érdemes közelebbről is megnézni.
A rejtett utasítások nem titkok. Az OWASP azt tanácsolja a fejlesztőknek, hogy számoljanak azzal, hogy ezek kideríthetők, soha ne tegyenek beléjük jelszót vagy kulcsot, és ne támaszkodjanak rájuk egyetlen védvonalként.2 Nem az a megfelelő eredmény, ha a bot nem hajlandó felfedni őket, hanem az, ha a felfedésük nem okoz kárt.
A bot a lehető legkevesebbet tehesse meg. Az OWASP ezt a kockázatot túlzott cselekvési szabadságnak (excessive agency) nevezi, amikor a bot többet tehet meg, mint kellene, és három okát említi, a túl sok funkciót, a túl sok jogosultságot és az önálló cselekvés túl nagy szabadságát.2 Ellenszerként azt javasolja, hogy a bot csak a feladathoz szükséges eszközöket kapja meg, a lehető legkevesebb jogosultsággal, a műveleteket a kérést indító felhasználó jogaival hajtsa végre, és minden nagy hatású lépést ember hagyjon jóvá.2 Példája egy ügyfélszolgálati chatbot, amely a visszatérítést áruházi jóváírásként önállóan is megadhatja, a pénz kifizetéséről viszont ember dönt.2
Ki végezze a tesztelést?
Olyasvalaki, aki nem vett részt az építésében, és akinek elmondják, hogyan működik a védelem. Az OWASP azt tanácsolja, hogy úgy teszteljenek, mintha a támadó ismerné a védelmet, ne csak ismert támadások rögzített készletével.2 Az általa idézett kutatás tizenkét friss védelmi megoldást vizsgált, amelyek többsége arról számolt be, hogy a támadások szinte soha nem jutnak át, és a módszerüket hozzáigazító támadók a legtöbbjükkel szemben az esetek több mint 90%-ában sikerrel jártak.2
Az Eurostar esetét feltáró kutatók hozzáteszik, hogy a tesztelés nem egyszeri feladat, és azt tanácsolják, hogy a chatbotot rendszeresen próbálják ki ismert promptinjektálási és visszajátszásos technikákkal.1 Véleményünk szerint a beszállító saját tesztjelentése jó kiindulópont, és az élesítés előtti független teszt az a lépés, amitől az átvétel valóban jelent is valamit.
Mit kérjen írásban a beszállítótól?
Az amerikai CISA és az FBI 2024-ben kiadott Secure by Demand útmutatója kérdéseket ad a vevőknek, amelyeket a vásárlás előtt érdemes feltenni, követelményeket, amelyeket a szerződésbe érdemes beírni, és ellenőrzéseket, amelyeket utána érdemes elvégezni.3 Azt is írja, hogy a kérdések viszonteladóknál és szolgáltatóknál is használhatók, így egy digitális ügynökségtől vagy szolgáltatásként vásárolt chatbotra is alkalmazhatók.3 Az Eurostar esetének tanulságaival együtt1 mi a következő pontokat kérnénk írásban.
- Működő bejelentési csatorna. Nyilvános weboldalon közzétett szabályzat a sérülékenységek bejelentéséről, és amely bárkinek megengedi a tesztelést.3 Emellett az, hogy ki olvassa a bejelentéseket, és mi történik velük, ha a csatorna gazdát cserél.1
- Válasz és határidő. A kutatók kéréseire, hogy igazolják vissza a bejelentés beérkezését és adjanak határidőt a javításra, nem érkezett válasz.1 Rögzítsék a szerződésben, milyen gyorsan kell visszaigazolni egy biztonsági bejelentést, és milyen gyorsan kell kijavítani egy súlyos hibát.
- Olvasható naplók. Biztonsági naplózás már az alapváltozatban, felhőszolgáltatásnál legalább hat hónapig, felár nélkül megőrizve, amely kiterjed a beállítások módosítására, a bejelentkezésekre és az adatokhoz való hozzáférésre.3 Chatbotnál a kutatók ehhez hozzáteszik minden beszélgetés olyan naplózását, amelyből a beszélgetés utólag rekonstruálható, a biztonsági döntésekkel és a modell által használt eszközökkel együtt, valamint riasztást a szokatlan mintákra.1
- Lehetőség a kikapcsolásra. Vészkapcsoló, amely gyorsan kikapcsolja a chatbotot vagy annak egy funkcióját.1
- Könnyen telepíthető javítások. Annak leírása, hogyan teszi a beszállító egyszerűvé a biztonsági javítások telepítését.3
- Miből épül fel. A termékbe épített, harmadik féltől származó összetevők listája, az úgynevezett szoftveres anyagjegyzék (SBOM).3
- Biztonságos bejelentkezés a munkatársainak. Egyszeri bejelentkezés (SSO) és többfaktoros hitelesítés a chatbotot kezelő munkatársak számára, felár nélkül.3
Átvételi ellenőrzőlista chatbothoz
- Minden biztonsági ellenőrzés a szerveren fut, a teljes beszélgetésre, nem csak az utolsó üzenetre.
- A beszélgetés- és üzenetazonosítókat a szerver osztja ki, és a látogató munkamenetéhez kötődnek.
- A válaszok egyszerű szövegként jelennek meg, vagy megjelenítés előtt megtisztítják őket.
- A rejtett utasításokban nincs jelszó, kulcs vagy olyan szabály, amely bármit védene.
- A bot csak a feladatához szükséges funkciókkal, adatokkal és jogosultságokkal rendelkezik, és minden nagy hatású lépést ember hagy jóvá.
- Be van állítva egy költségkeret és egy látogatónkénti korlát.
- A botot olyasvalaki tesztelte támadóként, aki nem vett részt az építésében, és később újra teszteli.
- Minden beszélgetést naplóznak, és a naplókat Ön is el tudja olvasni.
- A beszállítónak van nyilvános csatornája a biztonsági bejelentésekre, egy megnevezett felelőse, aki olvassa, és egyeztetett határidői a válaszra és a javításra.
- A chatbotot Ön maga is azonnal ki tudja kapcsolni.
Következő lépés
Ha hasznosnak tartja, egy rövid megbeszélésen szívesen végigmegyünk Önnel pontról pontra a megvásárolni kívánt chatbot átvételi tesztjén, a beszállító válaszait is áttekintve. Hogy utána mit kezd vele, az már az Ön döntése.
Források
- 1. Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025. Megtekintve 2026. november 17.
- 2. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026. Megtekintve 2026. november 17.
- 3. CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem. Megtekintve 2026. november 17.
Változásnapló
- Közzétéve.