Útmutató Adatok, integráció, automatizálás
A kéréseket olvasó AI ne engedelmeskedjen
A kívülről érkező kéréseket olvasó AI-lépés időnként egy idegen szövegét utasításnak veszi, ezért a folyamatot úgy kell megtervezni, hogy egy ilyen utasítás alapján egymaga ne cselekedhessen.
- Megjelent
- Frissítve
- Olvasási idő
- 8 perc olvasás
- Felelős szerkesztő
- David Lahuta
Röviden
- 2025 decemberétől a nyílt forráskódú Cline projekt egy AI-modellel válogattatta a beérkező hibabejelentéseit, és jogot adott neki parancsok futtatására.13
- Egy kutató tesztjeiben egy nyilvános bejelentés címe elég volt ahhoz, hogy ez az AI-lépés egy kívülálló által kiválasztott kódot telepítsen, 2026. február 17-én pedig egy ellopott közzétételi kulcs segítségével megjelent a projekt eszközének módosított változata, amelyet nagyjából 4000 alkalommal töltöttek le.134
- A biztonsági közösség AI-kockázati listája szerint ma nincs megbízható módszer annak megakadályozására, hogy egy szöveg utasításokat adjon a modellnek.6
- A megoldás a folyamat megtervezésében rejlik. Az AI olvas és javasol, ami következménnyel jár, azt ember hagyja jóvá, semmilyen titok nincs a keze ügyében, és minden lépés naplóba kerül.
Mi történt a kutatók és a projekt beszámolója szerint?
A Cline nyílt forráskódú asszisztens szoftverfejlesztőknek, amelyet kódszerkesztő-bővítményként, valamint parancssori eszközként az npm-en, az ilyen csomagok nyilvános tárházán keresztül terjesztenek.13 2025. december 21-én a karbantartói a GitHubon egy automatizált munkafolyamatot (workflow) vezettek be, amely válogatta és megválaszolta az új hibajegyeket (issues), vagyis azokat a nyilvános hibabejelentéseket és kéréseket, amelyeket bárki megnyithat a projekt oldalán.13 A munkafolyamat minden új hibajegyet az Anthropic egyik AI-modelljének adott át.13 Két beállítás tette veszélyessé. Bármely GitHub-felhasználó elindíthatta egy hibajegy megnyitásával, és az AI parancsokat futtathatott.1
Adnan Khan kutató rájött, hogy a hibajegy címe közvetlenül bekerült az AI utasításai közé.3 Tesztjeiben elég volt egy olyan cím, amely azt állította, hogy hiányzik egy eszköz, és arra kérte az AI-t, hogy előbb telepítsen egy „segédeszközt”.3 Az AI lefuttatta a telepítést, és vele együtt egy szkriptet, amely a támadó kezében volt.3 Innen a támadó fájlokat helyezhetett el abban a tárhelyben, amelyet a projekt éjszakai kiadási munkafolyamata is használt, ez a munkafolyamat pedig az új verziók közzétételéhez szükséges kulcsokat őrizte.13
| Dátum | Mi történt |
|---|---|
| 2025. december 21. | Bekerül a hibajegyeket válogató AI-munkafolyamat.1 |
| 2026. január 1. | A kutató a GitHubon keresztül, zártkörűen jelzi a gyengeséget. Nem foglalkoznak vele, amíg nyilvánosságra nem hozza.1 |
| 2026. február 9. | A kutató nyilvánosságra hozza. A projekt 30 percen belül eltávolítja a munkafolyamatot, és megkezdi a kulcsai cseréjét.1 |
| 2026. február 9. | Tévedésből egy másik npm-kulcsot törölnek, a kiszivárgott érvényes marad.13 |
| 2026. február 17., 3.26, csendes-óceáni idő szerint | Egy jogosulatlan fél ezzel a kulccsal közzéteszi a parancssori eszköz 2.3.0-s verzióját egyetlen hozzáadott sorral, amely egy különálló AI-ügynököt, az OpenClaw-t telepíti.14 |
| 2026. február 17., 11.40 UTC | Egy biztonsági cég megfigyelőrendszere jelzi a kiadást, nagyjából 14 perccel a megjelenése után.4 |
| 2026. február 17., 11.30, csendes-óceáni idő szerint | A 2.3.0-s verziót nagyjából nyolc óra után visszavonják.2 |
A módosított verziót nagyjából 4000 alkalommal töltötték le.4 A kutató azt írja, hogy nem ő állt mögötte, hanem valaki, aki a tesztpéldányán megtalálta a próbatámadását, és a valódi projekt ellen használta fel.3 A projekt közlése szerint a telepített ügynök legitim nyílt forráskódú program, rosszindulatú kód nem jutott el a felhasználókhoz, és senki sem fért hozzá az adataikhoz.1 A tanulságot maga is levonja. Ha egy nyelvi modell ott kap jogot parancsok futtatására, ahol bárkitől érkező szöveget dolgoz fel, az a projekt szavaival lényegében ugyanaz, mintha ezt a jogot minden GitHub-felhasználó megkapná.1 2026. március 5-én a grith biztonsági cég öt lépésben foglalta össze az esetet, amelyek egy GitHub-hibajegy címével kezdődtek, belépési pontjuk pedig a természetes nyelv volt.5
Miért adhat egy kívülről érkező szöveg utasítást egy AI-lépésnek?
Mert a nyelvi modell nem tudja megbízhatóan megkülönböztetni az utasításokat az adatoktól. Az OWASP Top 10 for LLM Applications 2026, a biztonsági közösség listája az AI nyelvi modellekre épülő rendszerek fő kockázatairól, ezt sorolja az első helyre, és promptinjektálásnak (prompt injection) nevezi, ami minden olyan bemenetet jelent, amely úgy változtatja meg a modell működését, ahogyan azt a készítője nem szánta.6 Elmagyarázza, hogy a modell az utasításait és az általa olvasott tartalmat egyetlen folyamban kapja, beépített határ nélkül.6
A lista megnevezi, honnan érkezik az ilyen szöveg, és ezek hétköznapi üzleti bemenetek.6 A nyilvános weboldalak és az ismeretlen feladóktól érkező e-mailek nem megbízhatók.6 Egy nyilvános hibakövető rendszer hibajegyeinek címei csak részben megbízhatók.6 Még a cég saját dokumentumai és levelei is hordozhatnak becsempészett szöveget, például olyat, amely egy nyilvános űrlapon keresztül érkezett.6 A támadónak sehová sem kell betörnie. Elég elhelyeznie a szöveget ott, ahol az AI elolvassa, a munkát pedig az AI végzi el a cég saját jogosultságaival.6
A lista a megoldásról is egyenesen fogalmaz. Ma nincs megbízható módszer a promptinjektálás megakadályozására, ezért a modell körüli rendszert abból kiindulva kell megtervezni, hogy az utasításait egyszer valaki meg fogja kerülni, és korlátozni kell, mit tehet meg a modell.6
Egy cég számára ebből egyetlen kérdés következik minden olyan folyamatnál, amelyben az AI valami kívülről érkezőt olvas, egy beérkező e-mailt, egy ügyfélszolgálati jegyet, egy webes űrlapot vagy egy beszállító mellékletét. Ha valaki utasítást írna ebbe a szövegbe, mit tehetne vele az AI-lépés?
Mely tervezési szabályok tartják biztonságban az AI-lépést?
A lényeget négy szabály lefedi. Mindegyik az OWASP ajánlásain és azon alapul, amit a projekt az incidens után megváltoztatott.61
Az AI olvas és javasol, önállóan nem cselekszik. Az OWASP azt tanácsolja, hogy egy AI-lépés csak azokat az eszközöket kapja meg, amelyekre a feladatához szüksége van.6 Saját példájában egy lépés e-maileket foglal össze, ehhez olvasnia kell őket, küldenie vagy törölnie viszont nem.6 Azt is tanácsolja, hogy a nyitott végű eszközök, például bármilyen parancs futtatása helyett szűk, egyetlen dolgot végző eszközöket használjanak.6 A Cline munkafolyamata parancsokat futtathatott, a projekt szerint pedig minden jövőbeli automatizálás csak olvasni fog, parancsfuttatási jog nélkül.1
Minden következménnyel járó lépést ember hagy jóvá. Az OWASP azt javasolja, hogy a nagy hatású lépéseket egy ember hagyja jóvá, mielőtt megtörténnek.6 A jóváhagyónak pontosan azt a lépést kell látnia, amely le fog futni, nem annak összefoglalását, és az OWASP figyelmeztet, hogy a túl sok jóváhagyás eltompítja a jóváhagyó ítélőképességét.6 Ezért számít a felosztás. A könnyen visszafordítható lépések maguktól is futhatnak, a visszafordíthatatlanok, például egy kifizetés, viszont emberhez kerülnek.6 Ahol egyetlen AI-lépés nem megbízható bemenetet olvas, érzékeny adatokhoz fér hozzá, és változtathat valamin vagy kiküldhet valamit, ott az OWASP minden egyes műveletnél emberi jóváhagyást kér.6
Semmilyen titok nincs a keze ügyében. Az OWASP azt tanácsolja, hogy a kulcsok és a változtatás lehetősége a szokásos alkalmazáskódban maradjanak, a modellen kívül, és minden művelet annak a személynek a jogosultságaival fusson, akinek a nevében végzik, annál többel ne.6 Az eset megmutatja, miért jelent a „keze ügyében” többet annál, amit az AI közvetlenül megkap. Maga a válogató munkafolyamat nem rendelkezett közzétételi kulccsal, de osztozott a tárhelyen azzal a kiadási munkafolyamattal, amely igen.1 A projekt azóta egyetlen olyan munkafolyamatban sem használ közös tárhelyet, amely közzétételi kulcsokat kezel.1
Minden lépés naplóba kerül, és a naplót valaki el is olvassa. Az OWASP azt tanácsolja, hogy naplózzák és figyeljék, mit tesz egy AI-lépés, hogy a nem kívánt műveletek kiderüljenek, és reagálni lehessen rájuk.6 A napló csak akkor segít, ha valaki bele is néz. A kutató 2026. január 31. és február 3. között az éjszakai kiadás olyan sikertelen futásait találta, amelyeken a saját eszközének nyoma látszott, és azt írja, hogy a hibákat eltűrték ahelyett, hogy kivizsgálták volna.3 A projekt ma a lecserélt kulcsot magával a kulccsal is ellenőrzi, nem csak egy kezelőfelületen.1
| Szabály | Egy üzleti folyamatban | Mit változtatott a projekt utána |
|---|---|---|
| Az AI olvas és javasol | Válogatja az e-maileket és válaszokat fogalmaz, de maga semmit sem küld el | A jövőbeli automatizálás csak olvas, parancsfuttatási jog nélkül1 |
| Ember hagy jóvá | Az adatok módosítása, egy kifizetés vagy egy kimenő üzenet egy megnevezett emberre vár | Az AI-munkafolyamatokat teljesen eltávolította1 |
| Nincs titok a keze ügyében | Az AI-lépésnek nincsenek jelszavai vagy kulcsai, és nem osztozik tárhelyen olyan lépésekkel, amelyeknek vannak | Nincs közös tárhely a közzétételi kulcsokat kezelő munkafolyamatokban1 |
| Minden lépés naplózva | Minden bemenet, javaslat, jóváhagyás és művelet naplóba kerül, a hibákat kivizsgálják | A lecserélt kulcsot magával a kulccsal ellenőrzik1 |
Ez az útmutató a folyamat megtervezésénél marad. Hogy mely adatokat láthat az AI, és hol fut, külön kérdések, saját válaszokkal.
Mit érdemes ellenőrizni minden automatizált folyamatnál?
Nézzen végig minden olyan folyamatot, amelyben az AI valami kívülről érkezőt olvas, egyszer az élesítés előtt, és újra minden nagyobb változtatás után.
Mielőtt döntene
- Milyen bemeneteket olvas az AI-lépés, és írhat-e közülük bármelyiket egy idegen, egy e-mailt, egy űrlapot, egy jegyet vagy egy mellékletet?
- Mit tehet az olvasáson és a javasláson kívül? Minden eszköz és minden jogosultság fel van sorolva.
- Mely műveletei módosítanak adatot, küldenek ki valamit vagy mozgatnak pénzt, és ki hagyja jóvá mindegyiket, mielőtt megtörténik?
- A jóváhagyó pontosan a műveletet látja, nem annak összefoglalását?
- Mely jelszavakhoz, kulcsokhoz és adatokhoz fér hozzá, közvetlenül vagy olyan tárhelyen keresztül, amelyen más lépésekkel osztozik?
- Annak a személynek a jogosultságaival jár el, akinek dolgozik, annál többel nem?
- Minden bemenet, javaslat, jóváhagyás és művelet naplóba kerül, és kivizsgálja valaki a megmagyarázatlan hibákat?
- Tesztelte már valaki ellenséges bemenetekkel, aki ismeri a védelmének működését, ahogy az OWASP tanácsolja?6
- Ki fogadja a gyengeségekről szóló bejelentéseket, és milyen gyorsan válaszol rájuk valaki?
- Gyorsan kikapcsolható az AI-lépés anélkül, hogy az egész folyamat leállna?
Mit jelent ez egy európai cég számára
Az e-mailek, jegyek és űrlapok általában személyes adatokat tartalmaznak, ezért az általános adatvédelmi rendelet (GDPR) vonatkozik arra a folyamatra, amely olvassa őket. A 25. cikk szerint az adatkezelő mind az adatkezelés módjának meghatározásakor, mind pedig az adatkezelés során megfelelő technikai és szervezési intézkedéseket hajt végre, és a szükséges garanciákat beépíti az adatkezelés folyamatába.7 Alapértelmezés szerint kizárólag az adott konkrét adatkezelési célhoz szükséges személyes adatok kezelhetők.7 A 32. cikk a kockázat mértékének megfelelő szintű adatbiztonságot kíván meg, többek között a rendszerek folyamatos bizalmas jellegének és integritásának biztosítását, valamint az intézkedések hatékonyságának rendszeres tesztelésére szolgáló eljárást.7 A mérlegelendő kockázatok között megnevezi a személyes adatok jogosulatlan nyilvánosságra hozatalát és az azokhoz való jogosulatlan hozzáférést.7 Véleményünk szerint a fenti négy szabály az a fajta intézkedés, amelyet ezek a cikkek leírnak. Hogy egy adott folyamatnál elegendők-e, azt minden adatkezelőnek magának kell megítélnie.
Következő lépés
Ha hasznosnak tartja, egy rövid megbeszélésen szívesen megnézzük Önnel cége egyik olyan folyamatát, amelyben az AI beérkező kéréseket olvas, és azt, hogy mit tehet meg benne önállóan. A vállalati AI-megoldás ugyanezekre a szabályokra épül, minden felhasználó saját jogosultságaival dolgozik, a változásokat ember hagyja jóvá, és minden lépésről nyilvántartás készül. Hogy utána mit kezd vele, kizárólag az Ön döntése.
Források
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Megtekintve 2026. november 17.
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Megtekintve 2026. november 17.
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Megtekintve 2026. november 17.
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Megtekintve 2026. november 17.
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Megtekintve 2026. november 17.
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Megtekintve 2026. november 17.
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Megtekintve 2026. november 17.
Változásnapló
- Közzétéve.