Pereiti prie turinio
Disruptive Lab

Gidas Duomenys, integracija, automatizavimas

DI skaito užklausas, bet neturi jų vykdyti

DI žingsnis, kuris skaito užklausas iš išorės, kartais svetimą tekstą palaiko nurodymu, todėl procesas turi būti suprojektuotas taip, kad pagal tokį nurodymą jis negalėtų veikti vienas.

Paskelbta
Atnaujinta
Skaitymo laikas
7 min. skaitymo
Redaktorius
David Lahuta

Trumpai

  • Nuo 2025 m. gruodžio atvirojo kodo projektas „Cline“ leido DI modeliui rūšiuoti gaunamus pranešimus apie klaidas ir suteikė jam teisę vykdyti komandas.13
  • Vieno tyrėjo bandymuose pakako viešo pranešimo pavadinimo, kad šis DI žingsnis įdiegtų pašalinio asmens pasirinktą kodą, o 2026 m. vasario 17 d. pavogtu publikavimo raktu buvo išleista pakeista projekto įrankio versija, kuri buvo atsisiųsta maždaug 4 000 kartų.134
  • Saugumo bendruomenės sudarytame DI rizikų sąraše rašoma, kad šiandien nėra patikimo būdo neleisti tekstui duoti modeliui nurodymų.6
  • Atsakymas slypi tame, kaip suprojektuotas procesas. DI skaito ir siūlo, tai, kas turi pasekmių, tvirtina žmogus, jokia paslaptis jam nepasiekiama, o kiekvienas žingsnis įrašomas.

Kas nutiko, kaip pasakoja tyrėjai ir pats projektas?

„Cline“ yra atvirojo kodo asistentas programinės įrangos kūrėjams, platinamas kaip kodo redaktoriaus plėtinys ir kaip komandinės eilutės įrankis per npm, viešą tokių paketų registrą.13 2025 m. gruodžio 21 d. jo prižiūrėtojai platformoje GitHub pridėjo automatizuotą darbo eigą (angl. workflow), kuri rūšiavo naujus pranešimus (angl. issues), t. y. viešus pranešimus apie klaidas ir prašymus, kuriuos projekto puslapyje gali sukurti bet kas, ir į juos atsakinėjo.13 Kiekvieną naują pranešimą darbo eiga perduodavo bendrovės „Anthropic“ DI modeliui.13 Pavojinga ją darė du nustatymai. Ją galėjo paleisti bet kuris GitHub naudotojas, tiesiog sukūręs pranešimą, o DI buvo leista vykdyti komandas.1

Tyrėjas Adnanas Khanas nustatė, kad pranešimo pavadinimas buvo tiesiai kopijuojamas į DI skirtus nurodymus.3 Jo bandymuose pakako pavadinimo, kuriame buvo teigiama, kad trūksta kažkokio įrankio, ir DI buvo prašoma pirmiausia įdiegti „pagalbinį įrankį“.3 DI atliko diegimą, o kartu su juo ir užpuoliko valdomą scenarijų.3 Iš ten užpuolikas galėjo įterpti failus į saugyklą, kuria naudojosi ir naktinė projekto versijų išleidimo darbo eiga, o ši turėjo raktus naujoms versijoms publikuoti.13

Data Kas nutiko
2025 m. gruodžio 21 d. Pridedama DI darbo eiga pranešimams rūšiuoti.1
2026 m. sausio 1 d. Tyrėjas per GitHub konfidencialiai praneša apie pažeidžiamumą. Į pranešimą nereaguojama, kol jis pažeidžiamumo nepaskelbia viešai.1
2026 m. vasario 9 d. Jis pažeidžiamumą paskelbia. Per 30 minučių projektas pašalina darbo eigą ir pradeda keisti raktus.1
2026 m. vasario 9 d. Ištrinamas ne tas npm raktas, o atskleistasis lieka galioti.13
2026 m. vasario 17 d., 3:26 Ramiojo vandenyno laiku Neįgaliotas asmuo šiuo raktu publikuoja komandinės eilutės įrankio versiją 2.3.0 su viena pridėta eilute, kuri įdiegia atskirą DI agentą „OpenClaw“.14
2026 m. vasario 17 d., 11:40 UTC Saugumo bendrovės stebėsenos sistema pažymi šią versiją, praėjus maždaug 14 minučių nuo jos paskelbimo.4
2026 m. vasario 17 d., 11:30 Ramiojo vandenyno laiku Versija 2.3.0 atšaukiama, praėjus maždaug aštuonioms valandoms.2

Pakeista versija buvo atsisiųsta maždaug 4 000 kartų.4 Tyrėjas rašo, kad už jos stovėjo ne jis, o kažkas, kas aptiko jo įrodymą jo bandomojoje kopijoje ir panaudojo jį prieš tikrąjį projektą.3 Projektas teigia, kad įdiegtas agentas yra teisėta atvirojo kodo programa, kad jokio kenkėjiško kodo nebuvo pateikta ir kad niekas negavo prieigos prie naudotojų duomenų.1 Išvadą jis padaro ir pats. Jo žodžiais, suteikti kalbos modeliui teisę vykdyti komandas ten, kur jis apdoroja bet kieno tekstą, iš esmės yra tas pats, kas suteikti tą teisę kiekvienam GitHub naudotojui.1 2026 m. kovo 5 d. saugumo bendrovė „grith“ šį atvejį apibendrino kaip penkis žingsnius nuo GitHub pranešimo pavadinimo, o įėjimo taškas buvo paprasta natūralioji kalba.5

Kodėl tekstas iš išorės gali duoti DI žingsniui nurodymus?

Todėl, kad kalbos modelis negali patikimai atskirti nurodymų nuo duomenų. OWASP Top 10 for LLM Applications 2026, saugumo bendruomenės sudarytas pagrindinių DI kalbos modeliais grįstų sistemų rizikų sąrašas, šią riziką nurodo pirmoje vietoje ir vadina ją užklausos injekcija (angl. prompt injection), t. y. bet kokia įvestimi, kuri pakeičia modelio elgesį taip, kaip jo kūrėjas neketino.6 Sąraše paaiškinama, kad modelis savo nurodymus ir skaitomą turinį gauna kaip vieną srautą, be jokios įmontuotos ribos tarp jų.6

Sąraše įvardijamos vietos, iš kurių toks tekstas ateina, ir tai yra visiškai įprasti verslo įvesties šaltiniai.6 Vieši tinklalapiai ir nežinomų siuntėjų el. laiškai yra nepatikimi.6 Pranešimų pavadinimai viešoje klaidų sekimo sistemoje patikimi tik iš dalies.6 Net pačios įmonės dokumentuose ir pašte gali būti pakišto teksto, pavyzdžiui, atkeliavusio per viešą formą.6 Užpuolikui nereikia niekur įsilaužti. Jis padeda tekstą ten, kur DI jį perskaitys, o darbą atlieka DI, naudodamasis pačios įmonės teisėmis.6

Dėl apsaugos sąrašas kalba tiesiai. Šiandien nėra patikimo būdo užkirsti kelią užklausos injekcijai, todėl sistema aplink modelį turėtų būti projektuojama darant prielaidą, kad jo nurodymai kada nors bus apeiti, ir turėtų riboti, ką modelis gali daryti.6

Įmonei tai reiškia vieną klausimą kiekvienam procesui, kuriame DI skaito ką nors iš išorės, ar tai būtų gaunamas el. laiškas, pagalbos tarnybos kreipinys, interneto forma, ar tiekėjo atsiųstas priedas. Jei kas nors tame tekste įrašytų nurodymą, ką DI žingsnis galėtų su juo padaryti?

Kokios projektavimo taisyklės padeda DI žingsniui likti saugiam?

Keturios taisyklės apima didžiąją dalį to, ko reikia. Kiekviena jų remiasi OWASP rekomendacijomis ir tuo, ką projektas pakeitė po incidento.61

DI skaito ir siūlo, bet pats neveikia. OWASP pataria DI žingsniui suteikti tik tuos įrankius, kurių reikia jo užduočiai.6 Jo paties pavyzdys yra žingsnis, kuris apibendrina el. laiškus. Jam reikia juos skaityti, bet ne siųsti ar ištrinti.6 Sąraše taip pat patariama vengti atvirų įrankių, pavyzdžiui, galimybės vykdyti bet kokią komandą, ir rinktis siaurus įrankius, kurie atlieka vieną dalyką.6 „Cline“ darbo eiga galėjo vykdyti komandas, o projektas dabar teigia, kad bet kokia būsima automatizacija tik skaitys ir neturės teisės vykdyti komandų.1

Kiekvieną veiksmą, turintį pasekmių, tvirtina žmogus. OWASP rekomenduoja, kad didelio poveikio veiksmus žmogus patvirtintų prieš juos atliekant.6 Tvirtinantis asmuo turėtų matyti tikslų veiksmą, kuris bus atliktas, o ne jo santrauką, be to, OWASP įspėja, kad per dažni tvirtinimai atbukina tvirtinančiojo budrumą.6 Todėl svarbu, kaip veiksmai suskirstyti. Lengvai atšaukiami žingsniai gali vykti savaime, o neatšaukiami, pavyzdžiui, mokėjimas, perduodami žmogui.6 Kai vienas DI žingsnis skaito nepatikimą įvestį, pasiekia jautrius duomenis ir gali ką nors pakeisti ar išsiųsti į išorę, OWASP pataria, kad kiekvieną veiksmą tvirtintų žmogus.6

Jokia paslaptis jam nepasiekiama. OWASP pataria raktus ir galią ką nors keisti laikyti įprastame programos kode, už modelio ribų, o kiekvieną veiksmą vykdyti su asmens, kurio vardu jis atliekamas, teisėmis ir ne platesnėmis.6 Šis atvejis rodo, kodėl „pasiekiama“ reiškia daugiau nei tai, kas DI perduodama tiesiogiai. Pati rūšiavimo darbo eiga publikavimo rakto neturėjo, tačiau ji dalijosi saugykla su išleidimo darbo eiga, kuri tokį raktą turėjo.1 Nuo tada projektas bendrai naudojamos saugyklos atsisakė visose darbo eigose, kurios tvarko publikavimo raktus.1

Kiekvienas žingsnis įrašomas, ir kas nors tuos įrašus skaito. OWASP pataria registruoti ir stebėti, ką daro DI žingsnis, kad nepageidaujami veiksmai būtų aptikti ir į juos būtų sureaguota.6 Įrašai padeda tik tada, kai kas nors į juos pažiūri. Tyrėjas aptiko nesėkmingus naktinės išleidimo darbo eigos paleidimus nuo 2026 m. sausio 31 d. iki vasario 3 d., kuriuose matėsi jo paties įrankio pėdsakas, ir rašo, kad tos nesėkmės buvo toleruojamos, o ne tiriamos.3 Dabar projektas pakeistą raktą tikrina ir pagal patį raktą, o ne vien pagal valdymo ekraną.1

Taisyklė Verslo procese Ką projektas pakeitė po incidento
DI skaito ir siūlo Rūšiuoja el. laiškus ir rengia atsakymų juodraščius, bet pats nieko nesiunčia Būsima automatizacija tik skaitys, be teisės vykdyti komandas1
Tvirtina žmogus Duomenų pakeitimas, mokėjimas ar žinutė į išorę laukia konkretaus žmogaus sprendimo DI darbo eigos visiškai pašalintos1
Jokia paslaptis nepasiekiama DI žingsnis neturi slaptažodžių ar raktų ir nesidalija saugykla su žingsniais, kurie juos turi Jokios bendrai naudojamos saugyklos darbo eigose, kuriose yra publikavimo raktai1
Kiekvienas žingsnis įrašomas Kiekviena įvestis, pasiūlymas, patvirtinimas ir veiksmas užregistruojami, o nesėkmės ištiriamos Pakeistas raktas tikrinamas pagal patį raktą1

Šis vadovas apsiriboja proceso projektavimu. Kokius duomenis DI gali matyti ir kur jis veikia, yra atskiri klausimai su savais atsakymais.

Ką patikrinti kiekviename automatizuotame procese?

Peržiūrėkite kiekvieną procesą, kuriame DI skaito ką nors, kas atkeliavo iš išorės, vieną kartą prieš jį paleidžiant ir dar kartą po kiekvieno didesnio pakeitimo.

Prieš nuspręsdami

  • Kokias įvestis skaito DI žingsnis ir ar kurią nors iš jų gali parašyti pašalinis asmuo, pavyzdžiui, el. laišką, formą, kreipinį ar priedą?
  • Ką jis gali daryti, be skaitymo ir siūlymo? Kiekvienas įrankis ir kiekviena teisė yra surašyti.
  • Kurie jo veiksmai keičia duomenis, ką nors siunčia į išorę ar judina pinigus, ir kas kiekvieną jų patvirtina prieš jį atliekant?
  • Ar tvirtinantis asmuo mato tikslų veiksmą, o ne jo santrauką?
  • Kuriuos slaptažodžius, raktus ir duomenis jis gali pasiekti tiesiogiai arba per saugyklą, kuria dalijasi su kitais žingsniais?
  • Ar jis veikia su asmens, kuriam dirba, teisėmis ir ne platesnėmis?
  • Ar kiekviena įvestis, pasiūlymas, patvirtinimas ir veiksmas įrašomi ir ar kas nors tiria nepaaiškintas nesėkmes?
  • Ar jį priešiškomis įvestimis išbandė žmogus, žinantis, kaip veikia jo apsauga, kaip pataria OWASP?6
  • Kas priima pranešimus apie pažeidžiamumus ir kaip greitai į juos kas nors atsako?
  • Ar DI žingsnį galima greitai išjungti, nesustabdant viso proceso?

Ką tai reiškia įmonei Europoje

El. laiškuose, kreipiniuose ir formose paprastai būna asmens duomenų, todėl juos skaitančiam procesui taikomas Bendrasis duomenų apsaugos reglamentas (BDAR). Jo 25 straipsnis reikalauja, kad duomenų valdytojas tiek nustatydamas duomenų tvarkymo priemones, tiek paties duomenų tvarkymo metu įgyvendintų tinkamas technines ir organizacines priemones.7 Standartizuotai gali būti tvarkomi tik tie asmens duomenys, kurie būtini kiekvienam konkrečiam duomenų tvarkymo tikslui.7 32 straipsnis reikalauja rizikai tinkamo saugumo lygio, be kita ko, gebėjimo užtikrinti duomenų tvarkymo sistemų konfidencialumą ir vientisumą bei reguliaraus priemonių veiksmingumo tikrinimo ir vertinimo proceso.7 Tarp rizikų, į kurias reikia atsižvelgti, jis nurodo asmens duomenų atskleidimą be leidimo ir neteisėtą prieigą prie jų.7 Mūsų nuomone, keturios aukščiau aprašytos taisyklės yra būtent tokio pobūdžio priemonės, kokias aprašo šie straipsniai. Ar jų pakanka konkrečiam procesui, turi įvertinti kiekvienas duomenų valdytojas.

Kitas žingsnis

Jei jums būtų naudinga, mielai per trumpą susitikimą kartu su jumis peržiūrėtume vieną jūsų įmonės procesą, kuriame DI skaito gaunamas užklausas, ir tai, ką jame DI gali daryti savarankiškai. Mūsų verslo DI sprendimas remiasi tomis pačiomis taisyklėmis. Jis dirba su kiekvieno naudotojo teisėmis, pakeitimus tvirtina žmogus, o kiekvienas žingsnis įrašomas. Ką su tuo darysite toliau, spręsite tik jūs.

Verslo DI sprendimas

Šaltiniai

  1. 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Perskaityta 2026 m. lapkričio 17 d.
  2. 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Perskaityta 2026 m. lapkričio 17 d.
  3. 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Perskaityta 2026 m. lapkričio 17 d.
  4. 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Perskaityta 2026 m. lapkričio 17 d.
  5. 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Perskaityta 2026 m. lapkričio 17 d.
  6. 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Perskaityta 2026 m. lapkričio 17 d.
  7. 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Perskaityta 2026 m. lapkričio 17 d.

Pakeitimų istorija

  1. Paskelbta.

Pakalbėkime apie jūsų projektą

Palikite kontaktinius duomenis, ir mes susisieksime su jumis pasiūlydami laiką. Nemokamai ir be įsipareigojimų.

Su šalies kodu, pavyzdžiui, +370.

Jūsų duomenis naudosime tik tam, kad jums atsakytume. Privatumo politika

Šią formą nuo automatinio pateikimo saugo Google reCAPTCHA. Google privatumo politika (atsidaro naujame lange) Google paslaugų teikimo sąlygos (atsidaro naujame lange)

Arba susisiekite su mumis tiesiogiai

Parašykite mums office@disruptivelab.dev
Paskambinkite mums +420 777 702 032

Pageidaujama bendravimo kalba yra anglų.

Visi kontaktai ir adresai