Ceļvedis Dati, integrācija, automatizācija
AI drīkst pieprasījumus lasīt, ne izpildīt
AI solis, kas lasa pieprasījumus no ārpuses, dažkārt uztvers svešas personas tekstu kā rīkojumu, tāpēc process jāveido tā, lai pēc šāda rīkojuma tas nevarētu rīkoties pats.
- Publicēts
- Atjaunināts
- Lasīšanas laiks
- 7 min lasīšanai
- Redaktors
- David Lahuta
Īsumā
- No 2025. gada decembra atvērtā pirmkoda projekts Cline ļāva AI modelim šķirot ienākošos kļūdu ziņojumus un deva tam tiesības izpildīt komandas.13
- Kāda pētnieka testos pietika ar publiska ziņojuma virsrakstu, lai šis AI solis uzstādītu kodu, ko bija izvēlējies kāds svešinieks.3 Savukārt 2026. gada 17. februārī ar nozagtu publicēšanas atslēgu tika izlaista mainīta projekta rīka versija, kas tika lejupielādēta aptuveni 4000 reižu.134
- Drošības kopienas sastādītajā AI risku sarakstā teikts, ka šodien nav uzticama veida, kā neļaut tekstam dot modelim rīkojumus.6
- Atbilde slēpjas procesa uzbūvē. AI lasa un sagatavo priekšlikumus, visu, kam ir sekas, apstiprina cilvēks, neviena parole vai atslēga tam nav pieejama, un katrs solis tiek ierakstīts.
Kas notika pēc pētnieku un paša projekta teiktā?
Cline ir atvērtā pirmkoda palīgs programmatūras izstrādātājiem, ko izplata kā koda redaktora paplašinājumu un kā komandrindas rīku, izmantojot npm, publisko šādu pakotņu reģistru.13 2025. gada 21. decembrī tā uzturētāji vietnē GitHub pievienoja automatizētu darbplūsmu, kas šķiroja jaunus pieteikumus (issues) un atbildēja uz tiem, proti, publiskus kļūdu ziņojumus un pieprasījumus, ko projekta lapā var atvērt ikviens.13 Darbplūsma katru jauno pieteikumu nodeva uzņēmuma Anthropic AI modelim.13 Bīstamu to padarīja divi iestatījumi. To varēja iedarbināt jebkurš GitHub lietotājs, vienkārši atverot pieteikumu, un AI bija atļauts izpildīt komandas.1
Pētnieks Adnans Khans (Adnan Khan) atklāja, ka pieteikuma virsraksts tika tieši iekopēts AI instrukcijās.3 Viņa testos pietika ar virsrakstu, kas apgalvoja, ka trūkst kāda rīka, un lūdza AI vispirms uzstādīt „palīgrīku”.3 AI uzstādīšanu veica, un līdz ar to tika palaists arī uzbrucēja kontrolēts skripts.3 No turienes uzbrucējs varēja iestādīt failus krātuvē, kas bija kopīga ar projekta darbplūsmu, kura katru nakti izlaida jaunas versijas, un šajā darbplūsmā glabājās atslēgas jaunu versiju publicēšanai.13
| Datums | Kas notika |
|---|---|
| 2025. gada 21. decembris | Tiek pievienota AI darbplūsma pieteikumu šķirošanai.1 |
| 2026. gada 1. janvāris | Pētnieks par vājo vietu konfidenciāli ziņo, izmantojot GitHub.1 Ar to neviens nenodarbojas, līdz viņš to publisko.1 |
| 2026. gada 9. februāris | Pētnieks vājo vietu publisko. 30 minūšu laikā projekts darbplūsmu noņem un sāk nomainīt savas atslēgas.1 |
| 2026. gada 9. februāris | Tiek izdzēsta nepareizā npm atslēga, un kompromitētā atslēga paliek derīga.13 |
| 2026. gada 17. februāris, plkst. 3.26 pēc Klusā okeāna laika | Nepilnvarota persona ar šo atslēgu publicē komandrindas rīka versiju 2.3.0 ar vienu pievienotu rindu, kas uzstāda atsevišķu AI aģentu OpenClaw.14 |
| 2026. gada 17. februāris, plkst. 11.40 UTC | Kāda drošības uzņēmuma uzraudzība pamana šo versiju aptuveni 14 minūtes pēc tās publicēšanas.4 |
| 2026. gada 17. februāris, plkst. 11.30 pēc Klusā okeāna laika | Versija 2.3.0 tiek atsaukta pēc aptuveni astoņām stundām.2 |
Mainītā versija tika lejupielādēta aptuveni 4000 reižu.4 Pētnieks raksta, ka aiz tās nestāvēja viņš pats, bet kāds, kurš atrada viņa pierādījumu viņa testa kopijā un izmantoja to pret īsto projektu.3 Projekts norāda, ka uzstādītais aģents ir likumīga atvērtā pirmkoda programma, ka netika piegādāts nekāds ļaunprātīgs kods un ka neviens nepiekļuva lietotāju datiem.1 Secinājumu projekts izdara pats. Dot valodas modelim tiesības izpildīt komandas vietā, kur tas apstrādā jebkura cilvēka tekstu, pēc projekta vārdiem būtībā ir tas pats, kas dot šīs tiesības katram GitHub lietotājam.1 2026. gada 5. martā drošības uzņēmums grith apkopoja gadījumu kā piecus soļus no GitHub pieteikuma virsraksta, ar dabisko valodu kā ieejas punktu.5
Kāpēc teksts no ārpuses var dot AI solim rīkojumus?
Tāpēc, ka valodas modelis nespēj uzticami atšķirt instrukcijas no datiem. OWASP Top 10 for LLM Applications 2026, drošības kopienas sastādītais galveno risku saraksts sistēmām, kuru pamatā ir AI valodas modeļi, šo risku ierindo pirmajā vietā un sauc to par uzvednes injekciju (prompt injection), proti, jebkuru ievadi, kas maina modeļa darbību veidā, ko tā veidotājs nebija paredzējis.6 Saraksts skaidro, ka modelis savas instrukcijas un saturu, ko tas lasa, saņem vienā plūsmā, un starp tām nav iebūvētas robežas.6
Saraksts nosauc vietas, no kurienes šāds teksts nāk, un tās ir parastas uzņēmuma ievades.6 Publiskas tīmekļa lapas un e-pasti no nezināmiem sūtītājiem ir neuzticami.6 Pieteikumu virsraksti publiskā kļūdu uzskaites sistēmā ir uzticami tikai daļēji.6 Pat uzņēmuma paša dokumenti un pasts var saturēt iestādītu tekstu, piemēram, tādu, kas ienācis caur publisku tīmekļa veidlapu.6 Uzbrucējam nekur nav jāielaužas. Viņš ievieto tekstu tur, kur AI to izlasīs, un darbu paveic AI ar paša uzņēmuma tiesībām.6
Par risinājumu saraksts runā tieši. Šodien nav uzticama veida, kā novērst uzvednes injekciju, tāpēc sistēma ap modeli jāveido, pieņemot, ka tā instrukcijas kādu dienu tiks apietas, un jāierobežo tas, ko modelis drīkst darīt.6
Uzņēmumam no tā izriet viens jautājums par katru procesu, kurā AI lasa kaut ko no ārpuses, vai tas būtu ienākošs e-pasts, klientu atbalsta pieteikums, tīmekļa veidlapa vai piegādātāja pielikums. Ja kāds šajā tekstā būtu ierakstījis rīkojumu, ko AI solis ar to varētu izdarīt?
Kādi uzbūves noteikumi AI soli padara drošu?
Lielāko daļu aptver četri noteikumi. Katrs no tiem balstās uz OWASP ieteikumiem un uz to, ko projekts mainīja pēc incidenta.61
AI lasa un sagatavo priekšlikumus, bet pats nerīkojas. OWASP iesaka dot AI solim tikai tos rīkus, kas vajadzīgi tā uzdevumam.6 Tā piemērā minēts solis, kas apkopo e-pastus un kam tie jālasa, bet nav jāsūta vai jādzēš.6 Tas arī iesaka neizmantot atvērtus rīkus, piemēram, jebkuras komandas izpildi, un dot priekšroku šauriem rīkiem, kas dara vienu konkrētu lietu.6 Cline darbplūsma varēja izpildīt komandas, un projekts tagad norāda, ka jebkura turpmākā automatizācija tikai lasīs un tai nebūs tiesību izpildīt komandas.1
Katru darbību, kam ir sekas, apstiprina cilvēks. OWASP iesaka, lai darbības ar lielu ietekmi pirms to izpildes apstiprinātu cilvēks.6 Cilvēkam jāredz tieši tā darbība, kas tiks izpildīta, nevis tās kopsavilkums, un OWASP brīdina, ka pārāk daudz apstiprināšanas notrulina tā cilvēka spriestspēju, kurš apstiprina.6 Tāpēc svarīgs ir sadalījums. Soļi, kurus ir viegli atsaukt, var notikt paši, bet neatgriezeniski soļi, piemēram, maksājums, nonāk pie cilvēka.6 Ja viens AI solis lasa neuzticamu ievadi, piekļūst sensitīviem datiem un var kaut ko mainīt vai nosūtīt ārpus uzņēmuma, OWASP prasa, lai katru darbību apstiprinātu cilvēks.6
Paroles un atslēgas tam nav pieejamas. OWASP iesaka atslēgas un iespēju kaut ko mainīt glabāt parastā lietotnes kodā, ārpus modeļa, un ļaut katrai darbībai notikt ar tā cilvēka tiesībām, kura vārdā tā tiek veikta, un ne ar plašākām.6 Šis gadījums parāda, kāpēc „pieejamas” nozīmē vairāk nekā tas, ko AI saņem tieši. Pašai šķirošanas darbplūsmai publicēšanas atslēgas nebija, taču tai bija kopīga krātuve ar versiju izlaišanas darbplūsmu, kurai tās bija.1 Kopš tā laika projekts šādu kopīgu krātuvi vairs neizmanto nevienā darbplūsmā, kas strādā ar publicēšanas atslēgām.1
Katrs solis tiek ierakstīts, un kāds šos ierakstus lasa. OWASP iesaka reģistrēt žurnālos un uzraudzīt to, ko AI solis dara, lai nevēlamas darbības tiktu atklātas un uz tām varētu reaģēt.6 Ieraksti palīdz tikai tad, ja kāds tajos ieskatās. Pētnieks atrada neveiksmīgas nakts versiju izlaišanas reizes laikā no 2026. gada 31. janvāra līdz 3. februārim, kurās bija redzamas viņa paša rīka pēdas, un raksta, ka šīs kļūmes tika paciestas, nevis izmeklētas.3 Projekts tagad nomainītu atslēgu pārbauda arī pret pašu atslēgu, nevis tikai pārvaldības ekrānā.1
| Noteikums | Uzņēmuma procesā | Ko projekts mainīja pēc tam |
|---|---|---|
| AI lasa un sagatavo priekšlikumus | Tas šķiro e-pastus un sagatavo atbilžu melnrakstus, bet pats neko nesūta | Turpmākā automatizācija tikai lasīs, bez tiesībām izpildīt komandas1 |
| Apstiprina cilvēks | Izmaiņas datos, maksājums vai ziņa ārpus uzņēmuma gaida konkrēta cilvēka apstiprinājumu | AI darbplūsmas tika pilnībā noņemtas1 |
| Paroles un atslēgas nav pieejamas | AI solim nav paroļu vai atslēgu un nav kopīgas krātuves ar soļiem, kuriem tās ir | Darbplūsmās ar publicēšanas atslēgām vairs nav kopīgas krātuves1 |
| Katrs solis tiek ierakstīts | Katra ievade, priekšlikums, apstiprinājums un darbība tiek reģistrēta, un kļūmes tiek izmeklētas | Nomainīta atslēga tiek pārbaudīta pret pašu atslēgu1 |
Šis ceļvedis aplūko tikai procesa uzbūvi. Kurus datus AI drīkst redzēt un kur tas darbojas, ir atsevišķi jautājumi ar savām atbildēm.
Kas jāpārbauda katrā automatizētajā procesā?
Izskatiet katru procesu, kurā AI lasa kaut ko, kas ienācis no ārpuses, vienreiz pirms tā nodošanas ekspluatācijā un vēlreiz pēc katras lielākas izmaiņas.
Pirms izlemjat
- Kādas ievades AI solis lasa, un vai kādu no tām var uzrakstīt svešinieks, piemēram, e-pastu, veidlapu, pieteikumu vai pielikumu?
- Ko tas drīkst darīt bez lasīšanas un priekšlikumu sagatavošanas? Visi rīki un visas tiesības ir uzskaitītas.
- Kuras no tā darbībām maina datus, kaut ko nosūta ārpus uzņēmuma vai pārvieto naudu, un kas katru no tām apstiprina, pirms tā notiek?
- Vai cilvēks, kurš apstiprina, redz tieši pašu darbību, nevis tās kopsavilkumu?
- Kurām parolēm, atslēgām un datiem tas var piekļūt tieši vai caur krātuvi, kas tam ir kopīga ar citiem soļiem?
- Vai tas rīkojas ar tā cilvēka tiesībām, kura labā tas strādā, un ne ar plašākām?
- Vai katra ievade, priekšlikums, apstiprinājums un darbība tiek ierakstīta, un vai kāds izmeklē neizskaidrotas kļūmes?
- Vai to ar naidīgām ievadēm ir pārbaudījis kāds, kurš zina, kā darbojas tā aizsardzība, kā to iesaka OWASP?6
- Kas saņem ziņojumu par vājo vietu, un cik ātri kāds uz to atbild?
- Vai AI soli var ātri izslēgt, neapturot visu procesu?
Ko tas nozīmē uzņēmumam Eiropā
E-pasti, pieteikumi un veidlapas parasti satur personas datus, tāpēc procesam, kas tos lasa, piemēro Vispārīgo datu aizsardzības regulu (VDAR). Tās 25. pants prasa, lai pārzinis gan apstrādes līdzekļu noteikšanas, gan pašas apstrādes laikā īstenotu atbilstošus tehniskus un organizatoriskus pasākumus un integrētu tos apstrādē.7 Pēc noklusējuma drīkst apstrādāt tikai tādus personas datus, kas ir nepieciešami katram konkrētajam apstrādes nolūkam.7 32. pants prasa tādu drošības līmeni, kas atbilst riskam, tostarp spēju nodrošināt apstrādes sistēmu konfidencialitāti un integritāti, kā arī procesu regulārai pasākumu efektivitātes testēšanai.7 Starp riskiem, kas jāņem vērā, tas min neatļautu personas datu izpaušanu vai piekļuvi tiem.7 Mūsuprāt, iepriekš minētie četri noteikumi ir tāda veida pasākumi, kādus apraksta šie panti. Vai ar tiem konkrētam procesam pietiek, katram pārzinim jāizvērtē pašam.
Nākamais solis
Ja tas jums noderētu, labprāt īsā tikšanās reizē kopā ar jums aplūkosim vienu procesu jūsu uzņēmumā, kurā AI lasa ienākošos pieprasījumus, un to, ko tas tajā drīkst izdarīt pats. Uzņēmuma AI risinājums balstās uz tiem pašiem noteikumiem, tas strādā ar katra lietotāja tiesībām, izmaiņas apstiprina cilvēks, un par katru soli paliek ieraksts. Ko ar to darīt pēc tam, ir tikai jūsu lēmums.
Avoti
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Skatīts 2026. gada 17. novembris
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Skatīts 2026. gada 17. novembris
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Skatīts 2026. gada 17. novembris
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Skatīts 2026. gada 17. novembris
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Skatīts 2026. gada 17. novembris
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Skatīts 2026. gada 17. novembris
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Skatīts 2026. gada 17. novembris
Izmaiņu vēsture
- Publicēts.