Opas Data, integraatiot, automaatio
Pyyntöjä lukeva tekoäly ei saa totella
Ulkoa tulevia pyyntöjä lukeva tekoälyvaihe pitää toisinaan vierasta tekstiä käskynä, joten prosessi on suunniteltava niin, ettei vaihe voi toimia sellaisen käskyn perusteella yksin.
- Julkaistu
- Päivitetty
- Lukuaika
- 7 min lukuaika
- Vastaava toimittaja
- David Lahuta
Lyhyesti
- Joulukuusta 2025 alkaen avoimen lähdekoodin projekti Cline antoi tekoälymallin lajitella saapuvat vikailmoituksensa ja myönsi sille oikeuden suorittaa komentoja.13
- Erään tutkijan testeissä julkisen ilmoituksen otsikko riitti saamaan tämän tekoälyvaiheen asentamaan ulkopuolisen valitsemaa koodia, ja 17. helmikuuta 2026 varastetulla julkaisuavaimella julkaistiin projektin työkalusta muutettu versio, joka ladattiin noin 4 000 kertaa.134
- Tietoturvayhteisön lista tekoälyn riskeistä toteaa, ettei tällä hetkellä ole luotettavaa keinoa estää tekstiä antamasta mallille käskyjä.6
- Ratkaisu löytyy itse prosessin suunnittelusta. Tekoäly lukee ja ehdottaa, ihminen hyväksyy sen, millä on seurauksia, mikään salaisuus ei ole sen ulottuvilla ja jokainen vaihe kirjataan.
Mitä tapahtui tutkijoiden ja projektin itsensä mukaan?
Cline on ohjelmistokehittäjille tarkoitettu avoimen lähdekoodin avustaja, ja sitä jaetaan sekä kehitysympäristön laajennuksena että komentorivityökaluna npm:n kautta, joka on tällaisten pakettien julkinen rekisteri.13 Sen ylläpitäjät lisäsivät 21. joulukuuta 2025 GitHubiin automaattisen työnkulun, joka lajitteli uudet ilmoitukset (issues) ja vastasi niihin. Ne ovat julkisia vikailmoituksia ja pyyntöjä, joita kuka tahansa voi tehdä projektin sivulla.13 Työnkulku antoi jokaisen uuden ilmoituksen Anthropicin tekoälymallin käsiteltäväksi.13 Kaksi asetusta teki siitä kuitenkin vaarallisen. Kuka tahansa GitHubin käyttäjä pystyi käynnistämään sen tekemällä ilmoituksen, ja tekoäly sai suorittaa komentoja.1
Tietoturvatutkija Adnan Khan havaitsi, että uuden ilmoituksen otsikko kopioitiin suoraan tekoälyn ohjeisiin.3 Hänen testeissään riitti otsikko, joka väitti jonkin työkalun puuttuvan ja pyysi tekoälyä asentamaan ensin ”aputyökalun”.3 Tekoäly suoritti asennuksen ja samalla myös skriptin, jota hyökkääjä hallitsi.3 Sieltä hyökkääjä pystyi sijoittamaan omia tiedostojaan tallennustilaan, joka oli yhteinen projektin yöllisen julkaisutyönkulun kanssa, ja juuri tällä työnkululla olivat avaimet uusien versioiden julkaisemiseen.13
| Päivämäärä | Mitä tapahtui |
|---|---|
| 21. joulukuuta 2025 | Ilmoitusten lajitteluun tarkoitettu tekoälytyönkulku otetaan käyttöön.1 |
| 1. tammikuuta 2026 | Tutkija ilmoittaa heikkoudesta luottamuksellisesti GitHubin kautta. Siihen ei puututa ennen kuin hän julkaisee sen.1 |
| 9. helmikuuta 2026 | Tutkija julkaisee heikkouden. Projekti poistaa työnkulun 30 minuutin kuluessa ja alkaa vaihtaa avaimiaan.1 |
| 9. helmikuuta 2026 | Väärä npm-avain poistetaan, ja paljastunut avain jää voimaan.13 |
| 17. helmikuuta 2026 klo 3.26 Tyynenmeren aikaa | Luvaton taho julkaisee tällä avaimella komentorivityökalun version 2.3.0, johon on lisätty yksi rivi. Se asentaa erillisen tekoälyagentin, OpenClaw’n.14 |
| 17. helmikuuta 2026 klo 11.40 UTC | Tietoturvayrityksen valvonta havaitsee julkaisun noin 14 minuuttia sen jälkeen, kun se tuli saataville.4 |
| 17. helmikuuta 2026 klo 11.30 Tyynenmeren aikaa | Versio 2.3.0 poistetaan noin kahdeksan tunnin jälkeen.2 |
Muutettu versio ehdittiin ladata noin 4 000 kertaa.4 Tutkija kirjoittaa, että muutetun version takana ei ollut hän itse vaan joku toinen, joka löysi hänen todisteensa hänen testikopiostaan ja käytti sitä varsinaista projektia vastaan.3 Projektin mukaan asennettu agentti on aito avoimen lähdekoodin ohjelma, mitään haitallista koodia ei toimitettu eikä kenenkään käyttäjän tietoihin päästy käsiksi.1 Projekti tekee tapauksesta myös itse johtopäätöksen. Sen omin sanoin kielimallin oikeus suorittaa komentoja paikassa, jossa se käsittelee kenen tahansa kirjoittamaa tekstiä, on käytännössä sama asia kuin antaa tämä oikeus jokaiselle GitHubin käyttäjälle.1 Tietoturvayhtiö grith tiivisti 5. maaliskuuta 2026 tapauksen viideksi vaiheeksi, jotka alkoivat GitHubin ilmoituksen otsikosta ja joissa hyökkäyksen sisäänpääsyreittinä oli luonnollinen kieli.5
Miksi ulkoa tuleva teksti voi antaa tekoälyvaiheelle käskyjä?
Syy on se, että kielimalli ei pysty luotettavasti erottamaan ohjeita datasta. OWASP Top 10 for LLM Applications 2026, tietoturvayhteisön lista tekoälyn kielimalleihin perustuvien järjestelmien tärkeimmistä riskeistä, sijoittaa tämän riskin ensimmäiseksi.6 Se kutsuu sitä kehoteinjektioksi (prompt injection), jolla tarkoitetaan mitä tahansa syötettä, joka muuttaa mallin toimintaa tavalla, jota sen rakentaja ei tarkoittanut.6 Lista selittää myös, että malli saa sekä ohjeensa että lukemansa sisällön yhdessä ja samassa virrassa, eikä niiden välillä ole sisäänrakennettua rajaa.6
Lista nimeää myös paikat, joista tällaista tekstiä tulee, ja ne ovat aivan tavallisia yrityksen syötteitä.6 Julkiset verkkosivut ja tuntemattomien lähettäjien sähköpostit ovat epäluotettavia.6 Julkisen vikaseurannan ilmoitusten otsikot ovat luotettavia vain osittain.6 Jopa yrityksen omat asiakirjat ja sen oma posti voivat sisältää sinne istutettua tekstiä, esimerkiksi sellaista, joka tuli sisään julkisen lomakkeen kautta.6 Hyökkääjän ei tarvitse murtautua yhteenkään järjestelmään. Riittää, että hän laittaa tekstiä paikkaan, josta tekoäly sen lukee, ja sen jälkeen tekoäly tekee työn yrityksen omilla oikeuksilla.6
Lista puhuu korjauskeinoista hyvin suoraan. Luotettavaa tapaa estää kehoteinjektio ei tällä hetkellä ole, joten mallia ympäröivä järjestelmä pitäisi suunnitella olettaen, että sen ohjeet jonain päivänä ohitetaan, ja sen pitäisi rajata, mitä malli saa tehdä.6
Yritykselle tämä tarkoittaa käytännössä yhtä kysymystä, joka kannattaa esittää jokaisesta prosessista, jossa tekoäly lukee jotakin ulkoa tulevaa, kuten saapuvaa sähköpostia, tukipyyntöä, verkkolomaketta tai toimittajan liitettä. Jos joku kirjoittaisi tuohon tekstiin käskyn, mitä tekoälyvaihe voisi sillä tehdä?
Mitkä suunnittelusäännöt pitävät tekoälyvaiheen turvallisena?
Neljä sääntöä kattaa suurimman osan siitä, mitä tarvitaan. Jokainen niistä perustuu sekä OWASPin ohjeisiin että siihen, mitä projekti muutti tapauksen jälkeen.61
Tekoäly lukee ja ehdottaa, se ei toimi omin päin. OWASP neuvoo antamaan tekoälyvaiheelle vain ne työkalut, joita sen tehtävä vaatii.6 Sen oma esimerkki on vaihe, joka tiivistää sähköposteja ja jonka täytyy pystyä lukemaan niitä, mutta ei lähettämään eikä poistamaan niitä.6 Lisäksi se neuvoo välttämään avoimia työkaluja, kuten minkä tahansa komennon suorittamista, ja suosimaan kapeita työkaluja, jotka tekevät yhden asian.6 Clinen työnkulku pystyi suorittamaan komentoja, ja projekti sanoo nyt omasta puolestaan, että kaikki tuleva automaatio vain lukee eikä saa suorittaa komentoja.1
Ihminen hyväksyy jokaisen toimenpiteen, jolla on seurauksia. OWASP suosittelee, että ihminen hyväksyy vaikutuksiltaan suuret toimenpiteet ennen kuin ne tehdään.6 Hyväksyjän pitäisi nähdä edessään täsmälleen se toimenpide, joka suoritetaan, eikä tiivistelmää siitä, ja OWASP varoittaa, että liian monet hyväksyntäpyynnöt turruttavat hyväksyjän harkinnan.6 Siksi on tärkeää, miten toimenpiteet jaetaan. Vaiheet, jotka on helppo perua, saavat edetä automaattisesti, kun taas peruuttamattomat, kuten maksu, menevät ihmiselle.6 Kun yksi tekoälyvaihe lukee epäluotettavaa syötettä, pääsee arkaluonteisiin tietoihin ja voi muuttaa jotakin tai lähettää jotakin ulos, OWASP edellyttää ihmisen hyväksyntää jokaiselle toimenpiteelle.6
Mikään salaisuus ei ole sen ulottuvilla. OWASP neuvoo pitämään avaimet ja kyvyn muuttaa asioita tavallisessa sovelluskoodissa, mallin ulkopuolella, ja ajamaan jokaisen toimenpiteen sen henkilön oikeuksilla, jonka puolesta se tehdään, eikä yhtään laajemmilla.6 Tapaus osoittaa hyvin, miksi ”ulottuvilla” tarkoittaa paljon enemmän kuin pelkästään sitä, mitä tekoälylle annetaan suoraan käteen. Lajittelutyönkululla itsellään ei ollut julkaisuavainta, mutta se jakoi tallennustilan sen julkaisutyönkulun kanssa, jolla avain oli.1 Projekti on tapauksen jälkeen lopettanut jaetun tallennustilan käytön kaikissa työnkuluissa, jotka käsittelevät julkaisuavaimia.1
Jokainen vaihe kirjataan, ja joku lukee kirjaukset. OWASP neuvoo kirjaamaan ja valvomaan, mitä tekoälyvaihe tekee, jotta ei-toivotut toimenpiteet havaitaan ja niihin voidaan reagoida.6 Kirjauksista on kuitenkin hyötyä vain, jos joku myös katsoo niitä. Tutkija löysi yöllisen julkaisun epäonnistuneita ajoja 31. tammikuuta ja 3. helmikuuta 2026 väliltä, ja niissä näkyi hänen oman työkalunsa jälki. Hän kirjoittaa, että epäonnistumisia siedettiin sen sijaan, että ne olisi tutkittu.3 Projekti tarkistaa nykyään myös vaihdetun avaimen suoraan avaimesta itsestään eikä enää pelkästään hallintanäkymästä.1
| Sääntö | Yrityksen prosessissa | Mitä projekti muutti jälkikäteen |
|---|---|---|
| Tekoäly lukee ja ehdottaa | Se lajittelee sähköposteja ja laatii vastausluonnoksia, mutta ei lähetä itse mitään | Tuleva automaatio vain lukee, eikä sillä ole oikeutta suorittaa komentoja1 |
| Ihminen hyväksyy | Tietojen muutos, maksu tai ulos lähtevä viesti odottaa nimetyn henkilön hyväksyntää | Tekoälytyönkulut poistettiin kokonaan1 |
| Ei salaisuuksia ulottuvilla | Tekoälyvaiheella ei ole salasanoja eikä avaimia, eikä sillä ole yhteistä tallennustilaa vaiheiden kanssa, joilla niitä on | Ei jaettua tallennustilaa työnkuluissa, joissa on julkaisuavaimia1 |
| Jokainen vaihe kirjataan | Jokainen syöte, ehdotus, hyväksyntä ja toimenpide kirjataan, ja epäonnistumiset tutkitaan | Vaihdettu avain tarkistetaan avaimesta itsestään1 |
Tämä opas keskittyy ainoastaan prosessin suunnitteluun. Se, mitä tietoja tekoäly saa nähdä ja missä se toimii, ovat erillisiä kysymyksiä, joihin on omat vastauksensa.
Mitä kustakin automatisoidusta prosessista pitäisi tarkistaa?
Käy läpi jokainen prosessi, jossa tekoäly lukee jotakin yrityksen ulkopuolelta tullutta, ensimmäisen kerran ennen käyttöönottoa ja uudelleen jokaisen suuremman muutoksen jälkeen.
Ennen kuin päätät
- Mitä syötteitä tekoälyvaihe lukee, ja voiko ulkopuolinen kirjoittaa niistä jonkin, kuten sähköpostin, lomakkeen, tukipyynnön tai liitteen?
- Mitä se voi tehdä lukemisen ja ehdottamisen lisäksi? Jokainen työkalu ja jokainen oikeus on listattu.
- Mitkä sen toimenpiteistä muuttavat tietoja, lähettävät jotakin ulos tai siirtävät rahaa, ja kuka hyväksyy kunkin niistä ennen kuin se tapahtuu?
- Näkeekö hyväksyjä täsmälleen sen toimenpiteen, joka suoritetaan, eikä vain tiivistelmää?
- Mihin salasanoihin, avaimiin ja tietoihin se ulottuu, suoraan tai muiden vaiheiden kanssa jaetun tallennustilan kautta?
- Toimiiko se sen henkilön oikeuksilla, jonka puolesta se työskentelee, eikä yhtään laajemmilla?
- Kirjataanko jokainen syöte, ehdotus, hyväksyntä ja toimenpide, ja tutkiiko joku selittämättömät epäonnistumiset?
- Onko sitä testattu vihamielisillä syötteillä, ja onko testaaja tuntenut sen puolustuskeinot, kuten OWASP neuvoo?6
- Kuka vastaanottaa ilmoituksen heikkoudesta, ja kuinka pian joku vastaa siihen?
- Voiko tekoälyvaiheen tarvittaessa kytkeä nopeasti pois päältä niin, ettei koko prosessi pysähdy?
Mitä tämä tarkoittaa yritykselle Euroopassa
Sähköpostit, tukipyynnöt ja lomakkeet sisältävät yleensä myös henkilötietoja, joten niitä lukevaan prosessiin sovelletaan EU:n yleistä tietosuoja-asetusta (GDPR). Asetuksen 25 artikla, sisäänrakennettu ja oletusarvoinen tietosuoja, velvoittaa rekisterinpitäjän toteuttamaan asianmukaiset tekniset ja organisatoriset toimenpiteet sekä käsittelyn keinojen määrittämisen yhteydessä että itse käsittelyn yhteydessä.7 Oletusarvoisesti saa käsitellä vain niitä henkilötietoja, jotka ovat kunkin käsittelyn erityisen käyttötarkoituksen kannalta tarpeellisia.7 Asetuksen 32 artikla edellyttää riskiä vastaavaa turvallisuustasoa, muun muassa kykyä taata käsittelyjärjestelmien luottamuksellisuus ja eheys sekä menettelyä, jolla toimenpiteiden tehokkuutta testataan säännöllisesti.7 Niiden riskien joukossa, jotka on otettava huomioon, se mainitsee henkilötietojen luvattoman luovuttamisen ja luvattoman pääsyn henkilötietoihin.7 Meidän näkemyksemme mukaan edellä kuvatut neljä sääntöä ovat sellaisia toimenpiteitä, joita nämä artiklat tarkoittavat. Sen, riittävätkö ne jossakin yksittäisessä prosessissa, arvioi kuitenkin kukin rekisterinpitäjä itse.
Seuraava askel
Jos siitä olisi apua, katsomme mielellämme kanssasi lyhyessä tapaamisessa yhtä yrityksesi prosessia, jossa tekoäly lukee saapuvia pyyntöjä, ja sitä, mitä se saa siinä tehdä omin päin. Yrityksen tekoälyratkaisu perustuu samoihin sääntöihin. Se toimii aina kunkin käyttäjän omilla oikeuksilla, ihminen hyväksyy muutokset ja jokaisesta vaiheesta jää kirjaus. Mitä teet sen jälkeen, on täysin sinun päätöksesi.
Lähteet
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Luettu 17. marraskuuta 2026
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Luettu 17. marraskuuta 2026
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Luettu 17. marraskuuta 2026
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Luettu 17. marraskuuta 2026
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Luettu 17. marraskuuta 2026
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Luettu 17. marraskuuta 2026
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Luettu 17. marraskuuta 2026
Muutoshistoria
- Julkaistu.