Guida Dati, integrazione, automazione
L'AI legge le richieste, non le esegue
Un passaggio di AI che legge richieste dall'esterno prima o poi scambierà il testo di un estraneo per un ordine, perciò il processo va progettato in modo che non possa eseguirlo da solo.
- Pubblicato
- Aggiornato
- Tempo di lettura
- 9 min di lettura
- Responsabile editoriale
- David Lahuta
In breve
- Da dicembre 2025 il progetto open source Cline ha affidato a un modello AI lo smistamento delle segnalazioni di bug in arrivo, dandogli il diritto di eseguire comandi.13
- Nei test di un ricercatore bastava il titolo di una segnalazione pubblica per far installare a quel passaggio di AI codice scelto da un estraneo, e il 17 febbraio 2026 una chiave di pubblicazione rubata ha messo in circolazione una versione modificata dello strumento del progetto, scaricata circa 4.000 volte.134
- L'elenco dei rischi dell'AI redatto dalla comunità della sicurezza afferma che oggi non esiste un modo affidabile per impedire a un testo di dare ordini a un modello.6
- La risposta sta nella progettazione del processo. L'AI legge e propone, una persona approva ciò che ha conseguenze, nessun segreto è alla sua portata e ogni passaggio viene registrato.
Che cosa è successo, secondo i ricercatori e secondo il progetto?
Cline è un assistente open source per sviluppatori software, distribuito come estensione dell'editor e come strumento a riga di comando tramite npm, il registro pubblico di questi pacchetti.13 Il 21 dicembre 2025 i suoi manutentori hanno aggiunto su GitHub un workflow automatico che smistava le nuove issue e vi rispondeva, cioè le segnalazioni di bug e le richieste pubbliche che chiunque può aprire sulla pagina del progetto.13 Il workflow passava ogni nuova issue a un modello AI di Anthropic.13 Due impostazioni lo rendevano pericoloso. Qualsiasi utente di GitHub poteva avviarlo aprendo una issue, e l'AI aveva il permesso di eseguire comandi.1
Il ricercatore Adnan Khan ha scoperto che il titolo di una issue veniva copiato direttamente nelle istruzioni dell'AI.3 Nei suoi test bastava un titolo che sosteneva che mancasse uno strumento e chiedeva all'AI di installare prima uno «strumento di supporto».3 L'AI eseguiva l'installazione, e con essa uno script controllato dall'attaccante.3 Da lì un attaccante poteva depositare file in uno spazio di archiviazione condiviso con il workflow notturno di rilascio, che custodiva le chiavi per pubblicare le nuove versioni.13
| Data | Che cosa è successo |
|---|---|
| 21 dicembre 2025 | Viene aggiunto il workflow con l'AI per smistare le issue.1 |
| 1° gennaio 2026 | Il ricercatore segnala la vulnerabilità in via riservata tramite GitHub, ma non viene presa in carico finché lui non la rende pubblica.1 |
| 9 febbraio 2026 | La rende pubblica. Entro 30 minuti il progetto rimuove il workflow e inizia a sostituire le chiavi.1 |
| 9 febbraio 2026 | Viene cancellata la chiave npm sbagliata e quella esposta resta valida.13 |
| 17 febbraio 2026, 3:26 ora del Pacifico | Un soggetto non autorizzato usa quella chiave per pubblicare la versione 2.3.0 dello strumento a riga di comando, con una sola riga aggiunta che installa un agente AI separato, OpenClaw.14 |
| 17 febbraio 2026, 11:40 UTC | Il monitoraggio di una società di sicurezza segnala il rilascio, circa 14 minuti dopo la pubblicazione.4 |
| 17 febbraio 2026, 11:30 ora del Pacifico | La versione 2.3.0 viene ritirata, dopo circa otto ore.2 |
La versione modificata è stata scaricata circa 4.000 volte.4 Il ricercatore scrive che dietro non c'era lui, ma qualcuno che aveva trovato la sua dimostrazione sulla sua copia di test e l'aveva usata contro il progetto vero.3 Il progetto dichiara che l'agente installato è un programma open source legittimo, che non è stato distribuito codice malevolo e che nessuno ha avuto accesso ai dati degli utenti.1 Il progetto stesso ne trae anche la lezione. Dare a un modello linguistico il diritto di eseguire comandi là dove elabora testo proveniente da chiunque equivale, nelle sue parole, a dare quel diritto a ogni utente di GitHub.1 Il 5 marzo 2026 la società di sicurezza grith ha riassunto il caso in cinque passaggi a partire dal titolo di una issue su GitHub, con il linguaggio naturale come punto d'ingresso.5
Perché un testo esterno può dare ordini a un passaggio di AI?
Perché un modello linguistico non sa distinguere in modo affidabile le istruzioni dai dati. La OWASP Top 10 for LLM Applications 2026, l'elenco dei principali rischi dei sistemi basati su modelli linguistici di AI redatto dalla comunità della sicurezza, mette questo rischio al primo posto e lo chiama prompt injection, cioè qualsiasi input che modifica il comportamento del modello in un modo non previsto da chi l'ha realizzato.6 Spiega che il modello riceve le proprie istruzioni e il contenuto che legge in un unico flusso, senza un confine integrato tra i due.6
L'elenco indica da dove arriva un testo del genere, e sono normali input aziendali.6 Le pagine web pubbliche e le e-mail di mittenti sconosciuti non sono affidabili.6 I titoli delle issue in un sistema pubblico di segnalazione dei bug sono affidabili solo in parte.6 Anche i documenti e la posta dell'azienda possono contenere un testo inserito ad arte, per esempio arrivato tramite un modulo pubblico.6 L'attaccante non ha bisogno di forzare nulla. Mette il testo dove l'AI lo leggerà, e l'AI fa il lavoro con i permessi dell'azienda stessa.6
Sul rimedio l'elenco è esplicito. Oggi non esiste un modo affidabile per prevenire la prompt injection, quindi il sistema attorno al modello va progettato partendo dal presupposto che un giorno le sue istruzioni verranno aggirate, e deve limitare ciò che il modello può fare.6
Per un'azienda ne deriva una domanda per ogni processo in cui l'AI legge qualcosa che arriva dall'esterno, un'e-mail in entrata, un ticket di assistenza, un modulo web, un allegato di un fornitore. Se qualcuno scrivesse un ordine in quel testo, che cosa potrebbe farne il passaggio di AI?
Quali regole di progettazione rendono sicuro il passaggio di AI?
Quattro regole coprono quasi tutto. Ciascuna si basa sulle indicazioni di OWASP e su ciò che il progetto ha cambiato dopo l'incidente.61
L'AI legge e propone, non agisce da sola. OWASP consiglia di dare a un passaggio di AI solo gli strumenti che servono al suo compito.6 Il suo esempio è un passaggio che riassume le e-mail e ha bisogno di leggerle, non di inviarle né di eliminarle.6 Sconsiglia inoltre strumenti aperti come l'esecuzione di qualsiasi comando, a favore di strumenti specifici che fanno una cosa sola.6 Il workflow di Cline poteva eseguire comandi, e oggi il progetto afferma che ogni automazione futura si limiterà a leggere, senza il diritto di eseguire comandi.1
Una persona approva ogni azione con conseguenze. OWASP raccomanda che una persona approvi in anticipo le azioni ad alto impatto.6 La persona dovrebbe vedere l'azione esatta che verrà eseguita, non un suo riassunto, e OWASP avverte che troppe approvazioni rendono meno attento il giudizio di chi le dà.6 Per questo conta la suddivisione. I passaggi facilmente reversibili possono procedere da soli, mentre quelli irreversibili, come un pagamento, passano a una persona.6 Dove un unico passaggio di AI legge input non affidabili, accede a dati sensibili e può modificare qualcosa o inviare qualcosa all'esterno, OWASP chiede l'approvazione di una persona per ogni azione.6
Nessun segreto alla sua portata. OWASP consiglia di tenere le chiavi e il potere di modificare le cose nel normale codice applicativo, fuori dal modello, e di far eseguire ogni azione con i permessi della persona per cui viene svolta, non più ampi.6 Il caso mostra perché «alla sua portata» significa più di ciò che viene consegnato all'AI. Il workflow di smistamento in sé non custodiva alcuna chiave di pubblicazione, ma condivideva lo spazio di archiviazione con il workflow di rilascio che la custodiva.1 Da allora il progetto non usa più quello spazio condiviso in nessun workflow che gestisce chiavi di pubblicazione.1
Ogni passaggio viene registrato, e qualcuno legge il registro. OWASP consiglia di registrare e monitorare ciò che fa un passaggio di AI, così da individuare le azioni indesiderate e reagire.6 I registri servono solo se qualcuno li guarda. Il ricercatore ha trovato, tra il 31 gennaio e il 3 febbraio 2026, esecuzioni fallite del rilascio notturno che portavano la traccia del suo stesso strumento, e scrive che quei fallimenti sono stati tollerati anziché indagati.3 Oggi il progetto verifica inoltre una chiave sostituita sulla chiave stessa, non solo su una schermata di gestione.1
| Regola | In un processo aziendale | Che cosa ha cambiato il progetto in seguito |
|---|---|---|
| L'AI legge e propone | Smista le e-mail e prepara le risposte, ma non invia nulla da sola | L'automazione futura si limiterà a leggere, senza il diritto di eseguire comandi1 |
| Una persona approva | Una modifica ai dati, un pagamento o un messaggio verso l'esterno attende una persona indicata per nome | I workflow con l'AI sono stati rimossi del tutto1 |
| Nessun segreto alla sua portata | Il passaggio di AI non ha password né chiavi e non condivide spazio di archiviazione con passaggi che le hanno | Nessuno spazio condiviso nei workflow che custodiscono chiavi di pubblicazione1 |
| Ogni passaggio registrato | Ogni input, proposta, approvazione e azione viene registrato e i fallimenti vengono indagati | Una chiave sostituita viene verificata sulla chiave stessa1 |
Questa guida resta sulla progettazione del processo. Quali dati l'AI può vedere e dove viene eseguita sono questioni distinte, con risposte proprie.
Che cosa verificare in ogni processo automatizzato?
Esaminate ogni processo in cui l'AI legge qualcosa arrivato dall'esterno, una volta prima della messa in produzione e di nuovo dopo ogni modifica importante.
Prima di decidere
- Quali input legge il passaggio di AI, e un estraneo può scriverne qualcuno, un'e-mail, un modulo, un ticket o un allegato?
- Che cosa può fare oltre a leggere e proporre? Ogni strumento e ogni permesso è elencato.
- Quali sue azioni modificano dati, inviano qualcosa all'esterno o muovono denaro, e chi approva ciascuna prima che avvenga?
- Chi approva vede l'azione esatta, e non un suo riassunto?
- Quali password, chiavi e dati può raggiungere, direttamente o tramite spazi di archiviazione condivisi con altri passaggi?
- Agisce con i permessi della persona per cui lavora, e non con permessi più ampi?
- Ogni input, proposta, approvazione e azione viene registrato, e qualcuno indaga sui fallimenti inspiegati?
- È stato messo alla prova con input ostili da qualcuno che conosce le sue difese, come consiglia OWASP?6
- Chi riceve la segnalazione di una vulnerabilità, e in quanto tempo qualcuno risponde?
- Il passaggio di AI si può disattivare rapidamente senza fermare l'intero processo?
Che cosa significa per un'azienda in Europa
E-mail, ticket e moduli contengono di solito dati personali, quindi al processo che li legge si applica il regolamento generale sulla protezione dei dati (GDPR). L'articolo 25 chiede al titolare del trattamento di mettere in atto misure tecniche e organizzative adeguate, integrate nel trattamento, sia al momento di determinare i mezzi del trattamento sia all'atto del trattamento stesso.7 Per impostazione predefinita possono essere trattati solo i dati personali necessari per ogni specifica finalità del trattamento.7 L'articolo 32 chiede un livello di sicurezza adeguato al rischio, compresa la capacità di assicurare la riservatezza e l'integrità dei sistemi e dei servizi di trattamento e una procedura per testare, verificare e valutare regolarmente l'efficacia delle misure.7 Tra i rischi da considerare cita la divulgazione non autorizzata dei dati personali e l'accesso non autorizzato agli stessi.7 A nostro avviso le quattro regole descritte sopra sono il tipo di misure di cui parlano questi articoli. Se bastino per un determinato processo spetta a ciascun titolare valutarlo.
Prossimo passo
Se può esservi utile, saremo lieti di esaminare con voi, in un breve incontro, un processo della vostra azienda in cui l'AI legge le richieste in arrivo, e a ciò che può fare da sola. La nostra soluzione AI aziendale poggia sulle stesse regole, con i permessi di ciascun utente, una persona che approva le modifiche e un registro di ogni passaggio. Che cosa farne poi resta una decisione interamente vostra.
Fonti
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Consultata il 17 novembre 2026
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Consultata il 17 novembre 2026
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Consultata il 17 novembre 2026
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Consultata il 17 novembre 2026
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Consultata il 17 novembre 2026
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Consultata il 17 novembre 2026
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Consultata il 17 novembre 2026
Cronologia delle modifiche
- Pubblicato.