Guia Dados, integração, automação
A IA que lê pedidos não lhes deve obedecer
Um passo de IA que lê pedidos vindos de fora vai por vezes tomar o texto de um estranho por uma ordem, por isso o processo tem de ser concebido para que não possa cumprir sozinho essa ordem.
- Publicado
- Atualizado
- Tempo de leitura
- 9 min de leitura
- Editor
- David Lahuta
Em resumo
- A partir de dezembro de 2025, o projeto de código aberto Cline pôs um modelo de IA a fazer a triagem dos relatórios de erros que recebia e deu-lhe o direito de executar comandos.13
- Nos testes de um investigador, o título de um relatório público bastou para levar esse passo de IA a instalar código escolhido por alguém de fora, e a 17 de fevereiro de 2026 uma chave de publicação roubada pôs a circular uma versão alterada da ferramenta do projeto, descarregada cerca de 4000 vezes.134
- A lista de riscos de IA da comunidade de segurança afirma que hoje não existe forma fiável de impedir que um texto dê ordens a um modelo.6
- A resposta está na conceção do processo. A IA lê e propõe, uma pessoa aprova o que tem consequências, nenhum segredo está ao seu alcance e cada passo fica registado.
O que aconteceu, segundo os investigadores e o próprio projeto?
O Cline é um assistente de código aberto para quem desenvolve software, distribuído como extensão de editor e como ferramenta de linha de comandos através do npm, o registo público destes pacotes.13 A 21 de dezembro de 2025, os responsáveis pelo projeto acrescentaram no GitHub um fluxo de trabalho automatizado que fazia a triagem e dava resposta aos novos issues, os relatórios de erros e pedidos públicos que qualquer pessoa pode abrir na página do projeto.13 O fluxo entregava cada novo issue a um modelo de IA da Anthropic.13 Duas definições tornaram-no perigoso. Qualquer utilizador do GitHub podia pô-lo em marcha abrindo um issue, e a IA podia executar comandos.1
O investigador Adnan Khan descobriu que o título de um issue era copiado diretamente para as instruções da IA.3 Nos seus testes, bastou um título que afirmava faltar uma ferramenta e pedia à IA que instalasse primeiro uma "ferramenta auxiliar".3 A IA fez a instalação e, com ela, executou um script controlado pelo atacante.3 A partir daí, um atacante podia colocar ficheiros num armazenamento partilhado com o fluxo noturno de lançamento de versões do projeto, que guardava as chaves para publicar novas versões.13
| Data | O que aconteceu |
|---|---|
| 21 de dezembro de 2025 | É acrescentado o fluxo de IA que faz a triagem dos issues.1 |
| 1 de janeiro de 2026 | O investigador comunica a falha em privado através do GitHub.1 Não é tratada até ele a tornar pública.1 |
| 9 de fevereiro de 2026 | Torna-a pública. Em 30 minutos o projeto retira o fluxo e começa a substituir as suas chaves.1 |
| 9 de fevereiro de 2026 | É apagada a chave do npm errada e a chave exposta continua válida.13 |
| 17 de fevereiro de 2026, 3h26, hora do Pacífico | Alguém sem autorização usa essa chave para publicar a versão 2.3.0 da ferramenta de linha de comandos, com uma linha a mais que instala um agente de IA à parte, o OpenClaw.14 |
| 17 de fevereiro de 2026, 11h40 UTC | A monitorização de uma empresa de segurança assinala a versão cerca de 14 minutos depois de ter saído.4 |
| 17 de fevereiro de 2026, 11h30, hora do Pacífico | A versão 2.3.0 é retirada, ao fim de cerca de oito horas.2 |
A versão alterada foi descarregada cerca de 4000 vezes.4 O investigador escreve que quem a publicou não foi ele, mas alguém que encontrou a sua prova de conceito na cópia de teste que usava e a aplicou ao projeto verdadeiro.3 O projeto declara que o agente instalado é um programa de código aberto legítimo, que não foi distribuído código malicioso e que ninguém acedeu a dados dos utilizadores.1 E tira ele próprio a lição. Dar a um modelo de linguagem o direito de executar comandos onde ele processa texto de qualquer pessoa é, nas suas palavras, na prática o mesmo que dar esse direito a todos os utilizadores do GitHub.1 A 5 de março de 2026, a empresa de segurança grith resumiu o caso como cinco passos a partir do título de um issue no GitHub, com a linguagem natural como porta de entrada.5
Porque é que um texto vindo de fora pode dar ordens a um passo de IA?
Porque um modelo de linguagem não consegue distinguir com segurança instruções de dados. O OWASP Top 10 for LLM Applications 2026, a lista da comunidade de segurança com os principais riscos dos sistemas assentes em modelos de linguagem de IA, coloca este risco em primeiro lugar e chama-lhe injeção de prompts (prompt injection), qualquer entrada que altere o que o modelo faz de uma forma que quem o construiu não pretendia.6 Explica que o modelo recebe as suas instruções e o conteúdo que lê num único fluxo, sem uma fronteira incorporada entre os dois.6
A lista indica de onde vem esse texto, e são entradas correntes de qualquer negócio.6 As páginas web públicas e os e-mails de remetentes desconhecidos não são de confiança.6 Os títulos de issues num registo público de erros são só parcialmente de confiança.6 Até os documentos e o correio da própria empresa podem trazer um texto plantado, por exemplo um que entrou por um formulário público.6 O atacante não precisa de entrar em lado nenhum. Coloca texto onde a IA o vai ler, e a IA faz o trabalho com os direitos da própria empresa.6
A lista é clara quanto ao remédio. Hoje não existe forma fiável de evitar a injeção de prompts, por isso o sistema à volta do modelo deve ser concebido partindo do princípio de que as suas instruções um dia serão contornadas, e deve limitar o que o modelo pode fazer.6
Para uma empresa, isto resume-se a uma pergunta para cada processo em que a IA lê algo vindo de fora, um e-mail recebido, um pedido de suporte, um formulário web, um anexo de um fornecedor. Se alguém escrevesse uma ordem nesse texto, o que poderia o passo de IA fazer com ela?
Que regras de conceção mantêm seguro o passo de IA?
Quatro regras cobrem a maior parte. Cada uma assenta nas orientações do OWASP e no que o projeto mudou depois do incidente.61
A IA lê e propõe, não age sozinha. O OWASP aconselha a dar a um passo de IA apenas as ferramentas de que a sua tarefa precisa.6 O seu próprio exemplo é um passo que resume e-mails e precisa de os ler, mas não de os enviar nem de os apagar.6 Desaconselha também ferramentas abertas, como executar qualquer comando, e prefere ferramentas restritas que fazem uma única coisa.6 O fluxo do Cline podia executar comandos, e o projeto diz agora que qualquer automatização futura será apenas de leitura, sem direito a executar comandos.1
Uma pessoa aprova cada ação com consequências. O OWASP recomenda que uma pessoa aprove as ações de grande impacto antes de acontecerem.6 Essa pessoa deve ver a ação exata que vai ser executada, não um resumo dela, e o OWASP avisa que aprovações a mais embotam o juízo de quem as dá.6 Por isso, a divisão importa. Os passos fáceis de desfazer podem avançar sem intervenção, e os irreversíveis, como um pagamento, passam por uma pessoa.6 Quando um mesmo passo de IA lê entradas não fiáveis, chega a dados sensíveis e pode alterar ou enviar algo para fora, o OWASP pede a aprovação de uma pessoa para cada ação.6
Nenhum segredo ao seu alcance. O OWASP aconselha a manter as chaves e o poder de alterar coisas no código normal da aplicação, fora do modelo, e a executar cada ação com os direitos da pessoa para quem é feita, e não mais.6 O caso mostra porque é que "ao seu alcance" é mais do que aquilo que se entrega à IA. O fluxo de triagem não guardava nenhuma chave de publicação, mas partilhava armazenamento com o fluxo de lançamento de versões, que a guardava.1 Desde então, o projeto deixou de usar esse armazenamento partilhado em todos os fluxos que lidam com chaves de publicação.1
Cada passo fica registado, e alguém lê o registo. O OWASP aconselha a registar e acompanhar o que um passo de IA faz, para que as ações indesejadas sejam detetadas e tratadas.6 Os registos só ajudam quando alguém olha para eles. O investigador encontrou execuções falhadas do lançamento noturno entre 31 de janeiro e 3 de fevereiro de 2026 com o rasto da sua própria ferramenta, e escreve que as falhas foram toleradas em vez de investigadas.3 O projeto confirma agora também a substituição de uma chave testando a própria chave, e não apenas num ecrã de gestão.1
| Regra | Num processo de negócio | O que o projeto mudou depois |
|---|---|---|
| A IA lê e propõe | Faz a triagem dos e-mails e prepara respostas, mas não envia nada sozinha | A automatização futura só lê, sem direito a executar comandos1 |
| Uma pessoa aprova | Uma alteração de dados, um pagamento ou uma mensagem para fora espera por uma pessoa identificada | Os fluxos de IA foram totalmente retirados1 |
| Nenhum segredo ao alcance | O passo de IA não tem palavras-passe nem chaves, nem armazenamento partilhado com passos que as tenham | Nenhum armazenamento partilhado nos fluxos que guardam chaves de publicação1 |
| Cada passo registado | Cada entrada, proposta, aprovação e ação fica registada e as falhas são analisadas | A substituição de uma chave é confirmada na própria chave1 |
Este guia fica pela conceção do processo. Que dados uma IA pode ver e onde funciona são questões à parte, com respostas próprias.
O que deve verificar em cada processo automatizado?
Percorra cada processo em que a IA lê algo que veio de fora, uma vez antes de entrar em funcionamento e de novo depois de cada alteração maior.
Antes de decidir
- Que entradas lê o passo de IA, e pode um estranho escrever alguma delas, um e-mail, um formulário, um pedido de suporte ou um anexo?
- O que pode fazer além de ler e propor? Cada ferramenta e cada direito estão listados.
- Quais das suas ações alteram dados, enviam algo para fora ou movimentam dinheiro, e quem aprova cada uma antes de acontecer?
- A pessoa que aprova vê a ação exata, e não um resumo?
- A que palavras-passe, chaves e dados consegue chegar, diretamente ou através de armazenamento que partilha com outros passos?
- Age com os direitos da pessoa para quem trabalha, e não mais?
- Cada entrada, proposta, aprovação e ação fica registada, e alguém analisa as falhas sem explicação?
- Foi testado com entradas hostis por alguém que sabe como funcionam as suas defesas, como aconselha o OWASP?6
- Quem recebe a comunicação de uma falha, e em quanto tempo alguém lhe responde?
- É possível desligar rapidamente o passo de IA sem parar todo o processo?
O que significa para uma empresa na Europa
Os e-mails, pedidos de suporte e formulários trazem normalmente dados pessoais, por isso o Regulamento Geral sobre a Proteção de Dados (RGPD) aplica-se ao processo que os lê. O seu artigo 25.º pede ao responsável pelo tratamento que aplique ao tratamento as medidas técnicas e organizativas adequadas, tanto no momento de definição dos meios de tratamento como no momento do próprio tratamento.7 Por defeito, só podem ser tratados os dados pessoais necessários para cada finalidade.7 O artigo 32.º pede um nível de segurança adequado ao risco, incluindo a capacidade de assegurar a confidencialidade e a integridade dos sistemas, e um processo para testar, apreciar e avaliar regularmente a eficácia das medidas.7 Entre os riscos a ponderar, refere a divulgação ou o acesso não autorizados a dados pessoais.7 Em nosso entender, as quatro regras acima são o tipo de medidas que estes artigos descrevem. Se bastam para um dado processo, cabe a cada responsável pelo tratamento avaliar.
Próximo passo
Se lhe for útil, teremos todo o gosto em analisar consigo, numa reunião curta, um processo da sua empresa em que a IA lê pedidos recebidos, e naquilo que ela pode fazer nele sozinha. A Solução de IA à medida assenta nas mesmas regras, com as permissões de cada utilizador, uma pessoa que aprova as alterações e o registo de cada passo. O que fizer depois é uma decisão inteiramente sua.
Fontes
- 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Consultada a 17 de novembro de 2026
- 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Consultada a 17 de novembro de 2026
- 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Consultada a 17 de novembro de 2026
- 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Consultada a 17 de novembro de 2026
- 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Consultada a 17 de novembro de 2026
- 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Consultada a 17 de novembro de 2026
- 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Consultada a 17 de novembro de 2026
Histórico de alterações
- Publicado.