Saltar para o conteúdo
Disruptive Lab

Guia Dados, integração, automação

A IA que lê pedidos não lhes deve obedecer

Um passo de IA que lê pedidos vindos de fora vai por vezes tomar o texto de um estranho por uma ordem, por isso o processo tem de ser concebido para que não possa cumprir sozinho essa ordem.

Publicado
Atualizado
Tempo de leitura
9 min de leitura
Editor
David Lahuta

Em resumo

  • A partir de dezembro de 2025, o projeto de código aberto Cline pôs um modelo de IA a fazer a triagem dos relatórios de erros que recebia e deu-lhe o direito de executar comandos.13
  • Nos testes de um investigador, o título de um relatório público bastou para levar esse passo de IA a instalar código escolhido por alguém de fora, e a 17 de fevereiro de 2026 uma chave de publicação roubada pôs a circular uma versão alterada da ferramenta do projeto, descarregada cerca de 4000 vezes.134
  • A lista de riscos de IA da comunidade de segurança afirma que hoje não existe forma fiável de impedir que um texto dê ordens a um modelo.6
  • A resposta está na conceção do processo. A IA lê e propõe, uma pessoa aprova o que tem consequências, nenhum segredo está ao seu alcance e cada passo fica registado.

O que aconteceu, segundo os investigadores e o próprio projeto?

O Cline é um assistente de código aberto para quem desenvolve software, distribuído como extensão de editor e como ferramenta de linha de comandos através do npm, o registo público destes pacotes.13 A 21 de dezembro de 2025, os responsáveis pelo projeto acrescentaram no GitHub um fluxo de trabalho automatizado que fazia a triagem e dava resposta aos novos issues, os relatórios de erros e pedidos públicos que qualquer pessoa pode abrir na página do projeto.13 O fluxo entregava cada novo issue a um modelo de IA da Anthropic.13 Duas definições tornaram-no perigoso. Qualquer utilizador do GitHub podia pô-lo em marcha abrindo um issue, e a IA podia executar comandos.1

O investigador Adnan Khan descobriu que o título de um issue era copiado diretamente para as instruções da IA.3 Nos seus testes, bastou um título que afirmava faltar uma ferramenta e pedia à IA que instalasse primeiro uma "ferramenta auxiliar".3 A IA fez a instalação e, com ela, executou um script controlado pelo atacante.3 A partir daí, um atacante podia colocar ficheiros num armazenamento partilhado com o fluxo noturno de lançamento de versões do projeto, que guardava as chaves para publicar novas versões.13

Data O que aconteceu
21 de dezembro de 2025 É acrescentado o fluxo de IA que faz a triagem dos issues.1
1 de janeiro de 2026 O investigador comunica a falha em privado através do GitHub.1 Não é tratada até ele a tornar pública.1
9 de fevereiro de 2026 Torna-a pública. Em 30 minutos o projeto retira o fluxo e começa a substituir as suas chaves.1
9 de fevereiro de 2026 É apagada a chave do npm errada e a chave exposta continua válida.13
17 de fevereiro de 2026, 3h26, hora do Pacífico Alguém sem autorização usa essa chave para publicar a versão 2.3.0 da ferramenta de linha de comandos, com uma linha a mais que instala um agente de IA à parte, o OpenClaw.14
17 de fevereiro de 2026, 11h40 UTC A monitorização de uma empresa de segurança assinala a versão cerca de 14 minutos depois de ter saído.4
17 de fevereiro de 2026, 11h30, hora do Pacífico A versão 2.3.0 é retirada, ao fim de cerca de oito horas.2

A versão alterada foi descarregada cerca de 4000 vezes.4 O investigador escreve que quem a publicou não foi ele, mas alguém que encontrou a sua prova de conceito na cópia de teste que usava e a aplicou ao projeto verdadeiro.3 O projeto declara que o agente instalado é um programa de código aberto legítimo, que não foi distribuído código malicioso e que ninguém acedeu a dados dos utilizadores.1 E tira ele próprio a lição. Dar a um modelo de linguagem o direito de executar comandos onde ele processa texto de qualquer pessoa é, nas suas palavras, na prática o mesmo que dar esse direito a todos os utilizadores do GitHub.1 A 5 de março de 2026, a empresa de segurança grith resumiu o caso como cinco passos a partir do título de um issue no GitHub, com a linguagem natural como porta de entrada.5

Porque é que um texto vindo de fora pode dar ordens a um passo de IA?

Porque um modelo de linguagem não consegue distinguir com segurança instruções de dados. O OWASP Top 10 for LLM Applications 2026, a lista da comunidade de segurança com os principais riscos dos sistemas assentes em modelos de linguagem de IA, coloca este risco em primeiro lugar e chama-lhe injeção de prompts (prompt injection), qualquer entrada que altere o que o modelo faz de uma forma que quem o construiu não pretendia.6 Explica que o modelo recebe as suas instruções e o conteúdo que lê num único fluxo, sem uma fronteira incorporada entre os dois.6

A lista indica de onde vem esse texto, e são entradas correntes de qualquer negócio.6 As páginas web públicas e os e-mails de remetentes desconhecidos não são de confiança.6 Os títulos de issues num registo público de erros são só parcialmente de confiança.6 Até os documentos e o correio da própria empresa podem trazer um texto plantado, por exemplo um que entrou por um formulário público.6 O atacante não precisa de entrar em lado nenhum. Coloca texto onde a IA o vai ler, e a IA faz o trabalho com os direitos da própria empresa.6

A lista é clara quanto ao remédio. Hoje não existe forma fiável de evitar a injeção de prompts, por isso o sistema à volta do modelo deve ser concebido partindo do princípio de que as suas instruções um dia serão contornadas, e deve limitar o que o modelo pode fazer.6

Para uma empresa, isto resume-se a uma pergunta para cada processo em que a IA lê algo vindo de fora, um e-mail recebido, um pedido de suporte, um formulário web, um anexo de um fornecedor. Se alguém escrevesse uma ordem nesse texto, o que poderia o passo de IA fazer com ela?

Que regras de conceção mantêm seguro o passo de IA?

Quatro regras cobrem a maior parte. Cada uma assenta nas orientações do OWASP e no que o projeto mudou depois do incidente.61

A IA lê e propõe, não age sozinha. O OWASP aconselha a dar a um passo de IA apenas as ferramentas de que a sua tarefa precisa.6 O seu próprio exemplo é um passo que resume e-mails e precisa de os ler, mas não de os enviar nem de os apagar.6 Desaconselha também ferramentas abertas, como executar qualquer comando, e prefere ferramentas restritas que fazem uma única coisa.6 O fluxo do Cline podia executar comandos, e o projeto diz agora que qualquer automatização futura será apenas de leitura, sem direito a executar comandos.1

Uma pessoa aprova cada ação com consequências. O OWASP recomenda que uma pessoa aprove as ações de grande impacto antes de acontecerem.6 Essa pessoa deve ver a ação exata que vai ser executada, não um resumo dela, e o OWASP avisa que aprovações a mais embotam o juízo de quem as dá.6 Por isso, a divisão importa. Os passos fáceis de desfazer podem avançar sem intervenção, e os irreversíveis, como um pagamento, passam por uma pessoa.6 Quando um mesmo passo de IA lê entradas não fiáveis, chega a dados sensíveis e pode alterar ou enviar algo para fora, o OWASP pede a aprovação de uma pessoa para cada ação.6

Nenhum segredo ao seu alcance. O OWASP aconselha a manter as chaves e o poder de alterar coisas no código normal da aplicação, fora do modelo, e a executar cada ação com os direitos da pessoa para quem é feita, e não mais.6 O caso mostra porque é que "ao seu alcance" é mais do que aquilo que se entrega à IA. O fluxo de triagem não guardava nenhuma chave de publicação, mas partilhava armazenamento com o fluxo de lançamento de versões, que a guardava.1 Desde então, o projeto deixou de usar esse armazenamento partilhado em todos os fluxos que lidam com chaves de publicação.1

Cada passo fica registado, e alguém lê o registo. O OWASP aconselha a registar e acompanhar o que um passo de IA faz, para que as ações indesejadas sejam detetadas e tratadas.6 Os registos só ajudam quando alguém olha para eles. O investigador encontrou execuções falhadas do lançamento noturno entre 31 de janeiro e 3 de fevereiro de 2026 com o rasto da sua própria ferramenta, e escreve que as falhas foram toleradas em vez de investigadas.3 O projeto confirma agora também a substituição de uma chave testando a própria chave, e não apenas num ecrã de gestão.1

Regra Num processo de negócio O que o projeto mudou depois
A IA lê e propõe Faz a triagem dos e-mails e prepara respostas, mas não envia nada sozinha A automatização futura só lê, sem direito a executar comandos1
Uma pessoa aprova Uma alteração de dados, um pagamento ou uma mensagem para fora espera por uma pessoa identificada Os fluxos de IA foram totalmente retirados1
Nenhum segredo ao alcance O passo de IA não tem palavras-passe nem chaves, nem armazenamento partilhado com passos que as tenham Nenhum armazenamento partilhado nos fluxos que guardam chaves de publicação1
Cada passo registado Cada entrada, proposta, aprovação e ação fica registada e as falhas são analisadas A substituição de uma chave é confirmada na própria chave1

Este guia fica pela conceção do processo. Que dados uma IA pode ver e onde funciona são questões à parte, com respostas próprias.

O que deve verificar em cada processo automatizado?

Percorra cada processo em que a IA lê algo que veio de fora, uma vez antes de entrar em funcionamento e de novo depois de cada alteração maior.

Antes de decidir

  • Que entradas lê o passo de IA, e pode um estranho escrever alguma delas, um e-mail, um formulário, um pedido de suporte ou um anexo?
  • O que pode fazer além de ler e propor? Cada ferramenta e cada direito estão listados.
  • Quais das suas ações alteram dados, enviam algo para fora ou movimentam dinheiro, e quem aprova cada uma antes de acontecer?
  • A pessoa que aprova vê a ação exata, e não um resumo?
  • A que palavras-passe, chaves e dados consegue chegar, diretamente ou através de armazenamento que partilha com outros passos?
  • Age com os direitos da pessoa para quem trabalha, e não mais?
  • Cada entrada, proposta, aprovação e ação fica registada, e alguém analisa as falhas sem explicação?
  • Foi testado com entradas hostis por alguém que sabe como funcionam as suas defesas, como aconselha o OWASP?6
  • Quem recebe a comunicação de uma falha, e em quanto tempo alguém lhe responde?
  • É possível desligar rapidamente o passo de IA sem parar todo o processo?

O que significa para uma empresa na Europa

Os e-mails, pedidos de suporte e formulários trazem normalmente dados pessoais, por isso o Regulamento Geral sobre a Proteção de Dados (RGPD) aplica-se ao processo que os lê. O seu artigo 25.º pede ao responsável pelo tratamento que aplique ao tratamento as medidas técnicas e organizativas adequadas, tanto no momento de definição dos meios de tratamento como no momento do próprio tratamento.7 Por defeito, só podem ser tratados os dados pessoais necessários para cada finalidade.7 O artigo 32.º pede um nível de segurança adequado ao risco, incluindo a capacidade de assegurar a confidencialidade e a integridade dos sistemas, e um processo para testar, apreciar e avaliar regularmente a eficácia das medidas.7 Entre os riscos a ponderar, refere a divulgação ou o acesso não autorizados a dados pessoais.7 Em nosso entender, as quatro regras acima são o tipo de medidas que estes artigos descrevem. Se bastam para um dado processo, cabe a cada responsável pelo tratamento avaliar.

Próximo passo

Se lhe for útil, teremos todo o gosto em analisar consigo, numa reunião curta, um processo da sua empresa em que a IA lê pedidos recebidos, e naquilo que ela pode fazer nele sozinha. A Solução de IA à medida assenta nas mesmas regras, com as permissões de cada utilizador, uma pessoa que aprova as alterações e o registo de cada passo. O que fizer depois é uma decisão inteiramente sua.

Solução de IA à medida

Fontes

  1. 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Consultada a 17 de novembro de 2026
  2. 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Consultada a 17 de novembro de 2026
  3. 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Consultada a 17 de novembro de 2026
  4. 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Consultada a 17 de novembro de 2026
  5. 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Consultada a 17 de novembro de 2026
  6. 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Consultada a 17 de novembro de 2026
  7. 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Consultada a 17 de novembro de 2026

Histórico de alterações

  1. Publicado.

Vamos falar do seu projeto

Deixe-nos os seus contactos e respondemos-lhe com uma data, de forma gratuita e sem compromisso.

Com o indicativo do país, por exemplo +351.

Usamos os seus dados apenas para lhe responder. Política de privacidade

Protegido pelo Google reCAPTCHA contra envios automáticos. Política de Privacidade da Google (abre numa nova janela) Termos de Utilização da Google (abre numa nova janela)

Ou contacte-nos diretamente

Escreva-nos office@disruptivelab.dev
Ligue-nos +420 777 702 032

A nossa língua de comunicação preferida é o inglês.

Todos os contactos e moradas