Saltar para o conteúdo
Disruptive Lab

Guia A IA sob o controlo da empresa

IA no posto de trabalho. O que pode fazer?

Um assistente de IA no computador de um colaborador é tão seguro quanto as permissões que recebe, por isso cabe à empresa, e não a cada utilizador, decidir o que pode ler e fazer.

Publicado
Atualizado
Tempo de leitura
9 min de leitura
Editor
David Lahuta

Em resumo

Os assistentes de IA já trabalham diretamente nos computadores dos colaboradores. A Anthropic lançou um deles, o Claude Cowork, a 12 de janeiro de 2026, com acesso direto aos ficheiros locais.1 Dois dias depois, segundo o seu próprio relato, investigadores da PromptArmor mostraram uma instrução escondida num documento a levá-lo a enviar um ficheiro do utilizador para a conta de um terceiro, sem que em momento algum fosse pedida aprovação.3 A página de segurança do fornecedor divide hoje as ferramentas de um assistente em ferramentas que leem e ferramentas que agem, e diz que o dano depende de ambas.2 Essa divisão é a questão central da política de qualquer empresa. Decida de forma centralizada o que um assistente pode ler, o que pode fazer e que ações esperam sempre por uma pessoa.

O que faz um assistente de IA no computador de um colaborador?

Trabalha como um novo colega a quem se entregou o teclado. Dá-lhe uma tarefa e ele executa os passos sozinho, em vez de apenas responder a uma pergunta.

No lançamento, a Anthropic descreveu o Cowork como uma versão de investigação (research preview) para a aplicação de ambiente de trabalho, que corria numa máquina virtual isolada no computador do utilizador, com acesso direto aos ficheiros locais e às ferramentas ligadas.1 A sua página de segurança enumera hoje o que um assistente destes faz, ou seja, ler ficheiros, navegar na web, executar programas e usar aplicações.2 A mesma página diz que as tarefas correm agora num ambiente isolado e temporário nos servidores do fornecedor e chegam ao computador através da aplicação, apenas nas pastas que o utilizador ligou.2

Há dois pormenores que importam a uma empresa. O isolamento, escreve o fornecedor, limita onde corre o código do assistente, mas não o que ele lê ou faz.2 E as tarefas agendadas correm sozinhas, mesmo com o computador desligado.2

Como é que uma instrução escondida o levou a enviar ficheiros para fora?

Os investigadores da PromptArmor descrevem o caso passo a passo.3

  1. Um utilizador ligou o assistente a uma pasta de ficheiros imobiliários confidenciais, como avaliações e simulações de crédito.
  2. O utilizador carregou um documento que parecia um conjunto de instruções de trabalho para o assistente. Lá dentro, em texto branco sobre página branca e com letra de um ponto, estava uma instrução que ninguém veria.
  3. O utilizador pediu ao assistente que analisasse os ficheiros com essas instruções.
  4. O texto escondido mandava o assistente carregar o maior ficheiro para o serviço de ficheiros do próprio fornecedor, com a chave de conta do atacante. O ambiente do assistente bloqueava a maior parte das ligações ao exterior, mas o serviço do próprio fornecedor era considerado de confiança.
  5. O ficheiro, com valores financeiros e dados pessoais, chegou à conta do atacante.

Os investigadores sublinham que em momento algum foi pedido a uma pessoa que aprovasse fosse o que fosse.3 Escrevem também que a vulnerabilidade subjacente já tinha sido comunicada antes no produto de conversação do fornecedor e reconhecida, mas não corrigida.3

A resposta do fornecedor, tal como os investigadores a citam, foi um aviso de que o produto é uma versão de investigação com riscos próprios e o conselho de não lhe dar acesso a ficheiros locais com informação sensível.3 O mesmo conselho mantém-se hoje na página de segurança do fornecedor, que acrescenta que, apesar das salvaguardas, a probabilidade de um ataque continua a não ser nula.2

Este tipo de ataque tem nome. As instruções escondidas em conteúdo que o assistente lê no decurso de uma tarefa normal chamam-se injeção de prompt (prompt injection).2 O OWASP Top 10 for LLM Applications 2026, a lista da comunidade de segurança com os principais riscos dos modelos de linguagem de IA, coloca-a em primeiro lugar e afirma que hoje não existe forma fiável de a evitar.4

Porque é uma questão de permissões e não de uma ferramenta melhor?

Porque tanto o fornecedor como a comunidade de segurança situam a defesa naquilo que o assistente tem permissão para fazer. O fornecedor escreve que, quando algo corre mal, o dano depende quase por completo do que o assistente consegue ler e ver e do que pode fazer.2 Um ataque deste tipo só resulta quando se verificam duas condições ao mesmo tempo, o assistente lê conteúdo vindo de fora das fontes em que confia e pode executar ações que o prejudiquem.2

O OWASP vai mais longe e aconselha a conceber os sistemas partindo do princípio de que um dia a barreira do modelo será ultrapassada, e a limitar o que o modelo pode fazer para que um truque bem sucedido não se transforme num ataque bem sucedido.4 Indica três condições que, juntas, tornam possível um dano grave, ou seja, acesso a dados privados, conteúdo não fiável e uma via para enviar dados para fora, e diz que eliminar qualquer uma delas elimina essas condições.4

No caso acima estavam presentes as três, uma pasta confidencial, um documento vindo de fora e uma via de saída permitida.3 Um modelo melhor teria reduzido a probabilidade. Permissões mais restritas teriam eliminado uma das três.

Qual é a diferença entre permissões de leitura e permissões de ação?

O fornecedor agrupa as ferramentas de um assistente em dois grupos.2 As ferramentas de leitura deixam-no ver conteúdo, por exemplo uma caixa de correio ou uma captura de ecrã. As ferramentas de escrita deixam-no agir, por exemplo criar um convite no calendário, apagar um ficheiro, executar um comando ou clicar no ecrã. O fornecedor diz que o segundo grupo é, pela sua natureza, o de maior risco.2

O OWASP atribui o excesso de autonomia a três causas, mais funções do que a tarefa exige, permissões mais amplas do que a tarefa exige e demasiada liberdade para agir sem verificação.4 O seu próprio exemplo é um assistente de correio eletrónico que apenas resume mensagens. Precisa de ler o correio, não de o enviar nem de o apagar.4

No nosso entender, as permissões mais comuns e quem deve decidir sobre elas são as seguintes.

Permissão Uso típico O que corre mal quando é demasiado ampla Quem deve decidir
Ler uma pasta documentos de um projeto ou de um departamento o assistente vê salários ou contratos de que não precisa, e qualquer ficheiro pode trazer uma instrução escondida o responsável pelos dados, com a informática
Ler correio e calendário resumos, preparar uma reunião a mensagem de um remetente externo transforma-se numa instrução a informática, por função
Navegar na web pesquisa, preencher formulários qualquer página pode trazer uma instrução escondida a informática
Alterar ou apagar ficheiros arrumar, editar documentos trabalho perdido ou sobrescrito o utilizador, dentro dos limites que a informática define
Enviar, carregar ou publicar e-mails, ligações partilhadas, carregamentos dados da empresa saem da empresa a administração, com execução técnica pela informática
Comprar, pagar ou encomendar compras, reservas dinheiro gasto por instrução de outra pessoa a administração
Acrescentar ferramentas e extensões novas ligações a outros serviços cada uma abre uma nova porta de entrada a informática

Quem decide na empresa?

Não apenas a pessoa que está ao teclado. A página do fornecedor é clara ao dizer que o utilizador continua responsável por cada ação que o assistente executa em seu nome, incluindo mensagens enviadas, compras feitas e dados lidos ou alterados.2 No entanto, muitas das definições que decidem isto estão nas mãos do utilizador, como as pastas ligadas e a frequência com que o assistente pergunta antes de agir.2

Alguns controlos estão, de facto, do lado da empresa. Os titulares dos planos empresariais do fornecedor podem desativar a pesquisa na web, podem enviar um registo da atividade do assistente para as suas próprias ferramentas de monitorização e, no plano Enterprise, podem mandar analisar as novas extensões à procura de conteúdo nocivo no momento da instalação.2

O OWASP acrescenta dois princípios que fazem da decisão uma decisão da empresa.4 As ações executadas em nome de um utilizador devem correr com as permissões desse utilizador e não mais.4 E se uma ação é permitida deve ser decidido por regras fixas no sistema, não pelo próprio modelo de IA.4

No nosso entender, a divisão do trabalho é simples. A administração decide que tipos de ação são permitidos. A informática traduz isso em definições e guarda o registo. O responsável por cada área de dados decide que pastas e caixas de correio um assistente pode ler. O utilizador aprova as ações individuais dentro desses limites.

Que ações esperam sempre por uma pessoa?

O OWASP recomenda que uma pessoa aprove as ações de grande impacto antes de acontecerem.4 Sugere uma abordagem escalonada, em que os passos facilmente reversíveis podem correr sozinhos e os irreversíveis passam por uma pessoa.4

A página do fornecedor aponta no mesmo sentido. O seu assistente pergunta sempre antes de apagar ficheiros de forma permanente, seja qual for o modo em que funciona.2 Aconselha a passar à aprovação manual quando uma tarefa mexe em ficheiros sensíveis, usa uma ferramenta ou um site pela primeira vez, ou quando os erros seriam difíceis de desfazer, como enviar mensagens ou fazer compras.2 No modo que dispensa todas as aprovações, diz, nada verifica as ações do assistente.2

Para a maioria das empresas, uma lista sensata de ações que, por defeito, esperam por aprovação é a seguinte.

  • tudo o que envia dados para fora, como um e-mail, um carregamento, um formulário ou uma publicação
  • apagar ou sobrescrever ficheiros e registos
  • pagamentos, encomendas e compras
  • alterações a dados nos sistemas da empresa
  • a primeira utilização de uma nova ferramenta, extensão ou site
  • tarefas agendadas, que o fornecedor aconselha manter longe de dados sensíveis e de ações difíceis de desfazer2

O que deve constar de uma política da empresa?

Uma ou duas páginas chegam, desde que as definições correspondam ao que lá está escrito.

  • Que assistentes de IA podem correr nos computadores da empresa, e só com contas da empresa?
  • Que pastas pode um assistente ler? O fornecedor sugere uma pasta de trabalho dedicada em vez de um acesso amplo.2
  • Que dados nunca lhe devem chegar, como documentos financeiros, credenciais de acesso e registos pessoais?2
  • Que sites e serviços ligados pode usar?
  • Que ações esperam sempre por uma pessoa, e é a própria definição que o impõe, e não apenas o texto da política?
  • As tarefas agendadas são permitidas, e para quê?
  • Cada passo fica registado num sítio onde a informática o possa consultar mais tarde?
  • O que faz um utilizador quando o assistente vai além da tarefa? O conselho do fornecedor é parar a tarefa de imediato e comunicar o sucedido.2
  • Quem revê a política, e com que frequência?

O que significa para uma empresa na Europa

No caso dos dados pessoais, as permissões dadas a um assistente são também uma questão jurídica. O RGPD exige que, por defeito, só sejam tratados os dados pessoais necessários para cada finalidade, e refere expressamente a acessibilidade desses dados.5 Um assistente ligado a um disco inteiro vê muito mais do que a sua tarefa exige. O RGPD exige também que qualquer pessoa que aja sob a autoridade da empresa e tenha acesso a dados pessoais só os trate por instrução da empresa.5 Permissões definidas de forma centralizada, com cada passo registado, são uma forma prática de demonstrar que assim é.

Próximo passo

Se lhe for útil, podemos reunir-nos brevemente e analisar que pastas e ações um assistente de IA pode usar na sua empresa e quem aprova o quê. A nossa solução de IA à medida funciona da mesma forma, com as permissões de cada utilizador e o registo de cada passo, sob o controlo da sua empresa. O que fizer a seguir é uma decisão inteiramente sua.

Solução de IA à medida

Fontes

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Consultada a 17 de novembro de 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Consultada a 17 de novembro de 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Consultada a 17 de novembro de 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Consultada a 17 de novembro de 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Consultada a 17 de novembro de 2026

Histórico de alterações

  1. Publicado.

Vamos falar do seu projeto

Deixe-nos os seus contactos e respondemos-lhe com uma data, de forma gratuita e sem compromisso.

Com o indicativo do país, por exemplo +351.

Usamos os seus dados apenas para lhe responder. Política de privacidade

Protegido pelo Google reCAPTCHA contra envios automáticos. Política de Privacidade da Google (abre numa nova janela) Termos de Utilização da Google (abre numa nova janela)

Ou contacte-nos diretamente

Escreva-nos office@disruptivelab.dev
Ligue-nos +420 777 702 032

A nossa língua de comunicação preferida é o inglês.

Todos os contactos e moradas