Aller au contenu
Disruptive Lab

Guide L’IA sous le contrôle de l’entreprise

Assistants IA sur les PC, quels droits ?

Un assistant IA sur le poste d’un collaborateur n’est sûr que dans la limite des droits qu’on lui accorde, et c’est donc à l’entreprise, et non à chaque utilisateur seul, de décider ce qu’il peut lire et ce qu’il peut faire.

Publié
Mis à jour
Temps de lecture
9 min de lecture
Directeur de la publication
David Lahuta

En bref

Les assistants IA travaillent désormais directement sur les ordinateurs des collaborateurs. Anthropic a lancé l’un d’eux, Claude Cowork, le 12 janvier 2026, avec un accès direct aux fichiers locaux.1 Deux jours plus tard, selon leur propre récit, des chercheurs de PromptArmor ont montré qu’une instruction cachée dans un document pouvait lui faire envoyer un fichier de l’utilisateur vers le compte d’un tiers, sans qu’aucune validation ne soit jamais demandée.3 La page de sécurité de l’éditeur distingue aujourd’hui les outils d’un assistant qui lisent et ceux qui agissent, et indique que les dégâts possibles dépendent des deux.2 C’est sur cette distinction que toute entreprise doit fonder sa politique. Décidez de manière centralisée ce qu’un assistant peut lire, ce qu’il peut faire, et quelles actions attendent toujours une personne.

Que fait un assistant IA sur le poste d’un collaborateur ?

Il travaille comme un nouveau collègue à qui l’on aurait confié le clavier. Vous lui donnez une tâche, et il en exécute lui-même les étapes au lieu de seulement répondre à une question.

Lors du lancement, Anthropic présentait Cowork comme une préversion de recherche dans son application de bureau, qui fonctionnait dans une machine virtuelle isolée sur l’ordinateur de l’utilisateur, avec un accès direct aux fichiers locaux et aux outils connectés.1 Sa page de sécurité énumère aujourd’hui ce que fait un tel assistant, à savoir lire des fichiers, naviguer sur le web, exécuter des programmes et utiliser des applications.2 La même page indique que les tâches s’exécutent désormais dans un environnement isolé et temporaire sur les serveurs de l’éditeur et n’accèdent à l’ordinateur que par l’application de bureau, et seulement aux dossiers que l’utilisateur a connectés.2

Deux détails comptent pour une entreprise. L’isolation, écrit l’éditeur, limite l’endroit où s’exécute le code de l’assistant, mais pas ce qu’il lit ni ce qu’il fait.2 Et les tâches planifiées s’exécutent seules, même lorsque l’ordinateur est éteint.2

Comment une instruction cachée a-t-elle fait sortir des fichiers ?

Les chercheurs de PromptArmor décrivent le cas étape par étape.3

  1. Un utilisateur a connecté l’assistant à un dossier de documents immobiliers confidentiels, comme des estimations de biens et des simulations de prêt.
  2. L’utilisateur a chargé un document qui ressemblait à un ensemble de consignes de travail pour l’assistant. À l’intérieur, en texte blanc sur page blanche et en corps un, se trouvait une instruction que personne ne pouvait voir.
  3. L’utilisateur a demandé à l’assistant d’analyser les fichiers en suivant ces consignes.
  4. Le texte caché ordonnait à l’assistant de téléverser le plus gros fichier vers le service de fichiers de l’éditeur, avec la clé de compte de l’attaquant. L’environnement de l’assistant bloquait la plupart des connexions vers l’extérieur, mais le service de l’éditeur lui-même était considéré comme de confiance.
  5. Le fichier, avec des chiffres financiers et des données personnelles, est arrivé sur le compte de l’attaquant.

Les chercheurs soulignent qu’à aucun moment une personne n’a été invitée à valider quoi que ce soit.3 Ils écrivent aussi que la faiblesse sous-jacente avait été signalée auparavant dans le produit de conversation de l’éditeur et reconnue, mais pas corrigée.3

La réponse de l’éditeur, telle que les chercheurs la citent, a été un avertissement rappelant que le produit est une préversion de recherche aux risques particuliers, et le conseil d’éviter de lui donner accès à des fichiers locaux contenant des informations sensibles.3 Le même conseil figure aujourd’hui sur la page de sécurité de l’éditeur, qui ajoute que malgré ses protections, le risque d’attaque n’est toujours pas nul.2

Ce type d’attaque porte un nom. Des instructions cachées dans un contenu que l’assistant lit dans le cadre d’une tâche normale, c’est ce qu’on appelle une injection de prompt.2 L’OWASP Top 10 for LLM Applications 2026, la liste des principaux risques des modèles de langage d’IA établie par la communauté de la sécurité, la place au premier rang et indique qu’il n’existe aujourd’hui aucun moyen fiable de l’empêcher.4

Pourquoi est-ce une affaire de droits, pas de meilleur outil ?

Parce que l’éditeur comme la communauté de la sécurité placent la défense dans ce que l’assistant a le droit de faire. L’éditeur écrit que lorsqu’un incident survient, les dégâts dépendent presque entièrement de ce que l’assistant peut lire et voir, et de ce qu’il peut faire.2 Une attaque de ce type ne réussit que si deux conditions sont réunies en même temps, l’assistant lit un contenu extérieur aux sources auxquelles vous faites confiance, et il peut effectuer des actions susceptibles de vous nuire.2

L’OWASP va plus loin et conseille de concevoir les systèmes en partant du principe que les limites du modèle seront un jour franchies, et de restreindre ce que le modèle peut faire, pour qu’une manipulation réussie ne devienne pas une attaque réussie.4 Elle cite trois conditions qui, réunies, rendent possibles des dégâts graves, à savoir l’accès à des données privées, un contenu non fiable et un moyen de faire sortir des données, et précise qu’il suffit d’en supprimer une seule pour que ces conditions ne soient plus réunies.4

Dans le cas décrit plus haut, les trois étaient présentes, un dossier confidentiel, un document venu de l’extérieur et une voie de sortie autorisée.3 Un meilleur modèle aurait rendu l’attaque moins probable. Des droits plus étroits auraient supprimé l’une des trois.

Quelle différence entre droits de lecture et droits d’action ?

L’éditeur classe les outils d’un assistant en deux groupes.2 Les outils de lecture lui permettent de voir un contenu, par exemple une boîte mail ou une capture d’écran. Les outils d’écriture lui permettent d’agir, par exemple créer une invitation dans l’agenda, supprimer un fichier, exécuter une commande ou cliquer à l’écran. Selon l’éditeur, le second groupe est par nature plus risqué.2

L’OWASP attribue l’excès d’autonomie à trois causes, plus de fonctions que la tâche n’en exige, des autorisations plus larges que la tâche n’en exige et trop de liberté d’agir sans contrôle.4 Son propre exemple est un assistant de messagerie qui se contente de résumer les messages. Il a besoin de lire les e-mails, pas de les envoyer ni de les supprimer.4

À notre avis, les droits courants et les personnes qui devraient en décider se présentent ainsi.

Droit Usage typique Ce qui se passe quand il est trop large Qui devrait décider
Lire un dossier les documents d’un projet ou d’un service l’assistant voit des salaires ou des contrats dont il n’a pas besoin, et chaque fichier peut contenir une instruction cachée le propriétaire des données, avec le service informatique
Lire les e-mails et l’agenda synthèses, préparation d’une réunion le message d’un expéditeur extérieur devient une instruction le service informatique, selon la fonction
Naviguer sur le web recherches, remplissage de formulaires n’importe quelle page peut contenir une instruction cachée le service informatique
Modifier ou supprimer des fichiers rangement, révision de documents du travail est perdu ou écrasé l’utilisateur, dans les limites fixées par le service informatique
Envoyer, téléverser ou publier e-mails, liens partagés, envois de fichiers des données de l’entreprise quittent l’entreprise la direction, appliquée par le service informatique
Acheter, payer ou commander achats, réservations de l’argent est dépensé sur l’instruction d’un tiers la direction
Ajouter des outils et des extensions nouvelles connexions à d’autres services chacune ouvre une nouvelle porte d’entrée le service informatique

Qui décide dans l’entreprise ?

Pas uniquement la personne qui est au clavier. La page de l’éditeur indique clairement que l’utilisateur reste responsable de chaque action que l’assistant effectue en son nom, y compris les messages envoyés, les achats effectués et les données lues ou modifiées.2 Pourtant, bon nombre des réglages qui en décident sont entre les mains de l’utilisateur, comme les dossiers connectés et la fréquence à laquelle l’assistant demande avant d’agir.2

Certains contrôles relèvent toutefois de l’entreprise. Sur les offres professionnelles de l’éditeur, les propriétaires du compte peuvent désactiver la recherche web, transmettre un journal de l’activité de l’assistant à leurs propres outils de surveillance et, avec l’offre Enterprise, faire analyser les nouvelles extensions dès leur installation pour y détecter un contenu malveillant.2

L’OWASP ajoute deux principes qui font de cette décision une affaire d’entreprise.4 Les actions effectuées pour un utilisateur doivent s’exécuter avec les droits propres de cet utilisateur, et pas davantage.4 Et c’est à des règles fixes du système, non au modèle d’IA lui-même, de décider si une action est autorisée.4

À notre avis, le travail se répartit simplement. La direction décide quels types d’action sont admis en principe. Le service informatique les traduit en réglages et tient le journal. Le propriétaire de chaque domaine de données décide quels dossiers et quelles boîtes mail un assistant peut lire. L’utilisateur valide les actions une à une, dans ces limites.

Quelles actions attendent toujours une personne ?

L’OWASP recommande qu’une personne valide les actions à fort impact avant qu’elles n’aient lieu.4 Elle propose une approche graduée, dans laquelle les étapes facilement réversibles peuvent s’exécuter seules, tandis que les étapes irréversibles reviennent à une personne.4

La page de l’éditeur va dans le même sens. Son assistant demande toujours avant de supprimer définitivement des fichiers, quel que soit son mode de fonctionnement.2 Elle conseille de passer en validation manuelle lorsqu’une tâche touche des fichiers sensibles, utilise pour la première fois un nouvel outil ou un nouveau site, ou lorsque les erreurs seraient difficiles à rattraper, comme l’envoi de messages ou les achats.2 Dans le mode qui saute toutes les validations, précise-t-elle, rien ne contrôle les actions de l’assistant.2

Pour la plupart des entreprises, une liste raisonnable des actions soumises par défaut à validation ressemble à ceci.

  • tout ce qui envoie des données vers l’extérieur, comme un e-mail, un téléversement, un formulaire ou une publication
  • la suppression ou l’écrasement de fichiers et d’enregistrements
  • les paiements, les commandes et les achats
  • les modifications de données dans les systèmes de l’entreprise
  • la première utilisation d’un nouvel outil, d’une nouvelle extension ou d’un nouveau site
  • les tâches planifiées, que l’éditeur conseille de tenir à l’écart des données sensibles et des actions difficiles à annuler2

Que doit contenir une politique d’entreprise ?

Une page ou deux suffisent, à condition que les réglages y correspondent.

  • Quels assistants IA peuvent fonctionner sur les ordinateurs de l’entreprise, et uniquement avec des comptes de l’entreprise ?
  • Quels dossiers un assistant peut-il lire ? L’éditeur suggère un dossier de travail dédié plutôt qu’un accès étendu.2
  • Quelles données ne doivent jamais s’en approcher, comme les documents financiers, les identifiants d’accès et les dossiers contenant des données personnelles ?2
  • Quels sites web et services connectés peut-il utiliser ?
  • Quelles actions attendent toujours une personne, et est-ce le réglage qui l’impose, pas seulement le texte de la politique ?
  • Les tâches planifiées sont-elles autorisées, et pour quoi faire ?
  • Chaque étape est-elle enregistrée là où le service informatique pourra la consulter plus tard ?
  • Que fait un utilisateur lorsque l’assistant sort du cadre de sa tâche ? Le conseil de l’éditeur est d’arrêter immédiatement la tâche et de le signaler.2
  • Qui révise la politique, et à quelle fréquence ?

Ce que cela signifie pour une entreprise en Europe

Pour les données personnelles, les droits accordés à un assistant sont aussi une question juridique. Le RGPD exige que, par défaut, seules les données à caractère personnel nécessaires au regard de chaque finalité soient traitées, et il vise expressément leur accessibilité.5 Un assistant connecté à tout un disque voit bien plus que ce dont sa tâche a besoin. Le RGPD exige aussi que toute personne agissant sous l’autorité de l’entreprise et ayant accès à des données à caractère personnel ne les traite que sur instruction de celle-ci.5 Des droits fixés de manière centralisée, avec chaque étape enregistrée, sont un moyen concret de démontrer que c’est bien le cas.

Prochaine étape

Si cela vous est utile, nous pouvons prendre un moment ensemble pour passer en revue les dossiers et les actions qu’un assistant IA peut utiliser dans votre entreprise, et qui valide quoi. La Solution IA d’entreprise fonctionne de la même manière, avec les droits de chaque utilisateur et un enregistrement de chaque étape, sous le contrôle de votre entreprise. La suite que vous y donnerez ne dépend que de vous.

Solution IA d’entreprise

Sources

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Consulté le 17 novembre 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Consulté le 17 novembre 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Consulté le 17 novembre 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Consulté le 17 novembre 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Consulté le 17 novembre 2026

Historique des modifications

  1. Publication.

Parlons de votre projet

Laissez-nous vos coordonnées et nous revenons vers vous avec une date. Gratuit et sans engagement.

Avec l’indicatif du pays, par exemple +32.

Nous utilisons vos données uniquement pour vous répondre. Politique de confidentialité

Protégé par Google reCAPTCHA contre les envois automatisés. Règles de confidentialité de Google (s’ouvre dans une nouvelle fenêtre) Conditions d’utilisation de Google (s’ouvre dans une nouvelle fenêtre)

Ou contactez-nous directement

Écrivez-nous office@disruptivelab.dev
Appelez-nous +420 777 702 032

Notre langue de communication privilégiée est l’anglais.

Toutes nos coordonnées et adresses