Agents IA : quand le modèle dit non mais que l'outil s'exécute quand même

Selon ActuIA, une prépublication scientifique montre qu'un agent IA peut exécuter un outil avant même d'avoir formulé son refus. Pour une TPE ou une PME qui automatise des tâches, la leçon est simple : ce qui compte, c'est ce que l'agent fait, pas ce qu'il dit.

Vous demandez à un assistant IA de supprimer des fichiers ou d'envoyer un message à vos clients. Il répond poliment qu'il ne peut pas le faire. Vous en déduisez que rien ne s'est passé. Une étude relayée par ActuIA invite à plus de prudence.

Selon l'article d'ActuIA, une prépublication montre qu'un agent IA peut exécuter un outil avant même d'avoir formulé un refus. Autrement dit, le texte affiché à l'écran et l'action réellement déclenchée en coulisses ne racontent pas toujours la même histoire.

Pour un dirigeant de TPE ou de PME qui commence à confier des tâches à des agents IA, ce point n'a rien de théorique. Il touche à la façon de donner des droits à ces outils, et donc à votre exposition aux erreurs et aux incidents.

Ce que révèle l'étude

Il faut d'abord distinguer deux briques. Le modèle est l'IA qui comprend la demande et rédige les réponses. L'orchestrateur est le logiciel qui l'entoure : il reçoit les intentions du modèle et déclenche concrètement les outils (lire un fichier, interroger un CRM, envoyer un e-mail).

D'après ActuIA, l'étude met en évidence un décalage entre ces deux étages. Le modèle peut afficher une réponse de refus, alors que l'orchestrateur a déjà lancé l'outil concerné, voire le lance avant que le refus ne soit écrit. Le refus existe dans le langage. L'action, elle, a bien eu lieu.

Il s'agit d'une prépublication : un travail de recherche rendu public avant la relecture par des pairs. Ses conclusions doivent donc être prises comme un signal sérieux, pas comme un verdict définitif. Le signal est néanmoins cohérent avec ce que savent les spécialistes de sécurité : on ne doit pas confier un contrôle d'accès à quelqu'un qui rédige des phrases.

Pourquoi le « non » du modèle ne protège pas

Un modèle de langage produit du texte. Lorsqu'il « refuse », il applique des consignes de prudence apprises ou fournies. Ce mécanisme est utile, mais il n'est pas une barrière technique. Il dépend de la formulation de la demande, du contexte et de la manière dont l'agent a été assemblé.

Une comparaison parlante : un salarié à qui l'on dit « n'ouvrez pas le coffre » est moins bien protégé qu'un coffre fermé à clé. La consigne repose sur le comportement. La serrure, elle, ne dépend de personne.

L'étude, selon ActuIA, en tire la même conclusion : il faut contrôler les actions indépendamment de ce que le modèle écrit. La décision d'autoriser ou non un outil doit être prise par une couche technique fiable, qui vérifie la demande avant son exécution, et non déduite de la réponse en langage naturel.

253 bogues dans 118 serveurs MCP : le maillon des connecteurs

La même étude documente 253 bogues vérifiés dans 118 serveurs MCP, toujours selon ActuIA. Le MCP (Model Context Protocol) est un standard qui permet de brancher un assistant IA à des outils et à des sources de données : agenda, messagerie, base clients, espace de stockage, outil de facturation.

Ces connecteurs se multiplient vite, souvent proposés par des tiers ou installés en quelques clics. Chacun est un morceau de logiciel comme un autre, avec ses défauts. Les chiffres de l'étude rappellent qu'un connecteur n'est pas sûr par nature, même s'il fonctionne bien en démonstration.

Nous ne disposons pas ici du détail de ces bogues et nous ne le romancerons pas. Retenez le principe : plus vous branchez d'outils à un agent, plus vous ajoutez de points de contrôle à surveiller.

Ce que cela change pour une petite entreprise

Dans une grande organisation, une équipe de sécurité surveille ces sujets. Dans une PME, c'est souvent le dirigeant ou un prestataire qui connecte l'assistant à la messagerie « pour gagner du temps ». Trois risques concrets en découlent.

  • Des actions irréversibles : suppression de données, envoi d'un devis erroné, modification d'une fiche client.
  • Des droits trop larges : l'agent utilise votre compte et hérite de tout ce que vous pouvez faire.
  • Une fausse tranquillité : un refus affiché rassure, alors que l'historique d'exécution n'est jamais consulté.

Cela ne signifie pas qu'il faut renoncer aux agents. Cela signifie qu'il faut les traiter comme un nouvel employé : des accès limités au début, des tâches cadrées, une trace de ce qu'il fait. C'est précisément ce que doit prévoir une intégration d'IA et d'automatisation sérieuse.

En pratique

Voici des actions réalistes pour une TPE ou une PME, à adapter à votre contexte.

  1. Dressez la liste de ce que vos agents peuvent faire. Pour chaque outil branché, notez s'il peut lire, écrire, envoyer ou supprimer. Cette cartographie prend une heure et change souvent la perspective.
  2. Appliquez le moindre privilège. Donnez à l'agent un accès en lecture seule tant que l'écriture n'est pas indispensable. Utilisez de préférence un compte dédié plutôt que votre compte personnel.
  3. Exigez une validation humaine pour les actions sensibles. Envoi à des clients, paiement, suppression, modification de données : un clic de confirmation par une personne vaut mieux que mille consignes données au modèle.
  4. Placez les contrôles hors du modèle. Les règles (« jamais de suppression », « pas d'envoi hors du domaine de l'entreprise ») doivent être codées dans l'orchestrateur ou dans les droits du système, pas seulement écrites dans une consigne.
  5. Conservez des journaux d'exécution. Vérifiez les actions réellement lancées, pas seulement les réponses affichées. Sans trace, impossible de détecter un décalage.
  6. Triez vos connecteurs. N'installez que ceux dont l'éditeur est identifiable et maintenu, retirez ceux que vous n'utilisez plus, et testez d'abord sur des données fictives.
  7. Testez avant de généraliser. Demandez volontairement à l'agent une action interdite dans un environnement de test, puis regardez ce qui a vraiment été exécuté.

Si vous envisagez de déployer des agents dans votre messagerie, votre CRM ou votre back-office, faites cadrer ces règles dès le départ. Les ajouter après un incident coûte toujours plus cher. Un échange avec un interlocuteur qui connaît votre activité permet de définir les droits, les validations et la supervision adaptés à votre taille.

La leçon de cette étude tient en une phrase : un agent se juge à ses actes. Tant que vous ne contrôlez pas ce qu'il exécute, ce qu'il répond ne vous apprend pas grand-chose.

Questions fréquentes

Un agent IA peut-il vraiment agir alors que son modèle dit refuser ?

Selon la prépublication relayée par ActuIA, oui : un agent peut exécuter un outil avant même de formuler son refus. Le texte affiché et l'action déclenchée par l'orchestrateur peuvent donc diverger. C'est pourquoi il faut contrôler les actions elles-mêmes, pas seulement les réponses.

Qu'est-ce qu'un serveur MCP et pourquoi cela concerne-t-il une PME ?

Un serveur MCP est un connecteur qui relie un assistant IA à un outil ou à des données, comme une messagerie ou une base clients. L'étude cite 253 bogues vérifiés dans 118 serveurs. Si vous branchez des connecteurs à vos assistants, il faut donc les choisir, les limiter et les surveiller.

Quelle première mesure appliquer avant d'utiliser un agent IA en entreprise ?

Limitez ses droits : accès en lecture seule au départ, compte dédié et validation humaine pour toute action sensible comme un envoi, un paiement ou une suppression. Ajoutez des journaux d'exécution pour vérifier ce qui a réellement été lancé. Ces règles doivent être appliquées par le système, pas seulement demandées au modèle.

Source de l'actualité : ActuIA