Vous utilisez ChatGPT, un assistant IA intégré à votre site ou un outil d'automatisation branché sur une IA ? Alors vous avez peut-être, sans le savoir, créé de nouvelles portes d'entrée pour les pirates. Selon Numerama, un analyste de Google a alerté fin septembre sur l'essor du « LLM-jacking ».
Le principe : des pirates s'emparent d'accès à des services d'intelligence artificielle qui ne leur appartiennent pas. D'après Numerama, deux scénarios se détachent : la revente de comptes d'IA volés à prix cassés, et le détournement discret de serveurs cloud.
Ce n'est pas un sujet réservé aux grands groupes. Dès qu'une entreprise paie un abonnement IA ou héberge des outils dans le cloud, elle peut être une cible. Voyons ce que recouvre cette menace, et comment la réduire sans y consacrer un budget démesuré.
Que signifie LLM-jacking ?
LLM désigne les grands modèles de langage, c'est-à-dire le moteur des IA conversationnelles. Le terme « jacking » vient de « hijacking », détournement en anglais. Le LLM-jacking consiste donc à détourner l'usage d'une IA payée par quelqu'un d'autre.
Pour y parvenir, un pirate a besoin d'un accès. Il peut s'agir :
- d'un identifiant et d'un mot de passe de compte IA, obtenus par hameçonnage ou récupérés dans une fuite de données ;
- d'une clé d'accès (clé d'API), la sorte de « mot de passe » qu'un logiciel utilise pour appeler une IA ;
- d'un accès à un compte cloud, où l'IA peut être utilisée sur des serveurs facturés à l'entreprise.
Une fois l'accès en main, le pirate consomme la puissance de calcul de sa victime ou revend l'accès à d'autres personnes. C'est le premier scénario évoqué par Numerama : des comptes volés, proposés à bas prix.
Pourquoi une petite entreprise est concernée
On pense d'abord aux risques de fuite de données. Le LLM-jacking pose un problème différent : celui de la facture et de la maîtrise de vos outils.
Une consommation que vous payez sans l'avoir décidée
Les services d'IA sont souvent facturés à l'usage. Si quelqu'un utilise votre clé d'API à votre place, la consommation s'ajoute à votre compte. Le détournement de serveurs cloud, second scénario mis en avant, suit la même logique : la puissance de calcul est mobilisée pour d'autres, et c'est vous qui en supportez le coût. Le montant dépend évidemment de l'outil et de votre contrat, et nous ne pouvons pas le chiffrer de manière générale.
Un risque discret
Le mot « discret » compte. Un détournement bien mené ne bloque rien chez vous. Votre site fonctionne, votre assistant répond. Vous ne le découvrez qu'à la réception d'une facture inhabituelle, ou jamais si personne ne surveille.
Des accès souvent mal protégés dans les petites structures
Dans une TPE, il est fréquent qu'un même compte soit partagé entre plusieurs personnes, que le mot de passe circule par e-mail ou messagerie, ou qu'une clé d'API soit copiée dans un document, un fichier de configuration ou un outil no-code, sans que personne ne sache où elle se trouve. Ce sont précisément les failles que ces pirates recherchent. Un ancien prestataire ou un ex-salarié peut aussi conserver un accès resté actif.
Les signes qui doivent vous alerter
Sans être technicien, vous pouvez repérer quelques signaux :
- une hausse de facture inexpliquée chez un fournisseur d'IA ou d'hébergement cloud ;
- des connexions à des horaires ou depuis des pays qui ne correspondent pas à votre activité ;
- un quota de votre abonnement IA épuisé alors que vos équipes ne l'ont pas utilisé ;
- un e-mail de votre fournisseur signalant une activité suspecte ou une nouvelle connexion ;
- un mot de passe qui ne fonctionne soudainement plus.
Aucun de ces signes ne prouve à lui seul un détournement. Mais chacun mérite une vérification rapide, plutôt qu'un haussement d'épaules.
Faut-il renoncer à l'IA pour autant ?
Non. Le risque ne vient pas de l'IA en elle-même, mais de la manière dont les accès sont gérés. C'est le même constat que pour n'importe quel logiciel en ligne : un compte mal protégé est une invitation. Ce qui change, c'est que l'IA est facturée à l'usage et qu'elle a de la valeur sur le marché noir, ce qui motive les pirates.
Dans un projet d'automatisation ou d'intégration d'IA, la sécurité des accès doit donc être pensée dès le départ, pas ajoutée après coup. C'est un point que nous abordons systématiquement dans nos missions d'intégration d'IA et d'automatisation.
En pratique
Voici les actions à mener, par ordre de priorité, sans compétence technique particulière pour la plupart d'entre elles.
- Faites l'inventaire de vos outils d'IA. Listez les abonnements, les comptes et les services connectés à une IA (site, CRM, messagerie, automatisations). Notez qui y a accès. Vous protégez mal ce que vous ne connaissez pas.
- Activez la double authentification sur tous les comptes IA, cloud et d'hébergement. C'est la mesure la plus efficace contre le vol d'identifiants.
- Un compte par personne. Évitez les identifiants partagés. Utilisez un gestionnaire de mots de passe plutôt que les messageries ou les tableurs.
- Protégez vos clés d'API. Elles ne doivent figurer ni dans un e-mail, ni dans un document partagé, ni dans un code public. Utilisez une clé distincte par projet, afin de pouvoir en révoquer une sans tout interrompre. Changez-les si une personne qui les connaissait quitte l'entreprise.
- Posez des limites de dépense et des alertes. La plupart des fournisseurs permettent de plafonner la consommation ou d'être prévenu au-delà d'un seuil. Vérifiez cette option dans votre espace de facturation.
- Consultez les factures chaque mois. Une ligne de consommation inhabituelle est souvent le premier indice.
- Supprimez les accès inutiles. Ancien prestataire, stagiaire parti, outil testé puis oublié : fermez ce qui ne sert plus.
- Prévoyez une conduite à tenir. En cas de doute : changer les mots de passe, révoquer les clés, contacter le fournisseur, puis vérifier la facturation. Si des données personnelles sont concernées, rapprochez-vous de la personne qui s'occupe de la conformité chez vous ou d'un conseil spécialisé.
Si vous avez déployé des outils sur mesure ou des automatisations, demandez à votre prestataire où sont stockées les clés et qui peut les consulter. Un accompagnement de type conseil et audit numérique permet aussi de dresser cet état des lieux en quelques jours.
Le LLM-jacking illustre une règle simple : chaque nouvel outil connecté est un accès à surveiller. Quelques réflexes, appliqués régulièrement, suffisent à écarter la plupart des tentatives opportunistes.