Deux millions de secrets piégés dans des prompts : l'inférence fuit
Un chercheur a glissé près de deux millions de secrets traçables dans des prompts envoyés à des fournisseurs d'IA, puis a regardé où ils refaisaient surface. Selon son étude, des prompts ont été volés ou transmis à des tiers, y compris quand ils étaient marqués sans conservation.

Jeudi 19 novembre, le chercheur HD Moore, directeur de la recherche de la société de sécurité Dragos, a publié les résultats d’une expérience qu’Ars Technica a détaillée le lendemain : près de deux millions de prompts envoyés à des fournisseurs d’IA, chacun porteur d’un secret unique et traçable. Tout ce qui suit repose sur cette seule étude, relayée par ce seul média, et se lit donc au conditionnel.
Un canari par prompt
Le protocole est simple. Moore a réuni des clés d’accès AWS, des identifiants fonctionnels rattachés à des comptes AWS vides, des mots de passe pour des services comme SSH, ainsi que des URL, des noms DNS et des références de dépôts git privés, tous uniques. Aucun de ces secrets n’avait jamais servi, et le chercheur contrôlait l’infrastructure qui recevait toute requête les utilisant. Chaque secret a été placé dans un seul prompt, envoyé à un seul fournisseur. Si l’un d’eux réapparaît quelque part, on sait donc exactement par quelle porte il est sorti.
Le terrain d’essai est celui des « routeurs d’IA », aussi appelés passerelles, comme OpenRouter ou Vercel. Ces intermédiaires reçoivent les prompts des applications et les aiguillent vers un moteur d’inférence, selon le prix ou l’adéquation à la tâche. Les prompts sont chiffrés pendant le transport, mais déchiffrés à chaque étape : le routeur lit le texte en clair pour choisir sa destination, puis le transmet, parfois à un autre routeur. Chaque maillon est susceptible de le journaliser et de le conserver aussi longtemps que sa politique le prévoit.
Trois fournisseurs compromis, selon l’étude
Les canaris ont chanté. D’après Moore, au moins trois fournisseurs auraient été compromis par des attaquants qui profitaient de leur accès pour siphonner les prompts reçus. Plusieurs revendeurs auraient par ailleurs journalisé des prompts qui ont fini, d’une manière non expliquée, entre les mains de personnes ayant utilisé les identifiants. Enfin, plusieurs fournisseurs n’auraient pas respecté les réglages de confidentialité joints aux requêtes, comme le Zero Data Retention (ZDR), censé garantir l’absence de conservation.
Sur l’une des trois compromissions, les attaquants auraient réutilisé quelques centaines de clés AWS, toutes envoyées durant de courtes fenêtres fin octobre, et toutes les requêtes émises pendant ces fenêtres auraient été dérobées. Certaines clés volées provenaient de requêtes que le fournisseur avait rejetées avant même qu’un modèle ne tourne : Moore en déduit que la copie se faisait à l’entrée du service, pas dans les profondeurs de la pile d’inférence. Dans les deux autres cas, des requêtes marquées ZDR figuraient parmi le butin. Les clés ont ensuite été testées, parfois dans les heures qui suivaient leur envoi.
OpenRouter retire une étiquette
L’étude a déjà eu une suite. Selon une mise à jour d’Ars Technica datée du 21 novembre, qui s’appuie sur des messages publiés sur Hacker News et X, OpenRouter aurait écrit à ses clients pour les prévenir que certains de leurs prompts ont pu être lus. Le routeur y citerait l’étude et situerait l’exposition potentielle du côté des prompts envoyés à MiniMax, fournisseur de modèles basé en Chine. Les URL piégées auraient été consultées que les prompts lui parviennent directement ou par trois revendeurs : AtlasCloud, Novita et StreamLake. OpenRouter a retiré la mention « Zero Data Retention » des points d’accès aux modèles MiniMax.
Un drapeau n’est pas un coffre
L’expérience ne dit pas que tous les fournisseurs fuient. Elle montre qu’un réglage de confidentialité est une demande polie adressée à chaque maillon, et que la garantie vaut ce que vaut le moins rigoureux d’entre eux. Si vos prompts contiennent des clés, des mots de passe ou des adresses internes, ils sont lus en clair à chaque étape par des acteurs que vous n’avez pas forcément choisis.
Le ZDR promettait que rien ne serait conservé. Il n’avait rien prévu pour le cas où quelqu’un d’autre prenait des notes.
Sources (1)
Article rédigé avec l'assistance d'une IA à partir des sources citées, puis relu et validé avant publication par Sébastien Soulier.


