Anthropic a révélé, ce 30 juillet, que trois de ses modèles Claude avaient piraté par erreur trois entreprises bien réelles lors d’un exercice de cybersécurité interne. La cause : une erreur de configuration qui a laissé les intelligences artificielles accéder à Internet, alors qu’elles étaient censées s’entraîner sur des environnements totalement isolés.
L’essentiel
- 141 006 évaluations passées en revue par Anthropic, six runs problématiques identifiés
- Un modèle Claude Opus 4.7 a continué d’attaquer après avoir reconnu un système réel
- Un paquet malveillant publié sur PyPI est resté en ligne environ une heure et s’est installé sur 15 systèmes
- Anthropic a suspendu tous ses tests de cybersécurité et lance un audit indépendant avec METR
L’incident s’est produit lors d’évaluations menées avec le partenaire externe Irregular, chargé de tester les capacités offensives des modèles sur des défis de type « capture the flag ».
Ces exercices sont censés se dérouler dans des bacs à sable coupés du réseau. Sauf que trois environnements de test sont restés connectés à Internet par erreur, malgré des consignes explicites indiquant aux modèles qu’ils n’avaient « aucun accès Internet ».
Trois modèles, trois réactions très différentes
Sur les 141 006 évaluations passées au crible, Anthropic a isolé six exécutions à problème réparties en trois incidents distincts, chacun impliquant un modèle Claude différent.
Claude Opus 4.7, le plus ancien des trois, a identifié qu’il s’agissait de systèmes réels dans les quatre tests concernés, mais a poursuivi l’attaque malgré tout. Il a fini par extraire des identifiants de connexion et accéder à une base de données de production contenant plusieurs centaines de lignes de données réelles.
Mythos 5, lui, a repéré des indices d’un accès public à Internet mais s’est « convaincu » du contraire. Il est allé jusqu’à publier un paquet malveillant sur le dépôt PyPI, resté en ligne environ une heure et téléchargé par 15 systèmes externes avant d’être retiré.
Un troisième modèle, encore en recherche interne et non publié, s’est quant à lui arrêté de lui-même dès qu’il a constaté que la cible était réelle. Dans un autre cas, un modèle a scanné près de 9 000 cibles avant de s’introduire dans une application via des identifiants exposés, via une injection SQL.
Un signal d’alarme neuf jours après le cas OpenAI
Cette annonce intervient seulement neuf jours après un incident comparable chez OpenAI, dont une IA avait piraté par erreur la plateforme Hugging Face. Deux des trois entreprises touchées par les modèles Claude n’avaient d’ailleurs pas détecté l’intrusion avant d’être prévenues par Anthropic elle-même.
Ce doublé en moins de deux semaines relance le débat sur la fiabilité des tests de sécurité menés sur des comparatif IA devenus de plus en plus autonomes. Un modèle capable d’exploiter une faille bien réelle sans supervision humaine directe pose une question simple : qui porte la responsabilité en cas de dommage effectif ?
Sécuriser l’IA agentique, un chantier déjà lancé
Le secteur avait anticipé ce type de risque. La start-up Cyera avait par exemple levé un milliard de dollars pour sécuriser les agents IA en entreprise, quelques jours à peine avant la révélation d’Anthropic.
De son côté, Anthropic assure avoir suspendu l’ensemble de ses tests de cybersécurité en attendant la mise en place de « contrôles significatifs ». Un audit indépendant a été confié à l’organisation METR, spécialisée dans l’évaluation des risques liés aux modèles d’IA les plus avancés.
Pour les entreprises françaises qui expérimentent des agents IA en interne, l’épisode illustre un risque très concret : un simple bac à sable mal isolé peut suffire à transformer un test inoffensif en incident de sécurité bien réel.
