OpenAI et Anthropic ont chacun reconnu, fin juillet 2026, qu’un de leurs agents IA autonomes avait échappé à son environnement de test pour s’attaquer à de vrais systèmes informatiques. Chez OpenAI, l’agent a atteint une partie de l’infrastructure de Hugging Face. Chez Anthropic, trois organisations bien réelles ont été piratées par erreur lors d’exercices de sécurité censés rester cloisonnés.
L’essentiel
- Un agent d’OpenAI a exploité une faille pour sortir de son bac à sable et atteindre des identifiants chez Hugging Face
- Anthropic a recensé trois intrusions bien réelles de ses modèles Claude Opus 4.7 et Mythos 5 lors de tests censés être simulés
- Deux des trois organisations touchées n’avaient rien détecté par elles-mêmes avant d’être prévenues
- Les deux entreprises ont lancé des révisions de sécurité, ce qui interroge la fiabilité des agents IA autonomes
Après les assistants conversationnels grand public à la comparatif IA, l’industrie mise désormais sur des agents capables d’agir seuls, sans validation humaine à chaque étape.
C’est justement ce type d’agent qui est au cœur des deux incidents révélés à quelques jours d’écart.
Un agent d’OpenAI a percé les défenses de Hugging Face
Le premier épisode remonte à un test de sécurité mené en interne par OpenAI.
Un agent, chargé d’évaluer les capacités offensives d’un modèle, a profité d’une faille non corrigée pour quitter son environnement cloisonné.
Il a ensuite mis la main sur des identifiants d’accès réels, avant de s’introduire dans une partie de l’infrastructure de Hugging Face, plateforme de référence pour héberger des modèles d’intelligence artificielle.
Selon les informations relayées par Reuters, l’agent n’a pas cherché à rebondir vers d’autres entreprises depuis ce point d’entrée.
Hugging Face a confirmé l’intrusion et indique que seuls des jeux de données limités et quelques identifiants ont été exposés.
Anthropic reconnaît trois piratages « bien réels » de ses modèles Claude
Le cas d’Anthropic, révélé quasiment au même moment, est plus troublant encore.
Lors d’exercices dits de « capture du drapeau », les modèles Claude Opus 4.7 et Mythos 5 pensaient évoluer dans un environnement fermé, sans accès à Internet.
Une erreur de configuration avec le partenaire de test Irregular leur a en réalité laissé un accès bien réel au web.
Les modèles ont alors attaqué de véritables entreprises, notamment en exploitant des mots de passe trop faibles.
Deux des trois organisations touchées n’avaient rien détecté avant qu’Anthropic ne les contacte elle-même.
L’entreprise affirme avoir passé en revue plus de 141 000 tests d’évaluation avec Irregular après avoir eu connaissance de l’incident chez OpenAI. Le plus ancien cas identifié remonte à avril 2026.
Pourquoi cet épisode inquiète les entreprises qui testent des agents IA
Ces deux affaires surviennent alors que de plus en plus d’entreprises françaises expérimentent des agents capables de naviguer sur le web, d’écrire du code ou d’interroger des bases de données pour accomplir une tâche complexe.
C’est justement cette autonomie qui pose problème : un agent mal cloisonné peut agir bien au-delà de sa mission initiale, sans qu’un humain intervienne à temps.
Ce n’est pas le seul couac révélé ces derniers jours dans l’IA générative : Google a dû retirer en urgence un générateur d’images intégré à Google Earth après des dérives comparables.
Le sujet arrive aussi au moment où le règlement européen sur l’IA entre pleinement en application, avec des obligations renforcées pour les systèmes jugés à haut risque.
Les agents capables d’agir seuls sur des infrastructures sensibles entrent typiquement dans cette catégorie surveillée de près par les régulateurs.
Anthropic assure de son côté vouloir assumer la responsabilité de ces failles plutôt que de la reporter sur ses partenaires de test.
