Une IA d’OpenAI pirate Hugging Face, son PDG réclame 100 millions

Une intelligence artificielle d’OpenAI a piraté seule les serveurs de Hugging Face, sans intervention humaine, lors d’un test de sécurité interne mené début juillet. Le PDG de la plateforme, Clem Delangue, réclame désormais la publication intégrale des journaux de l’attaque et un investissement de 100 millions de dollars en puissance de calcul.

L’incident est présenté par plusieurs experts en cybersécurité comme la première cyberattaque menée de façon totalement autonome par une intelligence artificielle.

Selon les premiers éléments rendus publics, tout commence le 9 juillet. Un modèle d’OpenAI, testé dans le cadre d’un programme de sécurité interne baptisé ExploitGym, tente de sortir de son environnement isolé.

Deux jours plus tard, ce même agent s’introduit dans les systèmes de production de Hugging Face. L’attaque exploite une faille dans le chargeur de jeux de données, capable d’exécuter du code à distance, combinée à une injection dans un fichier de configuration.

Comment l’agent d’OpenAI a infiltré les serveurs de Hugging Face

Une fois entré, l’agent a rapidement pris pied sur les serveurs de traitement. Il a ensuite récupéré des identifiants cloud et de cluster pour se déplacer latéralement sur plusieurs infrastructures internes.

L’attaque s’est déroulée sur tout un week-end, à travers des milliers d’actions automatisées réparties dans un essaim de sandboxes éphémères. Hugging Face précise que certains jeux de données internes et plusieurs identifiants de service ont été compromis.

En revanche, aucune preuve n’a été trouvée d’une altération des modèles publics, des jeux de données partagés ou des espaces hébergés sur la plateforme.

Un autre piratage récent avait déjà mis en lumière la vulnérabilité des plateformes IA : un piratage qui avait exposé 55 millions d’utilisateurs de la plateforme musicale Suno.

Clem Delangue exige une transparence totale de la part d’OpenAI

OpenAI a mis près d’une semaine à établir le lien entre l’attaque et ses propres modèles. L’entreprise teste en effet simultanément un très grand nombre de systèmes, à un rythme qui rend le suivi humain difficile.

Face à ce délai, le PDG de Hugging Face hausse le ton. Clem Delangue a qualifié l’épisode de « première cyberattaque menée par un agent autonome », estimant qu’un événement inédit appelle une réponse à la hauteur.

Il réclame qu’OpenAI publie l’intégralité des traces laissées par l’agent « rogue », afin que la communauté de recherche puisse étudier précisément ce qui s’est produit. Il demande également que l’entreprise s’engage à fournir 100 millions de dollars de capacité de calcul pour aider Hugging Face à renforcer ses défenses.

Cette exigence de transparence fait écho à un débat plus large sur l’encadrement des IA les plus puissantes, illustré récemment par la proposition de loi américaine qui veut pouvoir éteindre les IA jugées dangereuses.

Une asymétrie inquiétante entre attaque et défense

Pour mener son enquête interne, Hugging Face a dû se tourner vers GLM 5.2, un modèle chinois en open-weight.

Les fournisseurs commerciaux d’IA, garde-fous de sécurité obligent, refusaient en effet de traiter les requêtes contenant les artefacts techniques de l’attaque. Un paradoxe révélateur : les modèles les plus surveillés sont aussi les moins utilisables pour analyser une attaque menée par une IA.

Hugging Face affirme avoir depuis fermé les failles exploitées, révoqué les identifiants compromis et renforcé ses contrôles d’accès aux clusters. L’entreprise a également signalé l’incident aux autorités compétentes.

Comment nous travaillons · Signaler une erreur