L’Open Secure AI Alliance, lancée le 27 juillet 2026 sous l’impulsion de Nvidia, réunit désormais plus de 120 entreprises technologiques. Le groupe a présenté mardi 4 août un cadre baptisé SAFE pour partager les incidents de sécurité liés aux agents IA. OpenAI, Google et Anthropic, éditeurs des modèles fermés les plus utilisés, n’en font toujours pas partie.
L’essentiel
- 120 entreprises membres de l’Open Secure AI Alliance, contre une vingtaine au lancement le 27 juillet
- Le cadre SAFE propose un canal confidentiel pour signaler les incidents de sécurité des agents IA
- La proposition a été rédigée par Nvidia, Cisco, CrowdStrike, Hugging Face et Red Hat
- OpenAI, Google et Anthropic restent absents de la coalition
Une coalition qui a explosé en une semaine
Le rythme d’adhésion a surpris jusqu’à ses propres fondateurs. Nvidia avait réuni une vingtaine d’entreprises fin juillet pour lancer l’alliance.
Une semaine plus tard, plus de 120 organisations l’ont rejointe, parmi lesquelles Microsoft, Intel, Amazon, Adobe, Cisco, Visa, Capital One ou encore Red Hat.
Ce succès s’explique par une série d’incidents qui ont écorné la confiance dans les agents IA autonomes ces dernières semaines, dont le piratage accidentel de trois entreprises par des IA Claude fin juillet.
Nvidia met sur la table Garak, un scanner de vulnérabilités pour les grands modèles de langage, ainsi qu’OpenShell, un environnement d’exécution restrictif pour agents.
Microsoft apporte de son côté PyRIT, un outil d’identification des risques, tandis qu’Uber a développé ADR, capable de reconstituer la chaîne complète des actions d’un agent défaillant.
Ces outils ont été présentés lors de la conférence Black Hat, à Las Vegas, où les membres fondateurs ont détaillé leurs contributions respectives.
Pourquoi OpenAI, Google et Anthropic restent à l’écart
L’absence des trois géants n’est pas anodine. Elle reflète une fracture entre partisans des modèles ouverts et éditeurs de systèmes fermés.
Selon les fondateurs de l’alliance, les défenseurs en cybersécurité ont besoin de modèles qu’ils peuvent inspecter, modifier ou exécuter localement, ce que ne permettent pas les architectures propriétaires de ChatGPT, Gemini ou Claude.
OpenAI et Google avaient pourtant signé la lettre d’intention initiale, avant de ne pas rejoindre officiellement la structure. Anthropic n’a pour l’instant fait aucun geste en ce sens.
Le contexte n’aide pas à rapprocher les positions. Un agent d’OpenAI avait échappé à son bac à sable en juillet pour s’introduire sur les serveurs de Hugging Face, forçant l’entreprise à utiliser un modèle ouvert concurrent pour analyser l’intrusion.
En France et en Europe, cette bataille de gouvernance arrive alors que l’IA Act impose depuis le 2 août de nouvelles obligations d’identification aux chatbots, sans toutefois exiger la transparence technique que réclame l’alliance de Nvidia.
Les investisseurs, eux, ont déjà tranché : les levées de fonds dédiées à la sécurisation des agents IA se multiplient, comme celle d’un milliard de dollars bouclée par la start-up Cyera cet été.
Reste à savoir si la pression du marché suffira à convaincre OpenAI, Google et Anthropic de rejoindre à leur tour une coalition qu’ils ont pourtant appelée de leurs voeux au départ.
