OpenAI a dévoilé mercredi GPT-6 Astra, présenté comme le modèle d’intelligence artificielle le plus intelligent jamais lancé par l’entreprise. Mais sa technique de raisonnement inédite inquiète déjà plusieurs anciens chercheurs en sécurité de l’IA, qui redoutent une perte de contrôle sur ces systèmes.
L’essentiel
- OpenAI lance GPT-6 Astra, son IA la plus avancée, d’abord réservée aux clients de son programme cybersécurité Daybreak
- Le modèle utilise une architecture inédite qui réduit les besoins de calcul de 50 à 90 %
- Cette technique rend une partie du raisonnement de l’IA illisible pour les humains, une « ligne rouge » selon d’anciens chercheurs d’OpenAI
- Déploiement élargi prévu la semaine prochaine sur les offres Pro, Plus, Enterprise et via l’API
Une architecture qui divise par deux les coûts de calcul
Concrètement, Astra repose sur une technique surnommée « récurrence opaque » (ou « looped transformers »). Au lieu de produire un raisonnement lisible étape par étape, comme le font les modèles actuels de comparatif IA, le modèle fait repasser l’information plusieurs fois dans le même bloc de calcul.
Les résultats intermédiaires ne sont plus traduits en texte compréhensible. Ils restent dans une forme purement mathématique, que les chercheurs appellent parfois « neuralais ».
L’avantage est net sur le plan industriel : cette méthode réduirait les besoins en puissance de calcul de 50 à 90 % par rapport à un modèle classique. De quoi faire des économies massives sur les factures d’électricité et de serveurs.
D’anciens chercheurs d’OpenAI dénoncent une « ligne rouge » franchie
Le problème, c’est que cette opacité prive les chercheurs d’un outil clé : l’analyse de la « chaîne de pensée », qui permet aujourd’hui de vérifier ce qu’une IA s’apprête à faire avant qu’elle agisse.
Steven Adler, ancien chercheur sécurité chez OpenAI, ne mâche pas ses mots : « OpenAI semble franchir l’une des rares lignes rouges qui existent dans l’industrie de l’IA », a-t-il déclaré.
Peter Wildeford, cofondateur de l’AI Policy Network, juge la démarche « potentiellement très préoccupante » et « potentiellement irresponsable ». Il rappelle que cette même analyse de la chaîne de pensée avait été essentielle pour comprendre un incident de sécurité survenu en juillet chez Hugging Face.
Daniel Kokotajlo, de l’AI Futures Project, appelle de son côté à des standards communs sur la transparence du raisonnement, valables pour tous les laboratoires d’IA et pas seulement pour OpenAI.
Ce que Astra peut vraiment faire
Au-delà de la controverse, Astra affiche des capacités élargies : automatisation de tâches sur ordinateur et navigateur, ingénierie logicielle avancée, et des fonctions de cybersécurité poussées, notamment l’identification de failles informatiques encore inconnues (les fameuses failles « zero-day »).
Le président d’OpenAI, Greg Brockman, le décrit comme « notre modèle le plus intelligent et, c’est très important, aussi le plus aligné » que l’entreprise ait produit.
Premier accès réservé cette semaine aux clients du programme cybersécurité Daybreak. Le grand public devra patienter jusqu’à la semaine prochaine pour retrouver Astra sur les abonnements Pro, Plus, Enterprise et Business, ainsi que via l’API.
Un sujet qui dépasse OpenAI
Le débat sur la transparence des IA n’est pas propre à OpenAI. Jakub Pachocki, directeur scientifique de l’entreprise, assure que la préservation de la lisibilité du raisonnement reste une priorité : « nous y tenons profondément », a-t-il affirmé, tout en reconnaissant que « la surveillance devient plus difficile à mesure que les capacités des modèles augmentent ».
La question arrive à un moment sensible pour la régulation européenne. La transparence des systèmes d’IA est justement l’un des piliers du règlement européen sur l’intelligence artificielle (AI Act), qui monte en puissance ces prochains mois. Si d’autres laboratoires venaient à adopter des architectures similaires à celle d’Astra, la capacité des régulateurs à auditer ces systèmes pourrait s’en trouver complexifiée.
Source : TechCrunch et Fortune
