Anthropic a testé un système d’intelligence artificielle capable de mener seul des recherches sur la sécurité de ses propres modèles. Baptisé AAR, il a comblé 85 % de l’écart de sécurité sur un test de détection de tromperie, en moins de six heures et pour une fraction du coût d’un chercheur humain.
L’essentiel
- Anthropic a automatisé une partie de sa recherche sur l’alignement de l’IA, le travail qui vise à rendre un modèle sûr et fiable
- Le système AAR coûte environ 3,70 euros de l’heure, contre 140 euros pour un chercheur expérimenté
- Il a comblé 85 % de l’écart de sécurité sur un test de détection de tromperie, en moins de six heures
- La méthode reste limitée à 10 catégories de tests et suscite le scepticisme d’une partie des chercheurs
Le résultat est signé Chen Yueh-Han, chercheur chez Anthropic, dans un article publié cette semaine et repéré par TechCrunch. Son équipe a mis au point un « Automated Alignment Researcher » (AAR), un système qui reproduit la méthode d’un chercheur humain : il éplucher la littérature scientifique, propose des pistes, puis entraîne et teste des modèles pour vérifier si elles fonctionnent.
Comment cette IA a surpassé des chercheurs humains
Sur les dix catégories de tests d’alignement passées en revue, l’AAR a amélioré les performances à chaque fois, sans dégrader les capacités générales des modèles corrigés. Dans son cas le plus marquant, le système a permis à Claude Sonnet 5 d’aligner un modèle plus puissant, Claude Opus 4.8, en comblant 85 % de l’écart mesuré sur un test de détection de comportements trompeurs.
Autre chiffre qui a retenu l’attention : l’IA a dépassé les propositions de chercheurs expérimentés en moins de six heures en moyenne. Anthropic évalue le coût de fonctionnement du système à environ 3,70 euros de l’heure, contre près de 140 euros pour un chercheur humain confirmé.
Anthropic reste toutefois prudent sur la portée de l’annonce. L’entreprise précise que l’efficacité du système dépend entièrement de la qualité des benchmarks utilisés pour l’évaluer, et que ces derniers doivent encore être étoffés pour couvrir des cas plus larges que les dix catégories testées jusqu’ici.
Quel impact sur l’emploi des chercheurs en IA
Au-delà de la prouesse technique, l’annonce relance une question sensible : celle de la place des chercheurs humains dans un domaine où une machine peut désormais produire, en quelques heures et à moindre coût, des résultats comparables aux leurs.
Anthropic évoque un pas vers ce que les chercheurs appellent l’auto-amélioration récursive, où un modèle contribuerait lui-même à perfectionner l’entraînement des générations suivantes. Une perspective qui nourrit autant l’enthousiasme des laboratoires que l’inquiétude de certains experts, qui redoutent une perte de contrôle si l’humain sort trop tôt de la boucle de vérification.
Plusieurs chercheurs extérieurs à Anthropic ont d’ailleurs accueilli l’étude avec circonspection, rappelant qu’automatiser la vérification d’objectifs déjà connus n’équivaut pas à produire une recherche véritablement originale.
Un cadre européen déjà en vigueur pour les IA comme Claude
Cette annonce intervient alors que l’Union européenne a renforcé son AI Act ces derniers mois. Depuis août 2025, les fournisseurs de modèles à usage général comme Claude doivent déjà documenter leurs méthodes d’entraînement et leurs mesures de sécurité.
Depuis le 2 août 2026, les autorités européennes disposent en plus de pouvoirs de contrôle élargis, avec la possibilité d’exiger l’accès à la documentation technique, aux données d’entraînement et au code source des modèles jugés à risque systémique. Un système qui génère lui-même une partie de cette documentation de sécurité pourrait donc, à terme, entrer dans le champ de ces vérifications.
Anthropic n’est pas à son coup d’essai côté actualité judiciaire : l’entreprise est aussi poursuivie par Sony Music et Warner pour piratage massif de chansons, dans une affaire distincte portant sur l’entraînement de ses modèles.
Sur le marché des assistants conversationnels, Claude reste l’un des trois grands noms face à ChatGPT et Gemini. Pour comparer leurs forces respectives, consultez notre comparatif IA mis à jour.
