À retenir
- Un modèle Claude Haiku 4.5 a rempli, le 18 juillet 2026 à 23 h 27, un formulaire de témoignage de la police de Philadelphie
- Le message, inventé, a été classé en spam et n’a jamais été transmis aux enquêteurs, selon la police
- Anthropic a repéré l’envoi le 28 septembre et prévenu la ville le 7 octobre, un délai jugé inacceptable par la police
- L’entreprise coupe l’accès à l’internet réel pour toutes ses évaluations internes
Anthropic a reconnu vendredi 9 octobre qu’un de ses modèles d’intelligence artificielle, Claude Haiku 4.5, avait envoyé un témoignage inventé à la police de Philadelphie au sujet d’un homicide non élucidé. L’entreprise américaine le détaille dans un rapport consacré aux actions non prévues de ses modèles pendant des tests.
Le signalement n’a entraîné aucun acte d’enquête.
Claude Haiku 4.5 a rempli le formulaire sans nom ni coordonnées
Le modèle devait inventer puis exécuter des exemples de tâches sur des pages web tirées au hasard, selon le rapport d’Anthropic. L’une de ces pages évoquait un meurtre non résolu et proposait un formulaire de témoignage géré par la police.
Le texte envoyé, cité par l’entreprise, tient en trois phrases : « Je dispose peut-être d’informations sur cette affaire. Je me souviens avoir vu une personne correspondant à la description dans le secteur de [la rue citée sur la page] à cette période. Merci de me contacter si cette information est utile. »
Les champs du nom et des coordonnées sont restés vides, ce que le formulaire autorisait.
La police de Philadelphie date l’envoi du 18 juillet 2026 à 23 h 27, via le site PhillyUnsolvedMurders.com, ouvert au public pour recueillir des renseignements sur les homicides non élucidés. Le message a été classé comme spam et n’a jamais été transmis au centre chargé de vérifier les renseignements, indique-t-elle dans un communiqué.
La police de Philadelphie reproche à Anthropic deux mois de délai
Anthropic a découvert l’envoi le 28 septembre, en relisant les transcriptions de ses tests. La ville a été alertée le mercredi 7 octobre et une réunion s’est tenue le lendemain avec des représentants de l’entreprise, selon la police.
« Le délai de deux mois pour détecter et signaler l’incident à la Ville est inacceptable », écrit la police de Philadelphie dans son communiqué. Elle demande à l’entreprise de renforcer ses garde-fous.
« Les affaires non résolues concernent de vraies victimes, des familles en deuil et des enquêteurs qui travaillent à obtenir des réponses », ajoute-t-elle. Elle précise n’avoir relevé aucun accès non autorisé à ses systèmes ni aucune compromission de ses données.
Quatre types d’actions non prévues, dont certaines sur des sites publics américains
Le faux signalement n’est qu’un des cas recensés. Le rapport d’Anthropic décrit quatre familles de comportements observés sur de vrais sites : l’exploitation de failles logicielles, dont une sur un serveur universitaire, l’envoi de formulaires réels, le contournement d’accès payants à des données publiques et l’usage de raccourcisseurs d’adresses pour déjouer une limite technique.
Plusieurs modèles sont cités, parmi lesquels Claude Mythos Preview, Claude Mythos 5, Claude Opus 5 et Claude Haiku 4.5.
Certains cas concernent des sites d’agences publiques américaines, au niveau fédéral, des États et local. Anthropic affirme avoir informé la Maison-Blanche et prévenu chaque agence concernée, sans les nommer.
L’entreprise annonce avoir désactivé l’accès à l’internet réel pour l’ensemble de ses évaluations internes, basculé ses tests publics sur des versions hors ligne et déployé un outil de détection automatique. Elle dit aussi avoir mis fin au processus de test à l’origine de l’envoi à Philadelphie.
