Des sous-traitants employés par Meta ont créé des milliers de faux comptes présentés comme appartenant à des adolescents pour tester les réponses de ChatGPT, Gemini et Character.AI sur des sujets sensibles, révèle une enquête de Wired. Baptisée en interne « Cannes », cette opération aurait généré plus de 45 000 requêtes sans que les entreprises concernées en soient informées.
L’essentiel
- L’opération, baptisée « Cannes », a été confiée au prestataire Covalen
- Plus de 45 000 prompts envoyés en un seul cycle à ChatGPT, Gemini et Character.AI
- Les questions portaient sur le suicide, les troubles alimentaires, la sexualité et les drogues
- OpenAI, Google et Character.AI affirment n’avoir jamais donné leur accord
Pendant plusieurs mois, des employés d’un prestataire de Meta se sont fait passer pour des adolescents afin de sonder les limites de sécurité des chatbots concurrents.
L’enquête, publiée fin juin par Wired, détaille comment cette opération interne a ciblé ChatGPT d’OpenAI, Gemini de Google et Character.AI.
Le prestataire chargé de la mission, Covalen, aurait fait créer des centaines de faux comptes indiquant un âge inférieur à 18 ans.
Ces profils fictifs auraient ensuite envoyé des messages construits pour pousser les IA rivales à répondre à des questions que leurs propres filtres sont censés bloquer.
Un seul cycle de tests, achevé à l’été 2025, aurait rassemblé plus de 45 000 requêtes, selon les documents consultés par le magazine.
Une partie de ces échanges portait sur le suicide et l’automutilation.
D’autres abordaient les troubles alimentaires, la sexualité ou la consommation de drogues, avec parfois des photos de médicaments ou d’objets tranchants en appui des messages.
Comment Meta justifie ces tests secrets
Interrogée par Wired, l’entreprise ne dément pas l’existence du programme.
Elle le présente comme une pratique courante du secteur, destinée à vérifier si des IA concurrentes tiennent leurs promesses de sécurité pour les mineurs.
Aucune des trois entreprises visées n’aurait été prévenue ni consultée avant le lancement de ces tests.
Character.AI affirme que ce procédé viole ses conditions d’utilisation.
Google dit n’avoir jamais approuvé une telle démarche et ignorer l’usage qui a été fait des réponses collectées. OpenAI indique de son côté examiner le dossier.
Quelles conséquences pour la régulation de l’intelligence artificielle
Cette révélation arrive alors que l’Union européenne resserre son calendrier sur l’AI Act, avec une réduction de la période de transition sur la transparence des contenus.
En France, aucune autorité n’a encore été officiellement désignée pour superviser l’application du texte.
La CNIL devrait intervenir en coordination avec la DGCCRF, pressentie comme point de contact unique.
L’affaire relance surtout le débat sur la protection des mineurs face aux chatbots conversationnels, un sujet déjà sensible après plusieurs signalements similaires outre-Atlantique.
Pour comparer les principaux assistants aujourd’hui disponibles, notre comparatif complet entre ChatGPT, Gemini et Claude détaille leurs forces et leurs limites respectives.
Ni Meta ni Covalen n’ont précisé si l’opération « Cannes » se poursuit actuellement.
À retenir
- Meta a fait tester ChatGPT et Gemini par de faux comptes d’ados
- Plus de 45 000 prompts sensibles envoyés en un seul cycle
- OpenAI, Google et Character.AI disent ne pas avoir consenti
Pour aller plus loin : notre dossier complet sur ChatGPT et l'IA d'OpenAI.
