Le patron d’Anthropic, Dario Amodei, a publié un long message ce week-end pour clarifier sa position sur les modèles d’IA à poids ouverts. Il dément avoir jamais réclamé une interdiction de ces technologies, notamment chinoises, en pleine polémique sur une lettre ouverte signée par 25 entreprises tech.
L’essentiel
- Dario Amodei dément vouloir interdire les modèles d’IA à poids ouverts, y compris chinois
- 25 entreprises, dont Nvidia et Microsoft, défendent ces modèles dans une lettre du 24 juillet
- Anthropic propose trois mesures : bloquer les puces vers la Chine, limiter la distillation, imposer des tests de sécurité
- Amodei redoute surtout des gouvernements autoritaires plus puissants en IA que les États-Unis
Le débat sur les modèles d’intelligence artificielle à poids ouverts s’est envenimé ces derniers jours aux États-Unis. Plusieurs responsables évoquent une possible interdiction des modèles chinois, tandis qu’une partie du secteur tech accuse Anthropic de pousser en coulisses pour cette mesure.
Dario Amodei a voulu couper court à la polémique dans une longue mise au point publiée ce week-end.
Une lettre signée par 25 entreprises, sans Anthropic
Vingt-cinq entreprises, dont Nvidia, Microsoft, Meta, IBM et la Fondation Mozilla, ont signé le 24 juillet une lettre ouverte défendant les modèles ouverts. OpenAI, Anthropic, Alphabet et Amazon n’y figuraient pas parmi les premiers signataires.
Le texte met en garde contre des « restrictions prématurées » qui freineraient l’innovation. Il défend l’idée que les modèles ouverts renforcent la concurrence et donnent plus de contrôle aux utilisateurs. Une partie du secteur en a déduit qu’Anthropic cherchait à faire interdire ces modèles pour protéger sa propre activité.
OpenAI n’avait pas non plus signé le texte dans un premier temps, avant d’y ajouter son nom après coup.
« Anthropic n’a jamais préconisé une interdiction des modèles à poids ouverts », écrit Dario Amodei, avant d’ajouter que ces modèles sans capacités dangereuses relèvent au contraire d’un bien public.
Une clarification qui intervient alors que plusieurs laboratoires chinois publient des modèles ouverts de plus en plus compétitifs, à l’image de ce modèle chinois qui rivalise déjà avec Claude et GPT.
Les deux scénarios qui inquiètent le patron d’Anthropic
Amodei affirme avoir deux préoccupations bien distinctes d’une simple rivalité commerciale. La première concerne des gouvernements autoritaires, au premier rang desquels le Parti communiste chinois, qui développeraient une IA plus puissante que celle des États-Unis pour asseoir une supériorité militaire ou renforcer la répression.
Peu importe, selon lui, que ces modèles soient ouverts ou utilisés par des entreprises américaines : le scénario le plus dangereux resterait un modèle entraîné en secret et confié directement à l’armée ou aux services de renseignement chinois.
La seconde inquiétude porte sur le détournement de modèles puissants pour des cyberattaques ou des attaques biologiques. Une fois les poids d’un modèle diffusés, rappelle-t-il, il devient quasiment impossible de retirer l’accès ou de corriger ses failles.
Un risque déjà pris au sérieux à Washington, où le Congrès veut pouvoir éteindre les IA jugées dangereuses en cas de dérapage.
Trois mesures plutôt qu’une interdiction
Plutôt qu’une interdiction générale, Dario Amodei défend trois mesures qu’il dit porter depuis des années. La première consiste à bloquer la vente de puces avancées à la Chine et à durcir la lutte contre la contrebande de semi-conducteurs.
La deuxième vise la distillation industrielle, cette technique qui permet à des laboratoires chinois de rapprocher leurs modèles du niveau américain à moindre coût de calcul.
La troisième mesure est un système de tests de sécurité obligatoires, pour tous les modèles suffisamment puissants, qu’ils soient ouverts ou fermés. Anthropic espère qu’un tel cadre pourrait, à terme, s’appliquer aussi bien aux laboratoires chinois qu’américains.
Une position cohérente avec les ambitions de l’entreprise sur le matériel, alors qu’Anthropic discute avec Samsung pour concevoir sa propre puce IA.
Un désaccord persistant sur le risque biologique
Dario Amodei dit partager une partie des arguments de la lettre des 25 entreprises, notamment sur l’accès élargi à l’IA et le renforcement de la concurrence. Il conteste en revanche l’idée que les modèles ouverts faciliteraient davantage la défense que l’attaque.
Il cite l’exemple de la biologie, où un modèle suffisamment capable pourrait aider à concevoir une arme virale en quelques semaines. Se défendre contre une telle menace, rappelle-t-il, reste une opération de plusieurs années, comme l’a montré l’Opération Warp Speed pendant la pandémie de Covid-19.
Une crainte renforcée par plusieurs incidents récents, à l’image du récent piratage de Hugging Face attribué à une IA d’OpenAI.
Amodei conclut en réclamant des tests indépendants et internationaux, incluant potentiellement la Chine, plutôt que des postures tranchées côté ouvert ou fermé. Le sujet devrait rester chaud dans les prochaines semaines, à mesure que Washington précise sa doctrine sur l’IA chinoise.
À retenir
- Anthropic dément avoir réclamé l’interdiction des modèles IA ouverts
- 25 entreprises dont Nvidia et Microsoft défendent ces modèles dans une lettre
- Amodei propose puces bridées, lutte anti-distillation et tests de sécurité obligatoires
