En bref
- Face aux progrès rapides de l’IA, Anthropic veut « ralentir la frontière ».
- Anthropic souhaite ainsi renforcer les contrôles externes sur les nouveaux modèles.
- Cette stratégie suscite des critiques, certains y voyant une réponse excessive aux risques de l’IA.
À quoi ressemble un vrai coup de frein sur l’IA de pointe ? Chez Anthropic, la réponse prend enfin une forme concrète. Son patron, Dario Amodei, dit qu’il faut « ralentir la frontière », autrement dit freiner le rythme auquel les modèles gagnent en capacités.
Un coup de frein assumé par Anthropic
Dans un billet, Dario Amodei, le boss d’Anthropic, explique que deux signaux l’ont convaincu de durcir la ligne. D’abord, le piratage lié à OpenAI et Hugging Face. Ensuite, l’accélération très nette des progrès récents, en particulier la capacité croissante de l’IA à aider à construire la génération suivante d’IA.
Le contexte n’aide pas à calmer le jeu. Cette semaine, le débat sur la sécurité et l’alignement des modèles a encore monté après la démission du chercheur Jacob Coxon, parti d’Anthropic en accusant les grands acteurs du secteur de jouer avec des risques extrêmes. Dario Amodei ne le cite pas directement, mais il défend la même idée de fond, aller moins vite pour mieux utiliser le temps gagné.
Des contrôleurs externes au cœur du dispositif
La mesure la plus immédiate concerne des évaluateurs intégrés venus d’organisations tierces comme METR. Leur rôle serait de vérifier que les promesses de sécurité sont bien respectées, et que les incidents sont signalés.
Dario Amodei compare ce système à certains contrôles installés dans le secteur bancaire. Et Anthropic dit s’y engager seul, dès maintenant, tout en demandant aux pouvoirs publics d’imposer la même règle aux autres entreprises de la frontière. Ces évaluateurs auraient badge, bureau, ordinateur portable et un accès proche de celui des équipes internes de gestion des risques, sauf limites imposées par la loi ou par des contrats. Le sujet est sensible, surtout après les critiques visant OpenAI pour ne pas avoir remonté un incident impliquant ses agents IA sur un formulaire wiki allemand.
Coordonner les géants de l’IA, avec l’État en arbitre
Deuxième pilier, une coordination entre les grands groupes de pays démocratiques pour fixer des standards communs et des limites au progrès non contrôlé. Sur le papier, c’est logique. Dans la vraie vie, c’est plus rugueux.
La rivalité entre Sam Altman et Dario Amodei complique déjà le tableau. Et il y a la peur d’ennuis sur le terrain du droit de la concurrence. Pour contourner ça, Dario Amodei estime que le gouvernement américain devrait au minimum autoriser ce type d’échanges, avec une dérogation ciblée sur les conversations liées à la sécurité.
La Chine, puis une coordination mondiale minimale
Dario Amodei répond aussi à l’argument classique, ralentir l’IA ferait surtout gagner du terrain à la Chine. Selon lui, Washington et les entreprises américaines peuvent au contraire creuser l’écart sur trois à cinq ans en bloquant la vente de puces puissantes, d’équipements de fabrication de semi-conducteurs et en serrant la vis sur la distillation de modèles.
Il va plus loin avec une idée de coordination mondiale. Même avec des gouvernements autoritaires, et donc avec la Chine, il juge qu’un terrain d’entente reste possible sur quelques usages manifestement dangereux, comme la production d’armes biologiques assistée par l’IA.
Entre crise de confiance et critiques opposées
Cette ligne ne convainc pas tout le monde. Certains défenseurs d’une IA plus rapide voient en Dario Amodei un alarmiste qui nourrit le rejet actuel du secteur. Lui parle plutôt d’une crise de confiance envers les entreprises tech et les pouvoirs publics.
À l’inverse, des critiques de l’industrie jugent ces scénarios catastrophes mal étayés et estiment qu’ils détournent l’attention des dégâts déjà bien réels. Le journaliste Brian Merchant a notamment expliqué ne pas voir de démonstration crédible menant d’une IA qui s’améliore seule à l’extinction humaine, et il soupçonne ce type de régulation de pouvoir surtout servir Anthropic et OpenAI. Dario Amodei, lui, maintient que l’IA peut améliorer massivement la vie humaine, à condition de la construire avec beaucoup plus de précaution. C’est là que tout se joue.
