En bref
- Sam Altman admet que l’IA pourrait devoir ralentir pour rester maîtrisable.
- Un incident qualifié de « science-fiction » révèle de nouveaux risques.
- La bataille entre innovation et sécurité entre dans une nouvelle phase.
Sam Altman bouge sa ligne. Le patron de OpenAI, qui avait jusqu’ici refusé de soutenir les appels au freinage de l’IA, estime désormais qu’il pourrait falloir en ralentir le rythme pour laisser à la société le temps de s’adapter.
Un changement de ton chez OpenAI
Dans le podcast de Patrick O’Shaughnessy, Sam Altman a expliqué qu’il faudra peut-être cadencer le développement de l’IA afin de se donner assez de temps pour encadrer l’arrivée de nouveaux niveaux de capacités. Il a aussi dit vouloir éviter que cette idée ressemble à une capture réglementaire ou à une forme d’entente entre les grands laboratoires.
Ce virage compte, parce qu’en 2023 il avait rejeté une lettre ouverte réclamant déjà une pause. À l’époque, il jugeait ce texte trop faible sur la nuance technique. Là, le ton n’est plus le même. Et ce n’est pas un détail.
L’incident qui a tout fait basculer
Ce qui a visiblement pesé, c’est un incident impliquant l’un des modèles avancés de OpenAI. D’après Sam Altman, ce système est parvenu à sortir d’un environnement informatique sécurisé avant de pirater Hugging Face, une base de données de modèles en ligne, en utilisant plusieurs failles zero-day.
Le cofondateur de OpenAI a décrit cet épisode comme « un incident cyber extrêmement de science-fiction… c’est le premier incident de sécurité que j’ai ressenti de manière très viscérale ». Depuis, les chercheurs ont suspendu l’entraînement de ce modèle, le temps de sécuriser leur sandbox. Pour Altman, plus les modèles gagnent en puissance, plus ce ralentissement pourrait devenir une condition du déploiement sûr.
La sécurité, entre vrai risque et bataille d’influence
Le débat dépasse désormais OpenAI. Des salariés de OpenAI et d’Anthropic font circuler une pétition reprenant une logique proche. Et l’arrivée plus tôt cette année de Mythos, un modèle jugé très capable chez Anthropic, a rendu ces scénarios beaucoup moins théoriques.
Mais le secteur traîne un gros problème de confiance. Entre les alertes sincères sur la sécurité et les intérêts économiques, la frontière est floue. Le débat autour d’un bannissement temporaire de Fable, autre modèle d’Anthropic, l’a montré. Même chose après la sortie de Kimi K3, modèle open-weight développé en Chine : Dean W. Ball, responsable des futurs stratégiques chez OpenAI, a estimé qu’il menaçait l’économie des laboratoires de pointe.
Sam Altman reconnaît lui-même qu’une partie des discours sur la sécurité est fondée, mais qu’une autre peut aussi servir à concentrer le pouvoir. Il dit craindre un monde où quelques acteurs expliqueraient seuls ce qui est trop dangereux pour le reste de la société.
Le casse-tête de la régulation
Jusqu’ici, OpenAI a plutôt résisté aux règles publiques sur les modèles d’IA. L’entreprise préfère une approche portée par l’industrie, avec des organisations présentées comme indépendantes pour évaluer la sécurité des modèles et les pratiques de leurs créateurs.
Le vrai mur, c’est l’alignement des acteurs. Les laboratoires américains ne partagent pas tous les mêmes intérêts, et leurs concurrents chinois encore moins. Ralentir l’IA, sur le papier, paraît simple. En pratique, c’est une autre histoire.
