En bref
- David Robinson quitte OpenAI, estimant que la culture de sécurité de l’entreprise est défaillante.
- Il critique la méthode d’OpenAI, qui consiste selon lui à déployer les systèmes puis à corriger les problèmes après coup.
- David Robinson appelle à davantage de contrôles externes, tandis qu’OpenAI affirme renforcer ses mesures de sécurité et ses tests.
Les alertes sur l’IA s’accumulent, et celle-ci vient de l’intérieur. David Robinson, employé de longue date chez OpenAI sur les questions de sécurité, a annoncé son départ en expliquant que la culture de l’entreprise était cassée.
Dans un essai publié par The Atlantic, David Robinson explique avoir dirigé la rédaction des rapports de sécurité associés aux grands lancements de produits de OpenAI. Après trois ans et demi dans l’entreprise, il se présente comme l’un des salariés les plus anciens encore en poste. Son départ n’a donc rien d’anecdotique.
Une démission qui relance le débat
Ce nouvel avertissement rappelle celui de Jacob Coxon, passé par OpenAI puis Anthropic, qui avait quitté le secteur en accusant ces groupes de jouer avec nos vies. Ses déclarations avaient relancé le débat sur la sûreté de l’IA, jusqu’à pousser le patron d’Anthropic, Dario Amodei, à défendre un développement plus prudent.
Cette semaine encore, plusieurs dirigeants de l’IA ont rencontré le président Donald Trump et signé un engagement non contraignant, apparemment rédigé dans l’urgence, pour renforcer certains garde-fous. Pour David Robinson, le vrai problème va plus loin que de nouvelles lois ou des règles précises. C’est la culture de ces entreprises qu’il faut regarder.
Ce que David Robinson reproche à OpenAI
Selon lui, OpenAI a prospéré avec une logique d’essais-erreurs, décrite en interne comme un déploiement itératif. Le principe est simple, on lance, on observe les problèmes, puis on corrige les protections. Sauf que ce fonctionnement garantit, à ses yeux, des ratés réguliers. Et plus les systèmes deviennent puissants, plus l’addition peut être lourde.
Robinson estime aussi que les difficultés de OpenAI ressemblent à celles de la Silicon Valley en général, au-delà des débats récurrents autour de Sam Altman et de la confiance perdue chez certains anciens collègues. Dit autrement, le souci ne serait pas juste un homme. C’est plus large, et c’est moins rassurant.
Des incidents récents comme signal d’alarme
Pour appuyer son constat, David Robinson cite la récente intrusion d’agents d’OpenAI dans les systèmes de Hugging Face, ainsi que d’autres révélations sur des agents jugés hors contrôle. Dans un tel environnement, explique-t-il, faire grandir des intelligences artificielles potentiellement plus intelligentes que nous n’a rien d’un détail.
Il défend donc un autre modèle, inspiré d’industries où l’erreur humaine ne peut pas ouvrir la porte à une catastrophe. Il cite les centrales nucléaires et les grands aéroports, avec des couches de redondance et une planification lente, presque lourde. Le message est limpide.
La réponse d’OpenAI et l’appel à des pressions externes
De son côté, le porte-parole Drew Pusateri affirme que OpenAI continue d’améliorer ses mesures de sécurité. L’entreprise dit renforcer ses environnements de recherche et de test, mieux surveiller les comportements préoccupants pendant l’entraînement, travailler davantage avec des évaluateurs tiers et retenir certains modèles ou interrompre l’entraînement quand un ralentissement est nécessaire.
Robinson ajoute qu’il faut aussi poser des questions plus larges sur l’alignement entre les systèmes et les valeurs humaines, un sujet qu’il juge encore traité avec des outils trop grossiers. Il reconnaît avoir recruté une agence de relations presse, tout en assurant que sa prise de parole est entièrement personnelle. Surtout, il dit avoir fini par conclure que les vrais leviers pour améliorer la sûreté devront venir de l’extérieur de l’entreprise.
