En bref
- Le licenciement de trois chercheurs relance les tensions autour de la sécurité chez OpenAI.
- Les intéressés affirment avoir respecté les pratiques en vigueur et contestent les accusations de l’entreprise.
- Ils craignent que cette affaire ne fragilise la transparence et la liberté de signaler des problèmes.
Parler de sécurité en interne sans craindre de sauter, c’est tout l’enjeu de l’affaire qui secoue OpenAI. Trois anciens chercheurs de l’entreprise, Jasmine Wang, Mikita Balesni et Tomek Korbak, contestent leur licenciement dans une lettre ouverte et disent redouter un effet de sidération chez leurs anciens collègues.
Un renvoi qui dépasse le cas de trois salariés
La semaine dernière, OpenAI a écarté ces trois employés, accusés d’avoir partagé des informations avec une organisation externe spécialisée dans la sécurité de l’IA. L’entreprise a expliqué qu’ils avaient enfreint ses règles d’accès et de gestion d’informations sensibles, rompant selon elle la confiance nécessaire à son travail.
Le dossier a vite pris une autre ampleur. Il intervient alors que des piratages graves, et potentiellement illégaux, liés à des agents d’OpenAI ont visé Hugging Face ainsi que d’autres organisations. Forcément, voir des profils chargés de la sécurité être remerciés à ce moment précis pose des questions, au point d’attirer l’attention d’élus.
Les ex-chercheurs contestent la version d’OpenAI
Dans leur texte commun, les trois chercheurs disent craindre que la communication, très publique, d’OpenAI autour de leur renvoi ait rendu leurs anciens collègues plus hésitants à parler. Ils expliquent qu’avant cela, il était possible de soulever des inquiétudes sur la sécurité, de ne pas être d’accord ouvertement et de s’appuyer sur l’expertise d’organisations indépendantes. C’est même, selon eux, ce qui faisait la particularité d’OpenAI.
Ils assurent aussi avoir agi dans le cadre de la mission de l’entreprise et selon les usages de travail en vigueur à ce moment-là. Leur lecture est nette, les règles internes seraient en train de bouger et les salariés ne sauraient plus très bien où se situe la ligne.
Autre point, ils démentent être à l’origine d’une fuite vers The Information sur de nouvelles architectures d’OpenAI, présentées comme plus difficiles à surveiller. Ils disent également ne pas avoir échangé avec des acteurs extérieurs en dehors de leur mandat. D’après eux, ces contacts se faisaient avec coordination et discussions au niveau du conseil d’administration et de la direction. Jasmine Wang ajoute avoir signalé à un dirigeant un clic accidentel sur un email sensible.
Leur alerte vise aussi l’avenir de la sécurité
Leur message ne s’arrête pas à leur cas. Ils demandent à OpenAI de respecter ses engagements publics en intégrant des auditeurs tiers sur les questions de transparence et de ne pas utiliser leur renvoi comme prétexte pour s’éloigner de ces partenariats.
Ils réclament aussi le maintien de la capacité à surveiller les modèles les plus avancés, ainsi qu’un dialogue ouvert entre les chercheurs sécurité d’OpenAI et le reste de l’écosystème. Sur X, Jasmine Wang affirme que la direction d’OpenAI dit être largement d’accord avec leur lettre. Mais elle va plus loin, avec une phrase qui claque : « Nous n’avons pas été les premiers à être poussés hors d’OpenAI dans des circonstances suspectes ». Et son avertissement est limpide, ceux qui soulèvent des problèmes ou travaillent de près avec des groupes externes pourraient, eux aussi, devenir les prochains.
