Tl;dr
- Caitlin Kalinowski, responsable du département robotique d’OpenAI, démissionne en dénonçant la précipitation de l’accord avec le Pentagone.
- Elle critique l’absence de garde-fous pour la surveillance des citoyens et le développement d’armes autonomes.
- OpenAI confirme la démission, souligne son engagement à encadrer l’IA et envisage de réviser l’accord face aux inquiétudes éthiques.
Une démission retentissante secoue OpenAI
La sphère technologique américaine est en effervescence. La récente démission de Caitlin Kalinowski, jusqu’alors responsable du département robotique d’OpenAI, fait grand bruit. Arrivée en fin 2024 après un passage remarqué chez Meta, elle quitte aujourd’hui l’entreprise, pointant du doigt la précipitation avec laquelle celle-ci a conclu un accord avec le Pentagone. Sur le réseau social X, elle n’a pas mâché ses mots : « Surveillance des Américains sans supervision judiciaire et autonomie létale sans autorisation humaine sont des lignes rouges qui méritaient davantage de réflexion qu’elles n’en ont eu. »
L’accord avec le Pentagone sous le feu des critiques
En réalité, cette décision d’OpenAI ne tombe pas dans un vide contextuel. Quelques jours plus tôt, une autre entreprise du secteur, Anthropic, avait refusé de lever certaines protections relatives à la surveillance de masse et au développement d’armes entièrement autonomes. Contrairement à sa concurrente, OpenAI a choisi une approche différente, mais ce choix semble avoir coûté cher en interne. Aux yeux de l’ex-cadre, l’annonce aurait été « précipitée » et les garanties nécessaires, absentes : « L’annonce a été faite sans que les garde-fous ne soient définis, c’est avant tout une question de gouvernance. »
La réaction d’OpenAI et le climat de défiance interne
Contactée par la presse spécialisée, la direction d’OpenAI confirme la démission et tente de rassurer : elle comprend que ces sujets suscitent des réactions passionnées au sein et hors de l’entreprise. Dans une déclaration adressée à la presse, la société précise même son intention « d’engager le dialogue avec toutes les parties concernées », tout en soulignant ne pas soutenir les points soulevés par sa désormais ex-responsable.
Par souci de clarté, voici les lignes rouges posées publiquement par l’entreprise concernant ce partenariat :
- Aucune surveillance nationale des citoyens américains.
- Aucun développement d’armes autonomes dépourvues de contrôle humain.
Pistes ouvertes pour la gouvernance de l’IA
Néanmoins, la tempête interne n’aura peut-être pas été vaine : même le PDG d’OpenAI, Sam Altman, s’est dit prêt à réviser l’accord afin d’interdire explicitement toute forme d’espionnage envers la population américaine. L’affaire rappelle combien les débats éthiques autour des usages militaires de l’intelligence artificielle restent brûlants et loin d’être tranchés, y compris au sein des fleurons du secteur.
