OpenAI : des salariés craignent une « perte de contrôle de systèmes d’IA autonomes »

Tech
Par Jérôme Nelra,  publié le 7 juin 2024 à 20h00.
Tech
Illustration. Presse et intelligence artificielle.

Illustration. Presse et intelligence artificielle. ADN

Dans une lettre ouverte anonyme, de nombreux salariés actuels et anciens de la startup OpenAI ont fait part de leurs inquiétudes concernant l'évolution de l'intelligence artificielle. Quels pourraient être les enjeux cachés derrière ces préoccupations ?

Tl;dr

  • 13 personnes, liées à OpenAI, mettent en garde contre les risques de l’IA.
  • Les risques évoqués comprennent la désinformation, les inégalités et la perte de contrôle.
  • Les auteurs demandent la création de canaux de signalement anonyme en interne.
  • L’encadrement du développement et de l’utilisation de l’IA est requis.

L’alerte de l’IA : Une voix critique

Aujourd’hui, 13 experts de l’intelligence artificielle (IA), dont quatre employés et sept anciens de la startup OpenAI, tirent la sonnette d’alarme quant aux dangers potentiels de l’IA. Dans une lettre ouverte, ils expriment leurs inquiétudes liées à cette technologie en pleine évolution.

Parmi leurs principales préoccupations, ils citent « le renforcement des inégalités, la manipulation, la désinformation, et la perte de contrôle de systèmes d’IA autonomes ».

Quelle régulation pour l’IA ?

Ces spécialistes estiment que les risques peuvent être limités, avec une collaboration étroite entre la communauté scientifique, les autorités et le public. Ils pointent cependant du doigt l’incitation financière pour les entreprises d’IA à échapper à une supervision efficace. Ils plaident donc pour la création de canaux de signalement anonyme au sein des entreprises et l’encouragement d’une culture de critique ouverte.

Liberté d’expression ou confidentialité ?

Malgré leur volonté de sensibiliser le public, ces experts sont actuellement limités par des clauses de confidentialité qui les empêchent de faire part de leurs préoccupations. Face à cette situation, ils regrettent leur incapacité à bénéficier du statut de lanceur d’alerte, leurs préoccupations n’étant pas liées à des activités illégales.

La sécurité de l’IA au centre du débat

Le succès phénoménal de ChatGPT, produit phare d’OpenAI, a mis en lumière la nécessité d’une régulation plus stricte de l’IA. Face aux potentiels abus, notamment la manipulation d’électeurs par de fausses nouvelles ou des « deepfakes », des voix s’élèvent pour la mise en place de normes internationales encadrant l’IA.

L’Union Européenne s’est d’ailleurs récemment positionnée en adoptant une législation inédite pour réguler les systèmes d’IA à partir de 2026. L’avenir de l’IA est en jeu, et le débat ne fait que commencer.