ChatGPT dévoile publiquement des données privées de certains utilisateurs

OpenAI a dû mettre son IA momentanément hors-ligne avant de publier un communiqué d'excuses.

Si ChatGPT est l’IA à la mode ces dernières semaines, il doit aussi faire face à ses premières polémiques. Si l’affaire des devoirs d’étudiants effectuée à l’aide de l’IA a suscité de nombreuses réactions, le dernier bug en date est plus inquiétant en termes de sécurisation des données personnelles. En effet, le robot conversationnel dévoilait parfois le contenu des discussions de certains utilisateurs à tout le monde.

Gros bug sur ChatGPT

Mardi et mercredi, les utilisateurs de ChatGPT ont pu remarquer que l’IA a été désactivée à certains moments. Aussi, plusieurs messages ont commencé à fleurir sur les réseaux sociaux pour alerter OpenAI qu’un bug particulièrement fâcheux touchait ChatGPT.

Certains utilisateurs avaient en effet découvert qu’ils avaient accès à l’historique de conversation d’autres utilisateurs du site.

If you use #ChatGPT be careful! There's a risk of your chats being shared to other users!
Today I was presented another user's chat history.
I couldn't see contents, but could see their recent chats' titles.#security #privacy #openAI #AI pic.twitter.com/DLX3CZntao

— Jordan L Wheeler (@JordanLWheeler) March 20, 2023

OpenAI se défend

OpenAI a tout de suite pris le problème à bras le corps en désactivant tout d’abord ChatGPT avant de supprimer les historiques de conversations de la plateforme afin d’éviter de se retrouver avec les conversations d’autres utilisateurs dans son propre compte.

Dans un communiqué diffusé sur Twitter, Sam Altman, PDG d’OpenAI, a indiqué que le problème était réglé et que seuls les intitulés des conversations étaient lisibles.

we had a significant issue in ChatGPT due to a bug in an open source library, for which a fix has now been released and we have just finished validating.

a small percentage of users were able to see the titles of other users’ conversation history.

we feel awful about this.

— Sam Altman (@sama) March 22, 2023

Plus grave que prévu ?

Le dirigeant de l’entreprise s’est dit très « mal à l’aise » de cette faille compromettant les données personnelles de ses utilisateurs en indiquant que tout venait d’un bug localisé dans une bibliothèque open source et que l’historique des conversations allait progressivement faire son retour.

Mais selon certains internautes, le bug était plus grave qu’un simple accès aux titres des conversations des autres utilisateurs de la plateforme. Certains indiquent en effet avoir reçu des notifications SMS contenant les adresses mail d’autres utilisateurs qui cherchaient à s’abonner à la version payante de ChatGPT.

@OpenAI on payment page for ChatGPT Plus, it originally stated it had sent an SMS to a number I did not recognise. Then when selecting to send an email instead, it is showing an email address that I have never heard of. Form field is also pre-filled with the unknown email address pic.twitter.com/B4X5cZv2kn

— Elliot (@elliotm_95) March 20, 2023

Rappelons que OpenAI se réserve le droit d’utiliser vos données afin d’aider son IA à mieux interagir avec les autres utilisateurs. Il est donc important de faire très attention aux données que l’on partage avec ChatGPT qui, si un autre bug de ce genre apparaît, pourrait dévoiler des informations sensibles à n’importe qui. Pas très rassurant lorsque l’on sait que Microsoft est en train d’intégrer l’IA dans la plupart de ses logiciels.