ChatGPT renforce la sécurité des adolescents avec un système de prédiction d’âge

Pour mieux protéger les plus jeunes, ChatGPT va désormais tenter d’estimer l’âge de ses utilisateurs. Cette nouvelle fonctionnalité vise à adapter l’expérience et renforcer la sécurité des mineurs sur la plateforme d’intelligence artificielle.

La prédiction d’âge débarque sur ChatGPT

La question de la sécurité des jeunes utilisateurs sur les plateformes d’intelligence artificielle est plus que jamais au cœur des préoccupations. Récemment, l’équipe derrière ChatGPT a décidé de passer à l’action : un nouveau dispositif de prédiction d’âge va désormais s’appliquer à l’échelle mondiale. Cette démarche vise principalement à limiter l’exposition des mineurs à certains contenus jugés inappropriés ou dangereux.

Un modèle qui s’appuie sur le comportement

Contrairement aux méthodes classiques, où une pièce d’identité peut être exigée pour prouver son âge, OpenAI opte ici pour une approche différente. En effet, le système analyse une série de signaux — durée de vie du compte, plages horaires habituelles d’utilisation, ou encore l’âge renseigné par l’utilisateur — afin d’estimer si celui-ci est probablement âgé de moins de 18 ans. Dès lors que le modèle soupçonne qu’un compte appartient à un adolescent, il déclenche automatiquement une série de protections supplémentaires.

Sauvegarde des mineurs : quels contenus concernés ?

Le spectre des restrictions imposées par ce mécanisme est large et a été élaboré avec le concours d’experts et la référence à la littérature académique sur le développement des adolescents. Sont notamment filtrés :

• Violence graphique, scènes sanglantes ou choquantes.
• Défis viraux risqués pouvant inciter à des comportements dangereux.
• Mises en scène sexuelles ou romantiques explicites.
• Apo logie de l’automutilation ou troubles alimentaires.

Comme l’a précisé OpenAI, cette approche « s’inspire directement des recherches sur les différences adolescentes en matière de perception du risque et régulation émotionnelle. »

L’enjeu : protéger sans exclure totalement

Cet effort intervient alors que les critiques sur les effets potentiellement nocifs des chatbots auprès des plus jeunes se multiplient, surtout après certaines polémiques liées à l’utilisation dévoyée d’outils concurrents comme celui proposé par Elon Musk (Grok). Pourtant, le système mis en place n’est pas infaillible : un utilisateur majeur faussement catégorisé comme mineur pourra corriger son âge dans les paramètres. À terme, cette stratégie pourrait ouvrir la voie à un « mode adulte » offrant des fonctionnalités étendues réservées aux personnes vérifiées.

Au final, même si cette technologie ne supprime pas tous les risques liés à l’usage des IA chez les adolescents, elle marque une étape vers un encadrement plus strict — et soulève au passage bien des questions sur la responsabilité partagée entre plateformes et société.