Tl;dr
- OpenAI déploie un système de prédiction d’âge sur ChatGPT pour limiter l’exposition des adolescents à des contenus inappropriés ou dangereux.
- Le modèle estime l’âge des utilisateurs à partir de signaux comportementaux et déclenche automatiquement des protections supplémentaires pour les comptes suspectés d’appartenir à des mineurs.
- Les contenus filtrés vont de la violence graphique aux défis risqués ou contenus sexuels, tout en laissant la possibilité aux utilisateurs majeurs de corriger leur âge.
La prédiction d’âge débarque sur ChatGPT
La question de la sécurité des jeunes utilisateurs sur les plateformes d’intelligence artificielle est plus que jamais au cœur des préoccupations. Récemment, l’équipe derrière ChatGPT a décidé de passer à l’action : un nouveau dispositif de prédiction d’âge va désormais s’appliquer à l’échelle mondiale. Cette démarche vise principalement à limiter l’exposition des mineurs à certains contenus jugés inappropriés ou dangereux.
Un modèle qui s’appuie sur le comportement
Contrairement aux méthodes classiques, où une pièce d’identité peut être exigée pour prouver son âge, OpenAI opte ici pour une approche différente. En effet, le système analyse une série de signaux — durée de vie du compte, plages horaires habituelles d’utilisation, ou encore l’âge renseigné par l’utilisateur — afin d’estimer si celui-ci est probablement âgé de moins de 18 ans. Dès lors que le modèle soupçonne qu’un compte appartient à un adolescent, il déclenche automatiquement une série de protections supplémentaires.
Sauvegarde des mineurs : quels contenus concernés ?
Le spectre des restrictions imposées par ce mécanisme est large et a été élaboré avec le concours d’experts et la référence à la littérature académique sur le développement des adolescents. Sont notamment filtrés :
- Violence graphique, scènes sanglantes ou choquantes.
- Défis viraux risqués pouvant inciter à des comportements dangereux.
- Mises en scène sexuelles ou romantiques explicites.
- Apo logie de l’automutilation ou troubles alimentaires.
Comme l’a précisé OpenAI, cette approche « s’inspire directement des recherches sur les différences adolescentes en matière de perception du risque et régulation émotionnelle. »
L’enjeu : protéger sans exclure totalement
Cet effort intervient alors que les critiques sur les effets potentiellement nocifs des chatbots auprès des plus jeunes se multiplient, surtout après certaines polémiques liées à l’utilisation dévoyée d’outils concurrents comme celui proposé par Elon Musk (Grok). Pourtant, le système mis en place n’est pas infaillible : un utilisateur majeur faussement catégorisé comme mineur pourra corriger son âge dans les paramètres. À terme, cette stratégie pourrait ouvrir la voie à un « mode adulte » offrant des fonctionnalités étendues réservées aux personnes vérifiées.
Au final, même si cette technologie ne supprime pas tous les risques liés à l’usage des IA chez les adolescents, elle marque une étape vers un encadrement plus strict — et soulève au passage bien des questions sur la responsabilité partagée entre plateformes et société.
