En bref
- OpenAI renforce les restrictions de ChatGPT pour les adolescents concernant les armes et les systèmes de sécurité sensibles.
- Les demandes jugées potentiellement dangereuses pourront être bloquées, même sans intention violente apparente.
- De nouvelles règles s’appliquent aussi à tous les utilisateurs concernant les détails sur les anciennes attaques de masse.
Même une question qui semble banale peut désormais se heurter à un refus dans ChatGPT si elle touche aux armes. OpenAI a annoncé un durcissement de ses règles pour les adolescents, avec une idée simple, réduire encore l’accès à des informations pouvant être détournées pour faciliter des violences.
Ce qui change vraiment pour les comptes ados
Jusqu’ici, OpenAI expliquait déjà empêcher ChatGPT d’aider à commettre des actes violents ou à permettre à des mineurs d’obtenir des armes. La nouveauté, c’est un cran de plus. L’entreprise dit qu’elle va désormais restreindre les informations pratiques sur les armes et sur les systèmes de sécurité qui pourraient être mal utilisées, même si rien, dans la formulation de la demande, ne laisse voir une intention violente.
En gros, le filtre ne se limitera plus aux requêtes manifestement dangereuses. Une demande qui paraît inoffensive sur le papier pourra aussi être bloquée si elle ouvre la porte à un usage problématique. C’est plus large, et c’est bien le but.
Ce que les adolescents pourront encore demander
Tout n’est pas fermé pour autant. OpenAI précise que les adolescents pourront continuer à utiliser ChatGPT pour chercher de l’aide afin de prévenir une situation violente, pour désamorcer une montée de tension, ou pour être orientés vers un adulte de confiance.
Le cadre se veut donc plus strict sur les infos pratiques sensibles, sans couper les usages liés au soutien ou à la prévention. Dit autrement, l’outil doit moins servir à apprendre quoi faire avec une arme, et davantage à éviter qu’une situation dérape.
Des règles aussi renforcées pour tous les utilisateurs
Le tour de vis ne concerne pas seulement les mineurs. OpenAI indique aussi renforcer ses limites pour l’ensemble des utilisateurs sur les demandes liées aux reconstitutions d’anciennes attaques de masse.
Sont visés les détails sur les équipements utilisés, les armes employées, la façon dont ce matériel a été obtenu, mais aussi les comparaisons très précises sur l’ampleur des dégâts causés. L’entreprise veut éviter que ce type de contenu n’alimente la notoriété des auteurs ou ne serve de modèle. Le sujet est sensible, et là, la ligne est nette.
Pourquoi OpenAI ajoute ces garde-fous maintenant ?
Ces nouvelles barrières s’ajoutent aux contrôles parentaux mis en place l’an dernier. Quand un compte adolescent lié enfreint les règles de ChatGPT sur les menaces violentes ou les actes de violence, les parents peuvent déjà recevoir une notification.
Ce durcissement arrive aussi dans un contexte tendu pour OpenAI. L’entreprise a été visée l’an dernier par une plainte pour décès injustifié. Plus récemment, son patron, Sam Altman, a présenté des excuses publiques après ne pas avoir alerté la police à propos d’échanges jugés inquiétants en lien avec la fusillade de Tumbler Ridge plus tôt cette année.
Prochaine étape annoncée, la publication d’un premier rapport Community Safety Report au début de 2027, puis une mise à jour tous les six mois. Sur un sujet pareil, la promesse sera regardée de très près.
