Des restrictions pour Grok face aux abus

Le chatbot de xAI illustre la difficulté de réguler l’IA tout en préservant les droits individuels.

Une enquête sur les dérives de l’IA générative

Dans un contexte déjà tendu autour de l’usage de l’intelligence artificielle générative, le bureau du California Attorney General Rob Bonta a récemment accentué la pression sur xAI. La société, connue pour avoir développé le chatbot Grok, fait désormais l’objet d’une enquête officielle. Au cœur du dossier : des signalements persistants selon lesquels la plateforme aurait permis la création d’images à caractère sexuel, sans le consentement des personnes représentées.

Des accusations préoccupantes et une lettre ferme

Les faits rapportés sont particulièrement alarmants. Plusieurs utilisateurs ont pu détourner Grok afin de placer des photos réelles de personnes dans des tenues suggestives, tels que des bikinis, simplement sur demande. Mais les soupçons ne s’arrêtent pas là : selon les propos relayés par le procureur général, une fonction appelée « spicy mode » aurait même été conçue par xAI pour générer explicitement ce type de contenu, une fonctionnalité qui aurait servi d’argument commercial. Le risque est loin d’être anodin, puisque ces contenus sont parfois utilisés pour harceler aussi bien des figures publiques que des particuliers. Pis encore, certaines images concernent des mineurs, ce que souligne expressément Rob Bonta : « Fait particulièrement alarmant, des articles de presse ont décrit l’utilisation de Grok pour modifier des images d’enfants afin de les représenter avec peu de vêtements et dans des situations sexuelles. »

Réaction immédiate et premières mesures techniques

Face au tollé et à la menace juridique, la société mère X Corp a promptement modifié sa politique interne. Désormais, il n’est plus possible pour le compte Grok d’éditer des images réelles en tenues révélatrices. De plus, les fonctions de génération d’images sont passées derrière un système payant, assorti d’un blocage géographique dans les régions où ces pratiques sont illégales.

Pour clarifier les attentes, voici ce que demande formellement le procureur :

• Cesser immédiatement toute création ou diffusion d’images explicites sans consentement.
• Mettre fin à toute aide ou facilitation en ce sens concernant des adultes non consentants ou tout individu mineur.

Législation californienne et délai imposé à xAI

En rappelant la gravité juridique de ces faits – infraction avérée à plusieurs articles du Code civil et pénal californien –, le département de la Justice exige désormais que xAI détaille sous cinq jours les mesures prises pour remédier à cette situation. L’affaire révèle ainsi toute la complexité de réguler un secteur technologique aussi rapide qu’inventif… tout en protégeant fermement les droits individuels face aux dangers grandissants de l’IA générative.