En bref
- Grok fait l’objet d’une enquête en Californie
- xAI a déjà restreint plusieurs fonctions d’image
- Le groupe doit répondre sous cinq jours
La marche arrière a été rapide. Sous pression, X Corp a changé les règles de Grok, le chatbot de xAI, après des signalements sur la création d’images sexuelles non consenties à partir de photos réelles.
Un tour de vis lancé dans l’urgence
Désormais, le compte Grok ne peut plus modifier des images réelles pour montrer des personnes dans des tenues révélatrices. L’autre changement compte aussi, parce qu’il freine mécaniquement l’usage: les fonctions de génération d’images sont passées derrière un accès payant, avec en plus un blocage géographique dans les zones où ces pratiques sont illégales.
Ce resserrement ne tombe pas de nulle part. Il intervient alors que les autorités californiennes demandent à xAI de dire, noir sur blanc, quelles mesures correctives ont été prises.
Ce que reproche précisément la Californie
Au centre du dossier, il y a des usages décrits comme particulièrement préoccupants. Des utilisateurs auraient pu détourner Grok pour habiller ou plutôt déshabiller virtuellement des personnes réelles, par exemple en les faisant apparaître en bikini sur simple demande.
Le bureau du procureur général Rob Bonta va plus loin. Il affirme qu’une fonction baptisée spicy mode aurait été pensée pour produire ce type de contenus et qu’elle aurait même servi d’argument commercial. Là, le contraste est rude: un outil présenté comme innovant se retrouve associé à des usages de harcèlement visant aussi bien des anonymes que des personnalités publiques.
Le point le plus grave concerne les mineurs. Rob Bonta a signalé que des articles de presse décrivaient l’utilisation de Grok pour transformer des photos d’enfants afin de les montrer peu vêtus et dans des situations sexuelles.
Cinq jours pour répondre, sous fond de risque pénal
L’État de Californie ne parle pas d’un simple dérapage technique. Le département de la Justice rappelle que ces faits relèvent potentiellement de plusieurs dispositions du code civil et du code pénal californiens.
Les demandes sont directes. xAI doit cesser immédiatement toute création ou diffusion d’images explicites sans consentement. L’entreprise doit aussi mettre fin à toute aide ou facilitation pour produire de tels contenus, qu’il s’agisse d’adultes non consentants ou de toute personne mineure.
Et le délai est court, cinq jours. En gros, l’affaire montre à quelle vitesse les outils d’IA générative peuvent basculer d’une promesse technique à un problème juridique très concret.
Vos questions, nos réponses
Pourquoi cette affaire prend-elle une telle ampleur ?
Parce qu’elle touche à deux sujets très sensibles à la fois: le consentement et la protection des mineurs. Quand une IA permet de transformer des photos réelles en contenus sexuels, on ne parle plus seulement d’expérimentation technologique, mais d’un risque direct pour les personnes visées.
Que signifie exactement image sexuelle non consentie ?
Il s’agit d’une image intime ou sexualisée créée, modifiée ou diffusée sans l’accord de la personne représentée. Dans ce dossier, le problème vient du fait que des photos réelles auraient servi de base à ces transformations.
Le passage à un système payant change-t-il vraiment la donne ?
Oui, au moins en partie. Un accès payant peut réduire les usages massifs ou opportunistes, mais il ne règle pas à lui seul le fond du problème. Ce qui compte surtout, ce sont les garde-fous techniques et les interdictions appliquées au service.
Que risque xAI à court terme ?
À ce stade, l’entreprise doit surtout détailler rapidement sa réponse aux autorités. Le risque immédiat est donc réglementaire et juridique, avec une pression forte pour prouver que les fonctions litigieuses ont bien été limitées ou coupées.
