En bref
- Une part très importante des requêtes liées à Grok concerne des usages adultes (contenus érotiques, role-play, pornographie).
- Des détournements techniques permettent de contourner les filtres, notamment via des modèles de code, pour générer des contenus sexuels ou nus.
- Cela crée des tensions internes et des risques juridiques, tout en posant un paradoxe avec les ambitions publiques de xAI et ses partenariats.
Plus de la moitié du trafic de Grok viendrait d’usages NSFW (Not safe for work). C’est la donnée qui ressort d’un rapport de The Information, appuyé sur les propos de deux anciens salariés de xAI, et elle éclaire d’un coup la ligne choisie par l’entreprise autour de son chatbot.
Un trafic tiré par les usages adultes
D’après ce rapport, les activités pour adultes compteraient pour bien plus de la moitié des requêtes adressées à Grok. On parle de génération de porno, de discussions de type role-play pour adultes et d’un très gros volume de demandes de textes érotiques.
Vu comme ça, la promesse d’un chatbot plus libre, plus irrévérencieux et moins verrouillé que ses rivaux prend un autre sens. Ce n’est plus juste une posture produit, c’est aussi, visiblement, un moteur de fréquentation. Et pas un petit.
Même les modèles de code sont détournés
Le plus frappant, c’est que certains utilisateurs auraient trouvé une astuce toute simple, passer par les modèles de code de xAI, moins coûteux à utiliser, pour obtenir ce type de contenu. Une analyse interne citée par le rapport évoque même une part importante de requêtes envoyées à ce modèle pour produire des images porno ou des nus.
Ça suggère une chose assez nette, une part non négligeable des revenus de xAI pourrait venir du contenu adulte. Pourtant, ce rôle du NSFW n’aurait pas été mentionné dans les documents préparés pour l’introduction en Bourse. En revanche, SpaceX a bien signalé à de potentiels investisseurs que le caractère plus irrévérencieux de Grok représentait un risque, avec environ 530 millions de dollars mis de côté pour de possibles frais juridiques.
En interne, un casse-tête très concret
Chez xAI, cette orientation n’aurait rien d’abstrait. Les ingénieurs ont dû chercher comment permettre à Grok d’avoir des échanges sexy avec les utilisateurs tout en bloquant les requêtes pouvant basculer vers des contenus pédocriminels. Le rapport explique qu’il n’existait pas de solution rapide à ce problème.
Autre point sensible, le travail autour de Ani, l’avatar compagnon NSFW inspiré de l’anime. Certains employés auraient mal vécu cette affectation. D’autres se seraient dits gênés, voire choqués, après le scandale provoqué par la création d’images sexualisées de personnes réelles, y compris d’enfants.
Des contrats publics sous une drôle de lumière
Le réseau social X a depuis limité, directement sur sa plateforme, la possibilité de produire des versions suggestives d’images de personnes réelles via Grok. Mais selon des tests mentionnés par la source, des abonnés payants de xAI peuvent encore générer ce type de contenu.
Le paradoxe est là. xAI cherche agressivement des contrats publics et a signé avec plusieurs agences ainsi qu’avec l’armée. Pas exactement les milieux qu’on imagine très tolérants au NSFW. Malgré les poursuites et les enquêtes liées aux deepfakes non consentis et aux contenus pédocriminels, l’effet réel sur les relations de Grok avec le gouvernement fédéral reste, à ce stade, inconnu.