Face à la polémique sur les images explicites, X limite l’usage de Grok aux abonnés vérifiés

Pour restreindre les abus, seuls les abonnés payants, dont l’identité est vérifiée par carte bancaire, peuvent désormais générer ou éditer des images.

Des dérives inquiétantes dénoncées par les utilisateurs

Lancé comme une innovation majeure par xAI, l’outil d’intelligence artificielle Grok, intégré au réseau social X, se retrouve aujourd’hui au cœur d’un tumulte. Depuis plusieurs jours, des utilisateurs témoignent de dérives inquiétantes : le générateur d’images servait à produire ou modifier des photos de femmes dans des poses sexualisées, provoquant une onde de choc sur les réseaux sociaux. Cette pratique, documentée en nombre par la communauté, a rapidement alerté les autorités.

Des régulations européennes et internationales alertées

La répercussion ne s’est pas limitée aux discussions en ligne. Les institutions européennes n’ont pas tardé à demander à X de prolonger la conservation des documents relatifs à Grok afin d’assurer une meilleure traçabilité. En France, ces manipulations ont été déclarées illégales, tandis qu’en Irlande et en Inde, ainsi que du côté de plusieurs ONG internationales, des condamnations publiques sont tombées. Pourtant, c’est sans doute au Royaume-Uni que l’inquiétude s’est le plus matérialisée. L’Office of communications (Ofcom), l’autorité régulatrice des télécommunications au Royaume-Uni, a sollicité en urgence des explications auprès de X et xAI. Selon leurs conclusions, une enquête pourrait s’ouvrir pour vérifier le respect des obligations fixées par la loi britannique sur la sécurité en ligne (Online Safety Act).

A noter que cette législation donne à l’Ofcom le pouvoir d’imposer jusqu’à 10% du chiffre d’affaires mondial en amendes ou même de bloquer un site — un scénario extrême mais désormais sur la table.

Une vérification d’identité pour lutter contre les abus

Face à cette tempête médiatique et réglementaire, les dirigeants ont dû réagir. Désormais, la génération et l’édition d’images via Grok sont réservées aux seuls abonnés payants, dont l’identité est vérifiée par carte bancaire. Le message affiché est sans équivoque : « L’édition d’images est actuellement limitée aux abonnés payants ». Cette restriction vise à limiter les abus tout en désanonymisant les usages problématiques.

En guise de réponse publique – indirecte – Elon Musk a rappelé qu’utiliser Grok pour créer du contenu illégal expose ses auteurs « aux mêmes conséquences que s’ils publiaient directement ces contenus illégaux ». Ce propos a été relayé par le compte officiel Security de X, qui précise : « Nous supprimons tout contenu illégal et coopérons avec les autorités compétentes si nécessaire. »

La responsabilité des utilisateurs reste centrale

Si la responsabilité pénale incombe principalement à l’utilisateur final, il apparaît clairement que le rôle des plateformes devient central dans cette bataille contre les dérives numériques. Au fur et à mesure que la législation évolue — souvent moins vite que la technologie elle-même — une chose demeure certaine : X, sa filiale xAI, ainsi que leur emblématique dirigeant vont devoir démontrer leur engagement dans ce nouveau défi réglementaire mondial.