Meta s’attaque aux applications d’IA dédiées à la « nudification »

Meta renforce sa lutte contre les applications d’intelligence artificielle permettant de générer ou modifier des images à caractère sexuel non sollicité. L’entreprise cible ces outils pour limiter leur diffusion sur ses plateformes et protéger la vie privée des utilisateurs.

Une offensive judiciaire contre les applications « nudify »

Longtemps critiquée pour sa gestion des contenus problématiques, la société Meta passe à l’offensive. L’entreprise a engagé une action en justice contre Joy Timeline HK Limited, basée à Hong Kong, soupçonnée d’être derrière l’application controversée Crush AI. Cette dernière aurait massivement diffusé, via Facebook et Instagram, des publicités vantant des outils capables de générer des images explicites non consenties grâce à l’intelligence artificielle. D’après le spécialiste Alexios Mantzarlis, directeur de la Security, Trust and Safety Initiative de Cornell Tech, ce type d’annonces a fleuri depuis l’automne dernier : plus de 8 000 placements auraient été enregistrés rien que pour Crush AI.

Nouvelles mesures technologiques et coopération sectorielle

Face à cette situation préoccupante, Meta affirme avoir mis au point des technologies inédites, capables d’identifier et de bloquer efficacement ces publicités illicites. Désormais, le système ne se limite plus à détecter la nudité manifeste : il repère aussi les tentatives détournées de promotion, s’appuyant notamment sur une analyse renforcée de termes sensibles ou d’émojis associés. En parallèle, la plateforme indique qu’elle va partager ses informations avec d’autres acteurs du secteur numérique, notamment les propriétaires de magasins d’applications.

Des dérives qui s’étendent au-delà de la « nudification »

Toutefois, les applications exploitant l’image par intelligence artificielle ne se limitent pas à ce cas précis. Le réseau social doit également composer avec une vague persistante de publicités mettant en avant des deepfakes mettant en scène des personnalités publiques dans le but d’escroquer les internautes. Ces pratiques ont régulièrement été pointées du doigt par son propre organe indépendant, le Conseil de surveillance de Meta, qui reproche encore une application trop timide des règles internes contre ces contenus manipulés.

Vers un renforcement nécessaire de la modération ?

Pour lutter plus efficacement contre ces abus, plusieurs initiatives sont désormais sur la table :

• Mise à jour continue des listes de mots-clés sensibles ;
• Collaboration accrue avec des experts externes ;
• Partage d’informations avec d’autres plateformes majeures.

Certains observateurs restent cependant prudents quant à la capacité réelle de Meta à endiguer durablement ce phénomène protéiforme. Entre progrès techniques et responsabilités sociales croissantes, le groupe est attendu au tournant sur le terrain sensible de la protection contre les dérives numériques.