Facebook : les règles de modération révélées dans des documents internes

The Guardian a obtenu environ 100 documents internes du réseau social dans lesquels sont décrits la façon dont Facebook modère son gigantesque contenu.

Nudité, violence, haine, terrorisme… comment le plus grand des réseaux sociaux modère-t-il les millions de contenus qui affluent chaque jour ? The Guardian a pu avoir accès à une centaine de documents internes qui indiquent pour la première fois comment le tri est opéré.

L’exemple du « revenge porn »

Grâce à ces documents, c’est la première fois que nous pouvons tenter de comprendre comment tout cela fonctionne. Par exemple, dans le cas d’un contenu « revenge porn » (c’est-à-dire un contenu sexuellement explicite partagé sans le consentement de la ou des personnes y apparaissant) : avant qu’un modérateur ne fasse son travail de suppression, 3 critères doivent être réunis.

D’abord, l’image en question doit provenir d’un contexte privé, la personne étant nue ou presque, ou encore active sexuellement. Ensuite, l’absence de consentement doit prendre la forme d’un élément dans la légende, évoquant « un contexte de vengeance ou dénoncée par des sources indépendantes (comme les médias) », rapporte Le Parisien.

Une logique de modération parfois floue

Autre exemple, celui des menaces. Si un internaute écrit « Poutine devrait être assassiné », un chef d’Etat est mentionné, ce qui entraînera la supression dudit commentaire. En revanche, certaines menaces, si elles ne sont pas évaluées comme crédibles, continuent à exister.

La nudité ? Facebook s’était attiré les foudres des internautes en censurant des œuvres d’art dans lequelles des parties génitales apparaissaient (statues, peintures,…). Les règes de « censure » ont depuis été assouplies.

Monika Bickert, en charge de la politique relative aux contenus chez Facebook a indiqué à nos confrères britanniques : « Il y aura toujours des zones grises ». Quoi qu’il en soit, le réseau social a annoncé l’embauche de quelques milliers de modérateurs afin d’accorder plus de temps au filtrage des contenus sujets à caution.