Prévention du suicide : Facebook fait confiance à l’intelligence artificielle

L'outil, qui scanne en permanence les profils des membres, ne sera pas disponible dans l'Union européenne, où ce genre de procédé est prohibé.

La phase expérimentale laisse la place au déploiement à grande échelle. L’outil de prévention du suicide de Facebook est désormais opérationnel, avec l’objectif de discerner les utilisateurs ayant de telles idées, et leur proposer de l’aide.

Mais pas au sein des pays de l’UE, puisque le GDPR (Règlement général sur la protection des données) qui prévaudra dès 2018 empêchera ce type de profilage.

« Reconnaître les comportements »

Dans un article posté sur le blog du réseau social, le vice-président des produits Guy Rosenun explique : « Cette approche utilise une technologie de reconnaissance de types de comportement afin d’aider aider à identifier les messages et les vidéos en direct exprimant potentiellement des pensées suicidaires ».

Pour ce faire, l’intelligence artificielle devra scanner, en permanence et intégralement, tout message ou tout vidéo à la recherche de signes, que les mots soient exprimés à écrit ou dans le cadre d’une vidéo Facebook Live. En cas de détection, une fenêtre apparaîtra automatiquement afin de proposer de l’aide. Il sera alors proposé à la personne concernée de parler à un ami, prendre connaissance de conseils ou entrer en communication avec un humain appartenant à l’une des associations partenaires dans le monde.
Seulement, l’utilisateur sera dans l’incapacité de désactiver cette intelligence artificielle, consentant ainsi à ce que tout son contenu soit passé au crible.