Soutenez

Discours haineux: Facebook admet ses faiblesses

Photo: Matt Rourke / The Associated Press
Michael Liedtke - The Associated Press

SAN FRANCISCO — L’exclusion des discours racistes, sexistes et de tous les autres commentaires haineux de Facebook s’avère difficile pour l’entreprise, parce que les logiciels ont du mal à comprendre les nuances dans le langage humain, a expliqué mardi le réseau social.

Facebook a reconnu que son système de contrôle était meilleur pour détecter la violence explicite, la nudité gratuite et la propagande terroriste. Selon le réseau social, les outils automatiques ont filtré de 86 à 99,5 pour cent de ces violations.

En ce qui concerne les discours haineux, toutefois, les employés de Facebook et les algorithmes informatiques n’ont identifié que 38 pour cent des violations. Les autres cas avaient été signalés par les utilisateurs de Facebook qui jugeaient ces contenus offensants.

Le rapport publié mardi était le premier compte-rendu de Facebook sur les contenus qu’il retire de sa plateforme. Toutefois, ces statistiques couvrent une période relativement courte, soit d’octobre 2017 à mars de cette année, et elles n’indiquent pas combien de temps il a fallu à Facebook pour retirer les contenus problématiques.

Les documents ne dévoilent pas non plus le nombre de publications inappropriées qui ont été omises par Facebook.

L’entreprise dit avoir retiré 2,5 millions de publications contenant un discours haineux pendant les trois premiers mois de l’année, ce qui constitue une augmentation par rapport à 1,6 million au trimestre précédent. Facebook dit avoir réussi à mieux détecter les cas, même si les algorithmes ont de la difficulté à saisir le contexte et le ton des messages.

Facebook a aussi supprimé 3,4 millions de publications présentant de la violence explicite de janvier à mars 2018, soit le triple des 1,2 million recensés dans les trois mois précédents. Dans ce cas, le réseau social explique cette augmentation par le fait que les utilisateurs ont partagé davantage d’images de zones en guerre, dont la Syrie.

L’entreprise fournit un effort supplémentaire de transparence alors qu’elle tente de regagner la confiance du public, échaudé par le scandale de Cambridge Analytica, une firme liée à la campagne du président Donald Trump qui avait eu accès aux données personnelles de dizaines de millions d’utilisateurs Facebook.

Le filtrage du contenu n’a toutefois aucun lien avec la protection de la vie privée; il vise plutôt à maintenir un environnement sain sur le réseau social.

Le rapport aborde aussi les faux profils, un phénomène qui a attiré beaucoup d’attention dans les derniers mois alors que des agents russes auraient utilisé ce stratagème afin d’influencer l’élection américaine de 2016.

Facebook dit avoir désactivé 583 millions de faux comptes pendant les trois premiers mois de l’année, soit moins que le trimestre précédent, alors que l’on en avait dénombré 694 millions. Selon le réseau social, leur nombre tend à fluctuer d’un trimestre à l’autre.

Dans ce cas, plus de 98 pour cent des comptes ont été désactivés avant que des utilisateurs ne les signalent.

Articles récents du même sujet

Mon
Métro

Découvrez nos infolettres !

Le meilleur moyen de rester brancher sur les nouvelles de Montréal et votre quartier.