L’explosion des réseaux sociaux, avec Facebook et Twitter en tête de proue, a permis une libéralisation démesurée de la parole haineuse, et avec elle l’apparition de « haters » ou « trolls », sortes d’harceleurs 2.0. Ces nouveaux caïds du net sont légions sur les plateformes de communication, et peu d’actions sont faîtes par les géants du net pour les stopper dans leur entreprise de haine. Pourquoi ?
« Je quitte Twitter ce soir les yeux plein de larmes et le coeur plein de tristesse. Toute cette haine parce que j’ai fait un film. Vous pouvez détester le film, mais je ne mérite pas ce que j’ai dû endurer aujourd’hui ». C’est avec ces quelques mots que l’actrice américaine Leslie Jones a annoncé son départ temporaire de Twitter le lundi 18 juillet. A l’affiche du troisième volet de la saga Ghostbusters, l’humoriste afro-américaine, connue pour ses apparition déjantées dans le Saturday Night Live, a reçu un flot de tweets haineux et racistes à la sortie du film.
{"type":"Pave-Haut2-Desktop"}
I leave Twitter tonight with tears and a very sad heart.All this cause I did a movie.You can hate the movie but the shit I got today…wrong
— Leslie Jones (@Lesdoggg) 19 juillet 2016
« Leslie Jones ressemble à un orang-outan », « Elle n’a aucun style, aucune grâce, cette Leslie Kong a une drôle de tête », « Négresse aux grosses lèvres », pouvait-t-on lire sur le compte Twitter de la comédienne de 48 ans. Cette dernière a également dû faire face à un internaute usurpant son identité pour publier de faux tweets calomnieux. Voulant mettre fin à cette campagne de haine, Leslie Jones a essayé d’interpeler le réseau social :
« Twitter, je comprends que vous teniez à la liberté d’expression. Mais il doit y avoir des règles de conduite quand vous laissez la haine se répandre ainsi. Vous pouvez voir sur certains de ces profils que les gens sont malades. Il ne suffit pas de bloquer ces comptes, ils devraient être signalés aux autorités. »
Un peu plus tard, Jack Dorsey, le PDG de Twitter, a répondu à Leslie Jones, lui demandant de venir lui parler en privé. Milo Yiannopoulos, un journaliste pro-Trump, principal instigateur du harcèlement subi par la comédienne, s’est finalement vu suspendre du réseau social. Mais la mésaventure de l’actrice n’est pas un cas isolé. Avant elle, plusieurs autres personnalités, comme Lena Dunham, la créatrice de la série Girls, et beaucoup d’internautes lambdas ont été, et sont toujours, la cible de commentaires haineux sur les réseaux sociaux.
« Le système de modération de Facebook est complètement inadapté »
La critique faite aux réseaux sociaux, qui revient souvent de la part des internautes, est leur incompétence dans leur manière de modérer et de réduire la haine qu’ils abritent. Jennyfer, étudiante de 21 ans en communication à Toulouse, est inscrite sur Facebook depuis 2009. Elle ne revendique pas forcément son homosexualité sur le réseau social, mais reçoit régulièrement des commentaires homophobes de personnes se sentant obligées de l’attaquer sur sa sexualité dès qu’il y a un désaccord :
« Les gens sont plus enclins à donner leur avis, leur opinion, et cela s’accentue avec l’effet de masse. Facebook, et les réseaux sociaux en général, sont devenus une plateforme où il est simple, rapide et efficace de déverser sa haine contre n’importe qui »
La jeune femme admet avoir arrêté de signaler les posts négatif qui lui sont adressés, considérant que « le système de modération de Facebook est complètement inadapté et inutile dans ce genre de cas » et que le réseau social « ne fait absolument rien lorsque l’on signale un commentaire ou une publication ». La procédure de signalement semble en effet rarement aboutir. Jennyfer raconte ainsi qu’une personne avait un jour repris une de ses photographies pour la retoucher, lui ajoutant des poils de barbe, et qu’après de multiples signalements, le montage était toujours disponible.
« Le compte n’enfreint aucune de nos règles »
Maxime, étudiant en école de commerce de 22 ans à Paris, est un utilisateur actif de Twitter depuis 2013, qui reçoit lui aussi des messages haineux, touchant à son homosexualité. Et le constat est le même ; Twitter est inactif face aux tweets haineux postés sur sa plateforme.
Maxime a engagé une procédure judiciaire à l’encontre de certains de ces utilisateurs. Aux insultes homophobes se sont, selon lui, succédé la divulgation de photographies et de coordonnées privées, l’usurpation de son identité à travers de faux tweets postés en son nom et la divulgation de fausses informations à son égard.
Le jeune homme confie ne plus signaler les tweets et comptes insultants, Twitter lui ayant déjà répondu « le compte n’enfreint aucune de nos règles ». Il a notamment l’impression que « les équipes de Twitter ne prennent pas du tout au sérieux ce phénomène et toute cette haine. De fait, Twitter devrait être le premier palier contre ces comportements et les propos haineux voire hors-la-loi. Mais il ne l’est pas. »
Les réseaux sociaux sont-ils juridiquement en tort ?
Anthony Bem, avocat spécialisé dans le droit de l’Internet, explique que les réseaux sociaux ne sont pas responsables du contenu qu’ils abritent. Selon la loi pour la Confiance dans l’Economie Numérique (LCEN), qui date du 21 juin 2004, ils ont un statut d’hébergeur, dont la responsabilité est mise en jeu seulement lorsqu’ils sont notifiés d’un contenu illicite contraire à la loi française.
Tant qu’un message haineux n’est pas signalé, Facebook, Twitter et compagnie ne sont donc pas poussés à exercer une surveillance accrue des messages postés sur leur plateforme, laissant la haine rapidement se propager. L’avocat énonce « naviguer en eaux troubles » avec un « droit de l’Internet en gestation », déplorant que les réseaux sociaux tombent sous une loi datant de 2004, époque à laquelle ils n’existaient pas encore.
Anthony Bem ajoute qu’une autre difficulté se pose avec les réseaux sociaux :
« Les réseaux sociaux sont souvent basés à l’étranger. On peut assigner en justice un site étranger en France, mais il faut ensuite faire accepter ce jugement à l’étranger. Ainsi, si je fais condamner Facebook car il héberge des propos antisémites, après l’exécution de la décision, il faut engager des procédures à l’étranger. Est-ce-que le juge étranger va aller dans le même sens ? C’est une deuxième procédure dans la procédure. »
Une modération pas très efficace
Un problème majeur est que lorsque les réseaux sociaux sont notifiés d’un contenu illicite violant la loi française, et leurs conditions d’utilisation, peu d’actions sont mises en oeuvre pour qu’il soit supprimé. Beaucoup de ces réseaux sociaux ont, en effet, un système de modération quelque peu défectueux.
Un récent testing des associations SOS Racisme, SOS homophobie et l’Union des Etudiants Juifs de France (UEJF), effectué du 30 mars au 10 mai 2016, a apporté une preuve concrète de cette inefficacité des modérateurs de Facebook et Twitter. Sur 156 contenus « à caractère raciste, antisémite, homophobe et illicite » signalés sur Facebook, et 205 sur Twitter, seulement 34% ont été supprimés sur le premier, et 4% sur le deuxième.
Sacha Reingewirtz, président de l’UEJF, estime qu’il existe une véritable « impunité sur les réseaux sociaux » et déplore que le travail de modération « ne soit quasiment pas fait » :
« Il faudrait qu’il y ait davantage de modérateurs, et de modérateurs formés. Ce serait bien de connaître la nature des équipes de modération, et la raison pour laquelle la plupart des signalements ne sont pas traités. Il y a un moyen considérable qui est investi dans l’intelligence artificielle ou collective, mais pas dans la modération. Il existe beaucoup d’opacité sur cette question. »
Ce manque d’investissement dans la modération des contenus de Facebook et Twitter a poussé SOS Racisme et l’UEJF à les assigner en référé devant la justice française. Après une première audience le 19 juillet, l’affaire est renvoyée au 18 octobre, afin de permettre aux associations et aux deux réseaux sociaux de trouver un accord, pour que les messages haineux diminuent sur leur plateforme.
« Nous sommes nuls dans notre manière de lutter contre le harcèlement »
Les réseaux sociaux sont-ils donc entièrement à blâmer ? Facebook et Twitter se sont bien évidemment dotés de règles d’utilisations qui ne tolèrent pas le harcèlement et la violence, qu’elle prenne la forme d’insulte raciste, homophobe, contre une appartenance religieuse, pour se moquer d’un handicap ou d’une maladie.
Contacté par mail, Facebook n’a pas répondu à notre demande d’interview. Le directeur en matière de communication et de politiques publiques de Twitter en Europe a, quant à lui, insisté sur le fait que le réseau social à l’oiseau bleu prend sérieusement en compte le combat contre les tweets haineux. Il nous renvoie notamment vers une tribune d’Audrey Herblin-Stoop, directrice des relations institutionnelles et associatives de Twitter en France, parue dans Le Monde en février 2016, dans lequel elle tient un discours similaire.
L’ancien PDG de la firme, Dick Costolo, semble être le seul conscient des failles des réseaux sociaux dans la modération de contenus violents, et notamment de celles de Twitter. Il admettait ainsi en février 2015, dans un mémo interne à l’entreprise que s’était procuré le pureplayer américain The Verge :
« Nous sommes nuls dans notre manière de lutter contre le harcèlement, et nous le sommes depuis des années. Ce n’est pas un secret et le reste du monde en parle tous les jours. Nous perdons des utilisateurs les uns après les autres parce que nous n’abordons pas efficacement de simples problèmes de trolling auxquels ils font face chaque jour. »
Si les PDG des réseaux sociaux sont eux-mêmes conscients du manque flagrant de moyens pris pour combattre la haine sur les réseaux sociaux, pourquoi ce combat ne fait-il pas partie de leurs priorités ? Difficile à dire. Mais pour le psychologue et psychanalyste Michael Stora, co-fondateur de l’Observatoire des Mondes Numériques en Sciences Humaines (OMNSH), « il existe une très forte hypocrisie de la part des réseaux sociaux. Une modération fine exigerait des investissements financiers importants ».
Il admet qu’il y aura toujours « des êtres humains qui s’apparentent à des trolls, et qui utilisent les réseaux sociaux comme des lieux de haine, de propagation de la haine ». Il appelle cependant à « réfléchir à des formes de modération qui ne soient pas de la censure » et à « la mise en place de vrais modérateurs, qui ne soient pas engagés que pour la correction de bugs ».
{"type":"Banniere-Basse"}
