La cyberviolence, la politique et Twitter

Tweets supprimés, comptes suspendus, utilisateurs bannis même s’ils sont présidents des États-Unis… Depuis plusieurs années Twitter renforce sa politique de modération, tout en essayant de préserver la liberté d’expression de ses utilisateurs et une certaine neutralité politique. Ces décisions restent l’objet de critiques formulées par toutes les franges de la société. Quelles sont les méthodes adoptées par la plateforme de Jack Dorsey, face à la cyberviolence et aux différents discours politiques ? Quelles sont leurs conséquences ? Pourquoi font-elles encore débat ? 

💡 Pourquoi c’est intéressant ? Parce que se pencher sur les pratiques d’une plateforme précise permet de mieux saisir certains des enjeux que pose la modération en ligne. Et parce qu’il deviendra possible, au fil de nos publications, de comparer les différentes problématiques de modération, les décisions prises et leurs résultats selon les réseaux sociaux. 

Les faits

🧮 Quelques chiffres clés sur Twitter

Avant d’entrer dans le vif du sujet, il nous faut dessiner une image chiffrée de Twitter. L’entreprise a été fondée en mars 2006 par Jack Dorsey (aussi fondateur de la société de paiement électronique Square). Ses utilisateurs américains sont plus éduqués et plus souvent démocrates que la population générale, selon Pew Research Center. Le réseau est très utilisé par les politiques et les journalistes (Sia Partners, IAE Bordeaux). Au deuxième trimestre 2021, Twitter comptait 396,5 millions d’utilisateurs dont 206 millions d’utilisateurs journaliers actifs dans le monde, et 36% sont des femmes. En France, en juin 2020, plus de 4 millions de visiteurs uniques ouvraient Twitter chaque jour selon Médiamétrie. Autre donnée utile : plus 750 millions de tweets sont publiés chaque jour (Statista, Backlinko, Proinfluent).

😡 Twitter et la gestion de la haine

Comme expliqué dans l’épisode 1 de notre série, Twitter et la plupart des grands réseaux sociaux sont accusés de ne pas modérer correctement des tas de contenus. Nous nous pencherons ici plus spécifiquement sur les discours de haine. Ceux-ci peuvent viser n’importe qui, mais les femmes sont particulièrement ciblées puisque 76% de celles interrogées dans 8 pays par Amnesty International en 2017 ont subi des violences sur une plateforme sociale. Cela a un effet sur le débat public : 32% de ces femmes cessent ensuite de publier des contenus exposant leur opinion. La haine en ligne se renforce avec l’intersection des minorités, y compris dans l’espace français, montre ISD : les femmes non blanches, appartenant à des minorités ethniques ou religieuses, LGBTI ou handicapées sont victimes d’une violence redoublée. Ce déferlement de haine a aussi un effet sur le traitement de l’information, rappelait Reporters sans Frontières en 2016, puisqu’elle vise (entre autres) les journalistes. En 2020 selon l’UNESCO, entre 80 et 90% des femmes journalistes noires ou indigènes avaient vécu du cyberharcèlement contre 64% des femmes blanches. Pour revenir à Twitter, de plus en plus de journalistes, hommes ou femmes, quittent la plateforme, lassés de la violence qu’ils y subissent (Poynter, Libération). De même, des politiciens et des politiciennes de tous les courants se déconnectent, voire abandonnent la politique à cause de la violence en ligne (New-York Times, BBC). Twitter est aussi sous le coup de critiques pour une modération potentiellement partiale (mais ça, on y revient plus bas). 

En fait, Twitter est mauvais dans la gestion de la violence en ligne depuis ses débuts, montre cette enquête Buzzfeed. Pendant sept ans, ce que le média américain appelle une “approche “maximaliste” de la liberté d’expression” l’a même poussé à ignorer la question de la modération. 

Pourtant, dès 2007, l’écrivaine Ariel Waldam s’est plainte publiquement du harcèlement sexiste dont elle était victime. En 2013, le Gamergate, une campagne misogyne d’une rare violence, a visé la développeuse de jeu vidéo Zoë Quinn, entre autres, en utilisant Twitter (Le Monde, Korii). Les chercheurs en humanités numériques et rhétorique Liza Potts et Michael Trice argumentent que les participants du Gamergate ont découvert à ce moment-là une manière de retourner les fonctionnalités de Twitter contre certains de ses utilisateurs (les personnes harcelées), dégradant de ce fait leur expérience sur la plateforme. Depuis, les exemples d’attaques contre les femmes ou les féministes s’empilent, comme l’illustrent les témoignages recueillis par Marianne, ZDNet, Le Monde ici et là, ou encore Amnesty International. 

En janvier 2021, en France, plusieurs comptes de militantes féministes ont été suspendus (Libération, Numerama), pour avoir relayé l’interrogation “Comment fait-on pour que les hommes arrêtent de violer ?”. Ce cas permet d’illustrer l’un des paradoxes largement critiqué dans la modération de la plateforme : Twitter a jugé l’expression contraire à ses règles, considérant que ces propos véhiculaient l’idée qu’absolument tous les hommes sont des violeurs (les militantes dénonçaient le fait que plus de 95% des auteurs de viol soient des hommes selon les statistiques officielles – AFP, HCE). Pourtant, la plateforme laisse perdurer le harcèlement à caractère sexiste et sexuel, qui va facilement de l’insulte a la menace de viol voire de mort – ce que montrent ces témoignages recueillis par l’association NousToutes ou le documentaire SalePute (Arte). Ce type de cas pousse des internautes à critiquer une modération “à deux vitesses” (Libération). Le réseau social a finalement reconnu une “véritable erreur”, comme il l’avait fait après la suspension temporaire du compte de l’adolescente Mila en mars 2021 (Flint, Le Parisien).

Mais la misogynie n’est pas le seul problème : le racisme et l’homophobie ont largement cours sur la plateforme. En 2019, une étude de l’université de New-York établissait un lien entre discours racistes sur Twitter et violences hors ligne. En France, en mai 2020, les associations françaises SOS Racisme, l’UEJF, la Licra, J’accuse, le MRAP et SOS Homophobie ont décidé de poursuivre le réseau en justice (France24) pour avoir manqué à ses obligations. La Licra a même annoncé l’ouverture d’une expertise autour des moyens de modération de Twitter contre les propos haineux. La justice a donné raison aux associations en juillet 2021 exigeant de Twitter qu’il communique tous les documents relatifs aux moyens déployés pour lutter contre la haine en ligne (Siècle Digital). Dans la revue Intelligence artificielle, pratiques sociales et politiques publiques, on apprend que les termes gays ou lesbiennes sont plus facilement censurés par l’algorithme de modération de Twitter. Fin 2020, rapporte Numerama, plusieurs comptes de militants et militantes LGBTI sont suspendus, pour avoir utilisé les termes “gouines” et “pédés”, insultes réappropriées par les personnes visées pour en briser le stigmate. L’association de lutte contre le Sida Aides s’était alors opposée à la loi Avia, encore en discussion à cette époque, car celle-ci risquait d’augmenter la part de modération automatique entraînant ce genre de problématique.

Bref, Twitter a de vraies difficultés à modérer la haine. Le réseau social est même accusé de renforcer toutes les discriminations, soit en ignorant les violences, soit en faisant disparaître les “minorités”, femmes comprises (Amnesty, Haut Conseil à l’Égalité). Mais pour bien saisir le problème, il faut se poser la question suivante : 

⚖️ Comment Twitter modère-t-il les contenus ? 

C’est en 2013, soit sept ans après son lancement, que Twitter dévoile son premier outil de modération, selon BuzzFeed, alors que les accusations évoquées ci-dessus se faisaient de plus en plus pressantes. Cette fonctionnalité “signaler” a été ajoutée sous les tweets, permettant à chaque utilisateur d’alerter Twitter sur un contenu qui lui semble problématique. Cette modération initiale repose sur un principe assez simple : dès qu’un utilisateur signale un tweet, les modérateurs humains de Twitter jugent si le signalement est justifié, et par conséquent si le tweet doit être supprimé et/ou le compte suspendu. Ces décisions n’interviennent que si le tweet a été signalé et sont gérées par 1500 personnes, selon Capital.

Depuis 2013, Twitter a développé de nouvelles fonctionnalités et modernisé celles existantes, au fil des critiques reçues. Le Monde fait la liste : “clarification de ses règles (2015), facilitation des signalements de Tweet (2016), formation renforcée des modérateurs (2016), recours élargi aux algorithmes de détection automatique (2017), durcissement des règles contre les messages haineux (2017), baisse de visibilité des « trolls » (2018), fonctionnalité pour cacher les réponses et réduire le « bruit » (2019), contrôler qui peut répondre aux messages (2020)”. 

Arrêtons-nous quelques instants en 2017, lorsque Twitter décide d’automatiser une partie de sa modération. C’est là que les robots font leur entrée : un algorithme filtre chaque tweet posté, afin de repérer et sanctionner les utilisateurs employant des termes qu’on l’a entraîné à repérer comme inadéquats, ou les comportements inappropriés. Tout cela sans que les autres utilisateurs n’aient besoin de le signaler. Automatiser une partie de sa modération permet à Twitter de concentrer ses modérateurs humains (au nombre de 1 867 dans le monde, Numerama) sur les cas les plus graves comme les menaces de mort, l’apologie du terrorisme, le cyberharcèlement… Mais comme certains mots relèvent autant de l’insulte que de l’identification, comme dans notre exemple LGBT cité plus haut, il reste des erreurs. Des outils pour supprimer automatiquement des images pédophiles ou encore des comptes liés à l’État islamique ont également été ajoutés ces dernières années. Et puis, dans les cas très politiques, il arrive aussi que la direction de Twitter prenne elle-même les choses en mains (on en reparle dans quelques lignes).

En 2019, Twitter décide de collaborer plus avec les utilisateurs : la plateforme ajoute de l’auto-modération. Les auteurs de tweets peuvent désormais masquer les réponses qu’ils veulent, comme l’explique le Huffpost. Cette fonctionnalité offre la maîtrise des conversations qu’ils ouvrent aux utilisateurs et les protége ainsi un peu mieux des dangers du cyberharcèlement. Metropolitaine pointe néanmoins un risque d’uniformiser les réactions et les débats en ne faisant apparaître qu’un seul point de vue. Dernièrement, deux autres fonctionnalités ont rejoint l’arsenal : en septembre 2021, le Safety mode permet à la plateforme elle-même de bloquer pour les utilisateurs des comptes qui interagissent avec eux de manière indésirable. Puis,  depuis octobre, facilite le soft block, qui permet à l’utilisateur ou l’utilisatrice de “supprimer” discrètement un abonné, sans qu’il en soit averti et de manière définitive (Numerama, Numerama). 

Soyons bien clairs, la plateforme est consciente de ses lacunes en matière de modération. Comparée à Facebook, elle semble un peu plus critiquée pour sa gestion de la violence que pour des problématiques de fausses informations (quoique des outils spécifiques soient testés à ce sujet, selon France Inter). Pourtant, en 2015, le directeur général de Twitter Dick Costolo confiait à The Verge “Nous sommes nuls pour gérer les abus et les trolls sur la plateforme, et nous sommes nuls depuis des années.” Super. Des outils ont été déployés depuis, mais les problèmes persistent et les critiques, elles, se renforcent. Car Twitter, réseau favori du Président Trump avant et pendant son mandat de 2016 à 2020, a pris d’importantes décisions politiques. 

🗣 Twitter et la politique

Penchons-nous quelques instants sur les relations entre Twitter et les politiques américains, car celles-ci éclairent des enjeux auxquels la plateforme doit faire face dans le monde entier. Aux États-Unis, les Démocrates sont sur-représentés parmi les twittos et dans la masse globale de tweets, montre le Pew Research Center. La plateforme suspend des comptes de gauche (Wired) comme des comptes de droite (The New York Times), mais ce sont les républicains qui s’en plaignent le plus (par voie de presse, via l’ancien Président, etc). 

Quelques exemples : en 2017, raconte Numerama, plusieurs comptes conservateurs et de l’extrême-droite américaine ont perdu leur certification. En 2018, un billet du New York Post dénonçait les liens étroits entre Twitter et les démocrates, considérant que cela expliquait une supposée censure des républicains. À un an de l’élection présidentielle américaine 2020, comme le rapporte le Wall Street Journal, Twitter avait annoncé supprimer toute publicité politique de sa plateforme, car “la portée d’un message politique doit être gagnée, et non achetée”. À la BBC, Brad Pascale, directeur de la campagne de réélection de Donald Trump dénonçait cette décision comme “une nouvelle tentative de la gauche de faire taire M. Trump et les conservateurs”. 

Après avoir réduit la portée de plusieurs tweets du président américain Donald Trump puis suspendu provisoirement son compte à la suite de l’invasion du Capitole par ses partisans (New York Post), Twitter a décidé le 8 janvier de le suspendre définitivement, “afin de limiter les risques d’incitation à la violence”, contraire à ses règles d’utilisation (NBC News, New-York Times, Libération). C’est le premier réseau social à bloquer Donald Trump. La décision divise : si plusieurs personnalités se sont félicitées de cette décision (Hillary Clinton, CNN Business), d’autres restent mitigées sur le fait qu’une entreprise privée puisse agir de la sorte sur le débat public (Politico, Bloomberg, Cédric O, Aurore Bergé), voire accusent le réseau social de violer la liberté d’expression et le qualifient de censeur (Florian Philippot, Jean-Luc Mélenchon). Le fondateur de Twitter lui-même a déclaré “ne pas célébrer ni être fier” cette décision, la considérant comme “un échec de [leur] part pour promouvoir une conversation saine”. Il regrette que cette situation crée le précédent du “pouvoir qu’un individu ou une entreprise a sur une partie de la conversation publique mondiale” (@jack). 

En octobre 2020, nouvelle problématique : les Républicains accusent Twitter d’interférer dans la campagne présidentielle, selon Fox News, en “censurant la presse” et en protégeant la candidature du démocrate Joe Biden. Objet de la colère : le réseau social a bloqué deux articles du New York Post qui dévoilaient des documents accusant le fils de Joe Biden de corruption. Twitter dit avoir pris cette décision car ces documents contenaient des informations personnelles et avaient été piratés, explique Le Parisien (on appelle doxxing le fait de publier les informations personnelles d’une personne pour lui nuire, or cette pratique de harcèlement est interdite par Twitter). 

Le 9 septembre 2021, relate franceinfo, l’État du Texas (à majorité républicaine à l’élection présidentielle de 2020, La Croix) a adopté une loi interdisant aux réseaux sociaux de plus de 50 millions d’utilisateurs quotidiens (comme Twitter) de bannir des internautes pour leur opinion politique. Selon le gouverneur républicain Greg Abbott, ces “places publiques modernes” ont tendance “à supprimer les points de vue et idées des conservateurs” d’où l’objet de cette loi. Le 21 octobre 2021, le média Protocol révélait au contraire que des études internes à Twitter montrait l’existence d’un biais de ses algorithmes en faveur des politiciens et des médias de droite et d’extrême-droite.

🗽 Censure, prise de parti politique, respect des conditions d’utilisation, un peu des trois ? 

Pour la politiste Katharine Gelber, dans The Conversation, il est clair que la décision de bloquer le compte de Donald Trump ne s’apparente pas à de la censure, car “la liberté d’expression n’est pas garantie si elle blesse quelqu’un”. Aucun argument relevant de la liberté d’expression “ne garantit à un citoyen qu’il peut exprimer son point de vue sur une plateforme spécifique”, poursuit-elle. Dans 20minutes, la spécialiste du droit numérique américain Florence G’sell montre la particularité de ce cas : le compte Twitter officiel de Donald Trump avait été reconnu comme “forum public” par les juridictions américaines bien avant la suspension (Columbia News, Reuters). Cela l’empêchait de bloquer tout internaute au motif que cela violerait le Premier amendement de la Constitution. Mais cela impliquait également que ce compte soit considéré comme un espace de débat public américain, donc qu’il était aussi protégé par le Premier amendement relatif à la liberté d’expression. Elle voit en cette décision de Twitter “un évident problème démocratique”. 

Après que Twitter a censuré le compte d’un parti d’extrême-droite espagnol appelant à “stopper l’islamisation”, Fabrice Epelboin, spécialiste des réseaux sociaux, déclare à Marianne que Twitter “ne bloque pas spécialement des fake news, mais bien des opinions politiques” et qu’il s’apparente donc à un acteur politique à part entière. Pour lui, laisser Twitter et les autres réseaux sociaux faire ces décisions de modération crée un risque d’une “colonisation américaine par les GAFAM”. 

Soulignons qu’ailleurs dans le monde, Twitter est utilisé à divers fins politiques, y compris dans de vastes campagnes d’astroturfing (on expliquait le terme ici) sans modération aucune, alors que ce type de manipulation est interdite par les conditions d’utilisation. C’est le cas en Inde, par exemple, pour viser les opposants du premier ministre Narendra Modi (The Nation, the Wire), en Ouganda, pour repousser les femmes hors de la sphère politique (Rest of World)… En France, entre autres exemples possibles, ça sert aussi bien à critiquer l’état de Paris (Ouest-France) qu’à attaquer ou soutenir le Président de la République (L’Obs, Le Monde). 

🕊️ Mais du coup, est-ce qu’il existe des pistes, des solutions ?

Comme dit plus haut, Twitter continue à développer et expérimenter des fonctionnalités, notamment des options plus collaboratives. 

En 2018, comme le mentionne le magazine progressiste anglais spécialisé en culture et en politique The New Statesman, Twitter a voulu laisser ses internautes décider quels propos pouvaient être acceptés et ceux qui ne pouvaient pas l’être par un vote, une sorte de modération personnelle qui servirait à la collectivité (à lire sur le blog de Twitter). Pour la journaliste Sarah Manavis, il s’agit d’une manière pour Twitter de se décharger de ses responsabilités, et laisser ces décisions à des internautes aléatoires est dangereux. Elle plaide pour offrir cette possibilité aux personnes victimes de propos haineux, ou à des experts des dangers du langage violent.  

Depuis 2020, détaille International Business Times, Twitter expérimente aux États-Unis le système “Birdwatch” : ce nouvel outil participatif de modération doit permettre aux utilisateurs de signaler les tweets relayant une fausse information, et même de le faire apparaître sur la plateforme si assez de personnes l’ont signalé pour la même raison. Un forum distinct de la plateforme permettra aux internautes impliqués dans Birdwatch de discuter des signalements et des décisions prises. 

A l’extérieur des plateformes, de nombreux organismes militent pour une meilleure gestion des discours de haine et des violences sur les réseaux sociaux. Ainsi de PEN America, qui lançait hier 20 octobre une pétition pour inciter Facebook et Twitter a faire mieux, et publiait à l’été un rapport plein de pistes précises pour améliorer la situation. L’autre solution, bien sûr, c’est la loi, dont nous rappelions le cadre dans l’épisode 1. La loi dite “séparatisme” a par exemple imposé de nouvelles obligations aux réseaux sociaux, y compris, pour Twitter, celle de fournir le nombre exact de modérateurs alloués aux contenus français (Le Monde). 

Tanguy Oudoire et Mathilde Saliou

Pour compléter ou corriger cet article et apporter vos sources, 📝 rendez-vous sur sa version participative ou venez 💬 en discuter avec nous sur Discord. 

[Mise à jour 22 octobre 2021 : ajout de l’article de Protocol qui rapport les résultats d’études internes à Twitter, montrant un biais vers les contenus plutôt de droite (sans apporter d’explication sur les raisons de ce biais pour le moment)]

[Mise à jour 20 décembre 2021 : ajout du nombre de modérateurs humain de Twitter, amené par Numerama]