5 infos pour réfléchir à la problématique de la modération

Tu l’as lu au fil des semaines : nous nous intéressons souvent à la modération en ligne. Après tout, modérer, c’est trier le bon grain de l’ivraie : sélectionner des types de publications et d’informations qu’on ne veut pas voir sur une plateforme en ligne, laisser passer tous les autres pour l’usage des internautes. En partant d’ici, tu peux relire toute notre série dédiée aux problématiques de modération spécifiques à certains des plus grands réseaux sociaux. Mais aujourd’hui, ce que j’aimerais étudier, c’est comment attaquer le problème en pratique. Après tout, selon les résultats d’un sondage Ipsos pour l’association Féministes contre le cyberharcèlement, 4 français sur 10 ont déjà été victimes de cyberharcèlement, part qui grimpe à 87% chez les 18-24 ans. 

1️⃣ Comment éviter que les réseaux sociaux ne deviennent le lieu d’attaques et de désinformations répétées ? Comment faire, plus largement, pour les modérer ? 📰 Numerama a posé la question à plusieurs streameuses de la plateforme Twitch victimes de cyberviolences. Elles y esquissent une série de propositions qu’on pourrait rassembler en trois catégories :

• augmenter le nombre de personnes travaillant à la modération, 

• améliorer la détection automatique (du contenu faux, injurieux, mais aussi et surtout de création de multiples comptes à partir d’une seule adresse mail),

• proposer de meilleurs outils aux internautes pour faciliter leur autoprotection

Ces pistes sont transposables à d’autres réseaux sociaux – elles ont par exemple été promues lors de la campagne Fight Online Abuse Now de l’ONG américaine de défense de la liberté d’expression Pen America, plus axée sur les cas de Facebook et Twitter. 

2️⃣ On l’a vu pour Facebook ou Telegram, les plateformes sociales manquent de modérateurs. Problème : souvent synonyme de salaires bas et d’effets sur la santé mentale, le job n’a rien de simple. Pour t’en rendre compte, je te recommande les documentaires 🎥 Les nettoyeurs du web, 🎥the Moderators ou l’épisode 3 de la série 🎥 Invisibles de France Tv Slash. À l’écrit, tu peux aussi te tourner vers l’enquête du Monde 📰 “Dans la peau d’un modérateur de Facebook”, ou celle du 📰 Times sur les modérateurs de Sama, une société spécialisée dans la sous-traitance de travail numérique (modération, labellisation de données, etc) dans des pays d’Afrique. 

3️⃣ Nos productions numériques sont si importantes (720 000 heures de vidéos publiées chaque jour rien que sur Youtube) qu’une couche d’automatisation est devenue nécessaire. Dans 📰 l’ADN, le chercheur Romain Badouard souligne l’utilité de ce type de modération algorithmique face à la massification des usages numériques. Pour autant, cette technique n’est pas exempte d’erreurs. Dans 🔬The Conversation, le doctorant en sciences de l’information et de la communication Thibaut Grison montre par exemple que l’usage d’algorithmes peut transformer le tri de publications en cas d’école de discrimination. 

4️⃣ La capacité de modérer soi-même les messages agressifs est parfois considérée comme un pis-aller – en particulier quand c’est la seule option proposée dans un nouvel univers numérique comme le métavers, alors que le sujet de la modération est vieux comme le web (lire 🔬Olivier Ertzscheid). Ca n’aide pas non plus face à des informations fausses. Cela dit, si tu fais face à des cyberviolences, tu peux te retrouver à chercher des outils pour te protéger. Dans ces cas-là, les associations Nothing2Hide et Prenons la Une*, militant respectivement pour la protection de l’information et pour la juste représentation des femmes dans les médias, recommandent plusieurs outils que j’ai recensés dans ce thread. Parmi eux, deux guides assez complets : 📚celui de Pen America, pour les anglophones, ou le livre 📚Cybersexisme de l’association Stop Fisha en français.

5️⃣ Une dernière possibilité, explorée par la journaliste Lucie Ronfaut dans 📰 Le Monde, est celle de la modération communautaire – qui a déjà lieu du côté de Wikipédia, dans certains groupes Facebook ou ailleurs. Sur la base du volontariat et assez liée au sujet de discussion d’une communauté numérique précise, cette modalité de gestion des publications rappelle le fonctionnement des débuts d’internet. Lucie Ronfaut est aussi allée interroger trois modérateurs et modératrices françaises sur la réalité de leur occupation, pour  📻 Programme B, dont un qui participe à modérer bénévolement les publications d’un subreddit (un sous-forum de Reddit). À écouter pour boucler la réflexion !

* J’ai été secrétaire générale de Prenons la Une de janvier 2020 à janvier 2022