Modération : les fake news, la politique et Facebook

Avec 2,8 milliards d’utilisateurs actifs chaque mois, Facebook est le plus grand réseau social du monde, devant Youtube, devant WeChat. Qui dit beaucoup d’utilisateurs dit beaucoup de contenu publié, donc beaucoup de propos à surveiller. Les récentes révélations de la lanceuse d’alerte Frances Haugen reviennent braquer le projecteur sur les actions réalisées ou non par le réseau de Mark Zuckerberg pour modérer les propos éléments publiés sur sa plateforme.   

💡 Pourquoi c’est intéressant ? Parce que chaque plateforme a ses propres règles, et que s’intéresser à chacune au cas par cas permet de mieux saisir les enjeux spécifiques de leur modération, humaine comme algorithmique. Après ce second épisode, il sera déjà possible de comparer les problématiques auxquelles Facebook doit répondre avec celles de Twitter, dont nous parlions la semaine dernière. 

En bref : 

Les faits : 

📇 Un instantané de Facebook

Traçons d’abord les contours du réseau du jour. Lancé en 2004 par Mark Zuckerberg et deux autres étudiants d’Harvard sous forme de trombinoscope, Facebook devient un réseau social public en septembre 2006. Selon la Revue des médias, Facebook truste la place de réseau le plus populaire du monde depuis 2009. Au début des années 2010, il est vu comme vecteur d’une plus grande discussion démocratique, notamment grâce aux Printemps Arabes. En 2011, rappelle le journaliste Ryan Broderick🇬🇧, il met en place sa première version d’un algorithme de tri des actualités remontées dans le fil d’actualité (plutôt qu’un ordonnancement chronologique des publications). Puis, la montée de l’alt-right américain et l’arrivée du Brexit soulèvent des inquiétudes croissantes envers la manipulation de l’information, la distorsion du discours public et la violence qui découlent de l’usage de la plateforme. 

Malgré tout, au premier trimestre 2021, Facebook rassemble chaque jour 1,88 milliard de personnes, ou 2,85 milliards par mois. Cela le place derrière Youtube en nombre d’utilisateurs quotidiens, mais devant en nombre d’utilisateurs mensuels (Journal du net, Statista). Facebook déclare être disponible dans 100 langues différentes (Le Monde €). Son modèle économique repose très majoritairement sur la publicité ciblée : l’entreprise vend aux annonceurs des espaces publicitaires auprès d’utilisateurs dont le réseau a développé une connaissance très fine (Brief.eco). L’entreprise gère au total quatre réseaux : Facebook, Messenger (anciennement entièrement intégré à Facebook), WhatsApp et Instagram. Nous ne nous pencherons que sur le premier ici.

🧑‍🤝‍🧑 Qui sont ses utilisateurs ? À l’échelle de la France, 45,9 millions de visiteurs uniques se rendaient sur Facebook chaque mois en juin 2020 (Proinfluent, agence spécialisée dans le marketing digital). 43% sont des femmes dans le monde (51% en France) (Digimind). Les utilisateurs de Facebook sont globalement plus âgés que ceux d’autres plateformes – 32% ont entre 25 et 34 ans et 25% entre 35 et 54 ans – ce qui l’inquiète (Junto, The Verge 🇬🇧, Bloomberg 🇬🇧). Selon le Pew Research Center 🇬🇧, aux États-Unis, il y a presque autant de Démocrates que de Républicains qui utilisent Facebook (chose rare sur les autres principaux réseaux sociaux) et ils sont davantage diplômés que la population globale. Depuis 2016, Facebook fait face à la chute de l’engagement de ses utilisateurs (Social Media Today 🇬🇧, Mobile Monkey 🇬🇧, Forbes 🇬🇧). 

⚙️ Pas assez de modération ? 

• fausses informations 

Le mensonge, la manipulation et la propagande ont toujours existé. Mais à l’échelle de l’humanité, la notion de “fake news” telle qu’on l’utilise aujourd’hui, très liée à et amplifiée par le monde numérique, date d’hier. Selon cette histoire dressée par la BBC 🇬🇧 en 2018, elle remonte à 2016 et à la campagne qui vit Donald Trump accéder à la présidence des États-Unis (pour replacer les fausses infos dans le temps long : News Decoder 🇬🇧, Center for information, technology and society 🇬🇧, The Guardian 🇬🇧). 2016, c’est l’époque du Pizzagate, théorie d’un complot supposé entre Hillary Clinton et des réseaux pédophiles, que l’on retrouve aujourd’hui dans les thèses du mouvement QAnon. Les États-Unis sont aussi la terre natale de Facebook, réseau via lequel beaucoup de fausses informations sont diffusées. 

• usages et pressions politiques 

Aux États-Unis, Facebook est accusé d’être “une quasi-branche du Parti démocrate” (LifeSite 🇬🇧) ou au contraire “le réseau social de la droite” (Vanity Fair 🇬🇧, The New York Times 🇬🇧). En réalité, Facebook est aussi populaire chez les démocrates que les républicains. Mais ces oppositions – et le fait qu’Andrew Bosworth, responsable de la réalité augmentée et virtuelle chez Facebook, confesse lui-même que la plateforme “a contribué à l’élection de Trump” en 2016 grâce aux algorithmes publicitaires ultra-efficaces de Facebook (BuzzFeedNews 🇬🇧, Ouest-France) – traduisent les fortes pressions politiques que subit le réseau. 

Au fil des ans, une série de lanceurs d’alertes ont mis en lumière les effets dévastateurs de Facebook pour le tissu social et démocratique, sur le territoire américain comme ailleurs. Christopher Wylie, par exemple, l’a fait dans l’affaire Cambridge Analytica (Mindfuck €, Le Monde, Le Monde), tandis que la data scientist Sophie Zhang regrettait publiquement début 2021 n’avoir pas pu modérer les publications violentes et fausses, notamment dans des pays autoritaires (The Guardian 🇬🇧, Le Monde €). Les contenus faux étant plus clivants que le reste, ils suscitent aussi plus d’engagement et de temps passé sur la plateforme, ce qui, économiquement, est intéressant pour Facebook (Média+). 

On peut aussi intégrer la notion d’astroturfing (que l’on définissait ici) à la définition de la fausse information : en faisant gonfler artificiellement le nombre de likes, de commentaires et de re-publications, cette pratique donne l’impression que tel ou tel contenu a un succès bien plus large que dans la réalité. Selon Sophie Zhang, dont le mémo interne est cité dans Buzzfeed news 🇬🇧, cela a participé à manipuler l’opinion en Inde, en Bolivie, en Espagne, en Équateur, etc.

• violence

Problème : ces pratiques engendrent parfois très directement des violences. Facebook sait depuis 2016 qu’il pousse des utilisateurs à la radicalisation : un document interne montrait à l’époque que 64% des gens qui rejoignaient des groupes extrémistes sur le réseau le faisaient via ses propres outils de recommandations (The Wall Street Journal 🇬🇧). “Je sais que j’ai du sang sur les mains”, écrivait 4 ans plus tard Sophie Zhang, regrettant l’absence de moyens et de soutien pour modérer les contenus haineux qu’elle découvrait partout dans le monde. Facebook est par exemple pointé pour son rôle dans le génocide des Rohingyas en Birmanie (Reuters 🇬🇧, La Tribune), dans la violence politique et humaine en Inde (Le Monde), en Éthiopie (CNN Business 🇬🇧), etc.

Outre les nombreux cas portés par des forces politiques, Facebook est visé depuis longtemps par des critiques sur sa gestion laxiste des contenus violents. Cela a été le cas pour la diffusion en direct d’attaques et de propagande terroristes (Numerama, Le Monde), de meurtres (Le Figaro, Le Point, Paris Match), de violences contre les femmes voire d’agressions sexuelles (Terrafemina, 20minutes, SecNews). Certains pans de la population souffrent plus que d’autre des failles de modération : en octobre 2020, une enquête menée par l’ONG Plan International à travers 22 pays a montré que c’était sur Facebook que les jeunes femmes (12-25 ans) étaient le plus victimes de cyberharcèlement (The Guardian 🇬🇧, L’ADN).

⚙️ Trop de modération ? 

Mais rien n’est simple. Comme Twitter et d’autres réseaux, Facebook est aussi pointé pour des excès de modération. En 2017, plusieurs collectifs féministes critiquaient le double standard qui permet aux contenus purement sexistes ou au revenge porn de rester sur la plateforme tandis que des pages dédiées à dénoncer les violences conjugales étaient suspendues (Libération). Autre exemple, en mai 2021 : alors que les affrontements entre Israël et Palestine redoublent, Facebook est accusé de censurer la parole en supprimant des comptes et publications de soutien à la Palestine (NBC News 🇬🇧, France 24). Entre le 6 et 19 mai, une étude de l’organisme 7amleh-The Arab Center for Social Media Advancement 🇬🇧 a recensé 500 signalements de violation des droits numériques des Palestiniens sur les réseaux sociaux, dont plus d’un tiers sur Facebook. 

Qu’il modère ou pas, la manière dont Facebook ordonne et présente l’information qui arrive sur les fils de ses utilisateurs a un effet sur le monde réel. Yann LeCun, directeur de la recherche en intelligence artificielle chez Facebook, pointe par exemple que selon certaines études (et certains contextes sociopolitiques), couper l’accès à la plateforme ne résoudrait rien puisque la population deviendrait encore plus polarisée. Sophie Zhang soulignait de son côté que les hésitations de Facebook dans les cas de communications politiques avaient des effets très directs dans la manipulation, la production de fausses informations voire la vie hors ligne (Le Monde €). C’est arrivé aux États-Unis avec Trump, en Inde avec le Bharatyia Janata Party (The New York Times 🇬🇧, The Guardian 🇬🇧), en Azerbaïdjan, où les trolls du gouvernement n’ont quasiment pas été ralentis (The Guardian 🇬🇧) et au Honduras, où le président a faussement grossi sa popularité à la veille des élections de 2017 (The Guardian 🇬🇧), entre autres exemples.

👮 Mais que fait la police Facebook ? L’entreprise est justement au cœur d’une nouvelle tempête médiatique depuis le 13 septembre 2021, au sujet (entre autres) de sa modération. La lanceuse d’alerte Frances Haugen, ancienne ingénieure du département “intégrité civique” de Facebook, a transmis au Congrès américain et au Wall Street Journal 🇬🇧 les Facebook Files, des milliers de documents qui permettent d’en savoir plus sur ce qu’il se passe à l’intérieur de l’entreprise. Mais remontons d’abord un peu dans le temps, car Facebook n’est pas resté inactif : 

🧰 À quoi ressemble l’attirail de modération de Facebook ? 

Comme chez Twitter, la modération de Facebook est le fruit d’une association entre humains et algorithmes. Depuis 2016, au moins, l’entreprise a des équipes “intégrité”, mais selon plusieurs ex-employés, il leur était relativement difficile de savoir quand prioriser la sécurité des utilisateurs, quand choisir les objectifs techniques et commerciaux (Protocol 🇬🇧). 

En 2017, Facebook employait 4 500 modérateurs de contenus pour le monde entier, et prévoyait d’en embaucher 3 000 de plus (Le Figaro). Ceux-ci ont pour mission d’analyser chaque publication signalée et de juger si elle viole les règles d’utilisation de Facebook. La même année, The Guardian 🇬🇧 publiait le guide interne de modération du réseau : des centaines de documents pour savoir comment gérer les discours haineux, les images et vidéos violentes, la pédophilie en ligne, la nudité et la sexualité, le contenu terroriste ou anti-migrant. Leur étude révélait l’incohérence et la complexité de certaines règles, mais aussi la surcharge de travail incombant aux modérateurs. Théoriquement, ceux-ci devaient modérer une publication toutes les 10 secondes (Libération). 

À partir de là, le rôle des robots a été accru. En 2018, au motif que les modérateurs se trompaient “dans un cas sur 10”, Facebook a développé une intelligence artificielle pour éliminer les contenus contraires aux règles du réseau. Résultat, rapporte l’entreprise, 97% des contenus haineux sont supprimés avant d’avoir été signalés, contre 60% avant l’introduction du nouvel algorithme (Les Echos €). Selon les Facebook Files, ce chiffre est néanmoins contesté par des groupes de défenses des droits civiques et par les propres ingénieurs de Facebook, qui évoquent une surestimation (the Wall Street Journal 🇬🇧). 

Mais restons en 2018 : empêtré dans le scandale Cambridge Analytica, Facebook présente aussi le combat contre la désinformation comme l’une de ses priorités (Les Echos). Elle crée une war room contre les fausses infos, qu’elle réactive pour les élections des pays occidentaux (The Guardian 🇬🇧, Le Figaro). Depuis, l’entreprise multiplie les initiatives : elle développe des outils de sensibilisation (20 minutes), travaille sur les contenus politiques (Europe 1), sur le réchauffement climatique (Sud Ouest), sur le sujet des vaccins (La Tribune)… En août 2020, une étude de l’association Avaaz 🇬🇧 estimait pourtant ces efforts insuffisants. Seulement 16% de tous les contenus erronés relatifs à la santé publique portaient une étiquette d’avertissement de Facebook, par exemple (Les Numériques).

En 2018, toujours, Facebook modifie aussi l’algorithme responsable de l’ordre des publications affichées dans le newsfeed. L’entreprise présente cela comme un moyen d’améliorer le bien-être des internautes (en interne, révèlent les Facebook Files, elle s’inquiète surtout de la baisse d’engagement des utilisateurs). L’expérience a rapidement montré que cette évolution était contre-productive en matière de modération : elle poussait en fait encore plus de contenus violents, toxiques et faux en avant (Technology Review 🇬🇧, the Wall Street Journal 🇬🇧, Clubic, Le Monde€). 

Mais Facebook continue de tester. Fin 2019, la société de Mark Zuckerberg décide de lancer son propre comité de surveillance indépendant, le Facebook Oversight Board (Le Monde). The Conversation en précise la composition : “des journalistes mais aussi des usagers et des personnalités, pas tous de nationalité américaine, dont l’intégrité morale est incontestable”. Juriste spécialiste de la régulation des discours en ligne, Evelyn Douek 🇬🇧 qualifie ce board de “l’un des projets constitutionnels les plus ambitieux de l’ère moderne et un moment clé dans l’histoire de la gouvernance de la liberté d’expression en ligne”. À l’inverse, et même si les dirigeants de Facebook ont insisté sur le caractère indépendant du Board, la professeure des sciences de l’information et de la communication Divina Frau-Meigs estime qu’“il s’agit d’une confiscation du juridique par une instance qui n’a de valeur que celle que lui reconnaît Facebook”. Elle rappelle que la société a financé ce conseil à hauteur de 130 millions de dollars et a choisi les 20 membres constitutifs. 

Depuis au moins 2020, le nombre de modérateurs avancé par Facebook est de 15 000 dans le monde, répartis sur 20 sites et parlant 70 langues (Venture Beat 🇬🇧). C’est plus qu’en 2017, mais ça laisse 30 langues sans gestion. Sans parler de celles qui, comme l’arabe, troisième langue la plus utilisée sur le réseau, est en fait un groupe de langues dont les différentes variations ne sont pas compréhensibles par tous les locuteurs. Facebook est incapable de gérer correctement les publications dans ces différents dialectes précisément parce que ses modérateurs parlent quasi uniquement l’arabe marocain, très différent, par exemple, de celui d’Irak ou de Lybie (Le Monde €). 

🗄️ Qu’ont montré les Facebook Files ? 

Un tas de trucs (on en parlait ici) !

📁 Citons ici l’existence du programme XCheck qui offre un traitement privilégié à des millions d’utilisateurs “VIP” en les exonérant des règles d’utilisation de Facebook (The Wall Street Journal🇬🇧). Cela signifie que si une star du foot affiche des photos d’une femme nue sans son consentement, ou qu’un Président appelle à la violence, leurs publications seront modérées moins vite qu’un utilisateur lambda (alors que ces comportements sont interdits dans le réglement de Facebook). Les documents illustrent aussi l’ampleur des manquements de Facebook en matière de modération, face aux publications des cartels de drogue au Mexique, des trafiquants d’êtres humains du Moyen-Orient, de groupes armées en Éthiopie, ou même des militants américains anti-vaccins qui ont pu semer de fausses informations sur la vaccination en toute liberté (the Wall Street Journal 🇬🇧, the Wall Street Journal 🇬🇧, Flint). Auprès de 60 Minutes (🇬🇧), Frances Haugen explique avoir été témoin de “conflits d’intérêts récurrents” entre ce qui est bon pour le grand public et les intérêts de Facebook. Selon l’ingénieure, l’entreprise préfère toujours son propre intérêt à la réduction d’engagement que créerait, par exemple, la modération de contenus violents, conflictuels, déprimants.

📁 Parmi les éléments relatifs, encore, à la modération, Frances Haugen a aussi accusé Facebook d’avoir contribué aux événements du Capitole en janvier 2021 (CBS News 🇬🇧) : durant la campagne présidentielle américaine, Facebook avait reconfiguré ses algorithmes pour limiter la diffusion de fake news. Selon la lanceuse d’alerte, l’entreprise a rétabli les réglages habituels aussitôt l’élection passée, “pour prioriser la croissance plutôt que la sécurité” (voir aussi Le Monde €).

📁 Les documents soulignent à nouveau à quel point la qualité de la modération varie d’un pays à l’autre. En 2020, 87% du temps passé à entraîner des algorithmes de détection de la désinformation a été consacré à des publications américaines, laissant 13% du temps au reste du monde. Une grosse problématique pointée par de multiples articles de presse porte sur les fonds et le temps accordé aux différentes langues. Pour les logiciels de détection des contenus haineux, 26% du temps a été consacré à l’anglais, 8% à l’espagnol, 7% à l’arabe, 4% au français. Les 96 autres langues ont dû se répartir les 65% de temps restant (lire, par exemple, Rest of World 🇬🇧).

📁 Les pays les plus instables politiquement sont aussi, souvent, ceux pour lesquels Facebook ne dispose d’aucun outil de modération performant, ni de modérateur humain parlant la ou les langues. Les contenus haineux qui y sont déversés sans surveillance participent aussi à renforcer les instabilités politiques (lire, par exemple, Affordance). 

📁 Les documents sont aussi intéressants en ce qu’ils illustrent comme les décisions algorithmiques peuvent échapper à leurs constructeurs. La question avait déjà été abordée par la Technology Review 🇬🇧 (ici dans Flint), mais les Facebook Files l’éclairent différemment. Le Washington Post 🇬🇧 s’intéresse par exemple à certaines décisions forcément un peu arbitraires incluses dans ces mécaniques technologiques et à leurs effets sur l’information reçue (comme le fait de donner plus de poids à l’emoji “colère”. Résumé très grossièrement, le résultat est nécessairement plus clivant et rageant que si on avait surpondéré l’émoji “like”, “j’adore” ou “solidaire”) (voir aussi Le Monde €).

Pour compléter ou corriger cet article, 📝 rendez-vous sur sa version participative ou venez 💬 en discuter avec nous sur Discord.