Modération de Tik Tok : désinformation, pornographie et censure

Comment ça se passe, la modération à la chinoise ? La gestion des publications sur les réseaux sociaux asiatiques a-t-elle quelque chose à voir avec les Facebook, les Twitter qui nous viennent d’Amérique ? Pour illustrer ces questions, continuons notre série sur la modération en nous penchant sur le cas de TikTok, la plateforme chinoise de vidéos courtes. Née après les autres réseaux sociaux, TikTok fait-elle face aux mêmes critiques que Facebook ou Twitter ? Les lois de Pékin modifient-elles quelque chose aux logiques de modération d’une telle plateforme ? Le fait d’avoir une audience plus jeune que la plupart des autres plateformes change-t-il la donne ? 

💡 Pourquoi c’est intéressant ? En mettant en parallèle ce cas d’étude avec celui des plateformes américaines, il est intéressant de constater des enjeux de modération globalement similaires, mais des usages (ou des perceptions) politiques relativement différents. 

Les faits : 

📈 TikTok, un développement explosif 

En 2016, l’entreprise l’entreprise chinoise ByteDance, dirigée par l’ingénieur Zhang Yiming et éditrice de la plateforme d’information Toutiao, décide de créer une application de vidéos courtes : Douyin. Celle-ci connaît un franc et rapide succès en Chine. ByteDance décide donc de la décliner chez les voisins asiatiques, au Japon, en Thaïlande, sous le nom de… TikTok. Aux États-Unis, depuis 2014, une application similaire se développe : Musical.ly. En 2017, celle-ci est rachetée pour un milliard de dollars par ByteDance. Un an plus tard, Musical.ly ferme définitivement et tous les profils utilisateurs sont transférés sur TikTok. (Business Insider)

Depuis, l’application ne cesse de croître : alors qu’au premier semestre 2018, TikTok comptait environ 300 millions d’utilisateurs actifs mensuels dans le monde, trois ans plus tard, ce nombre dépasse 1,1 milliard. Disponible dans 155 pays et 75 langues, TikTok a atteint les 3 milliards de téléchargements dans le monde en juillet 2021. Depuis 2018, elle est l’application la plus téléchargée chaque année en dehors des jeux, avec un pic en 2020 (981 millions de téléchargements), poussé par les confinements (Digimind). La France n’est pas épargnée par le phénomène puisque le nombre d’utilisateurs actifs mensuels de TikTok a triplé entre janvier 2020 et janvier 2021, atteignant 14,9 millions (Alioze). C’est le 50e site le plus visité dans l’Hexagone en août 2021, selon Médiamétrie (Le Figaro). 

Qui sont les utilisateurs ? L’audience de TikTok est bien plus jeune que celle de ses concurrents : selon Statista, en mars 2021, un quart des utilisateurs étaient âgés de 10 à 19 ans. 22,5% avaient entre 20 et 29 ans et es plus de 50 ans ne représentent que 11% de son public. Et 49,6% des utilisateurs sont des femmes, une répartition nettement plus égalitaire que chez la plupart des autres réseaux (excepté pour Instagram, où les femmes sont très légèrement majoritaires, Digimind). Aux États-Unis, en 2020, plus d’un tiers des 49 millions d’utilisateurs étaient âgés de 14 ans ou moins (The New-York Times). En France, l’audience est également très jeune : 38% des utilisateurs ont entre 13 et 17 ans, un tout petit peu plus que les utilisateurs âgés entre 18 et 24 ans. Les femmes y sont majoritaires, à 56% (Alioze).

📵 TikTok, un problème politique ? 

Seul réseau social chinois qui ait réussi à séduire aussi bien en Asie qu’en Amérique ou en Europe, TikTok fait figure d’exception dans un paysage autrement dominé par des acteurs américains. France Inter présente l’application comme “un instrument de soft power d’influence mondiale”, le premier pour la Chine. La lutte géostratégique se déroule aussi en ligne et avec TikTok, Pékin a peut-être un outil capable de concurrencer la puissance culturelle développée par les États-Unis (Global Times). 

Le 29 juin 2020, l’Inde a décidé de bannir TikTok de son territoire, privant ainsi l’application chinoise de son meilleur marché (120 millions d’utilisateurs actifs, Le Monde). Motif invoqué par le gouvernement de Narendra Modi : menace pour la sécurité nationale, alors que des différends opposaient l’Inde et la Chine au niveau de leur frontière commune, en Himalaya, en juin 2020. Mais selon Slate, c’était surtout un moyen pour le gouvernement indien de limiter l’influence culturelle de la Chine et d’empêcher tout rassemblement social, TikTok étant devenu un outil de mobilisation massif en Inde. Dans un pays fracturé par une discrimination structurelle, l’application permettait aux minorités de faire entendre leur voix, par exemple contre le système de castes (Feminist Media Studies).

Entre septembre et décembre 2020, Donald Trump a tenté plusieurs fois d’interdire la commercialisation de TikTok aux États-Unis, alors utilisée par plus de 100 millions d’américains (The New-York Times). Là encore, TikTok était présentée comme une “menace pour la sécurité nationale”, du fait de sa collecte massive des données de citoyens américains. Mais à chaque fois, les juges ont empêché l’interdiction (npr, npr, npr). 

L’Égypte et le Pakistan gardent également un œil sur l’application. Selon ces régimes conservateurs, TikTok permettrait à de nombreux internautes, notamment des femmes, de relayer des contenus “immoraux, obscènes et vulgaires”. Plusieurs influenceuses égyptiennes ont déjà été condamnées à de la prison pour “incitation à la débauche” et vidéos “immorales” (France Inter). 

En février 2021, le Bureau européen des unions de consommateurs (BEUC, une union des associations de protections des consommateurs) a porté plainte contre TikTok auprès de la Commission européenne. Ses reproches : une insuffisante protection des mineurs face au cyberharcèlement et la violence, une surexploitation des données personnelles, des conditions d’utilisation et une politique de confidentialité aux contours flous et indisponibles dans plusieurs langues, un système de monnaie virtuelle dangereux (Le Figaro). En France, l’UFC-Que Choisir, qui fait partie du BEUC, a également saisi la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF). Cet organisme avait déjà interpellé Facebook en 2016 sur des clauses abusives dans les contrats utilisateurs et YouTube la même année pour des contenus sponsorisés non indiqués comme tel (Challenges, NextImpact). Le BEUC, quant à lui, avait porté plainte contre Google en 2014 pour “abus de position dominante” (Numerama) ou plus récemment contre Whatsapp (propriété de Facebook) en juillet 2021, “pour avoir exercé des pressions injustes sur les utilisateurs” dans le but qu’ils acceptent ses nouvelles politiques (BEUC). 

⚙️ Comment TikTok modère-t-elle ? 

Quelques chiffres de modération… Selon le dernier rapport de transparence de TikTok publié, entre avril et juin 2021, la plateforme a supprimé 81 518 334 vidéos contraires à ses règles. 93% de ces contenus ont été supprimés dans les 24h après leur publication, 94,1% l’ont été avant même d’être signalés et 87,5% n’ont cumulé aucune aucune vue. Dans le détail, relatif au cyberharcèlement, TikTok indique que 73,3% des vidéos pour “harcèlement et intimidation” ont été supprimées avant d’être signalées. Un chiffre presque identique (72,9%) pour les contenus haineux. 

En mars 2020, devant les accusations d’espionnage au compte de Pékin, TikTok a décidé d’ouvrir un centre de modération à Los Angeles, composé d’experts extérieurs à l’entreprise. Ils doivent avoir pour mission d’analyser la manière dont les modérateurs de la plateforme travaillent (Le Journal du Geek). Mais quelques mois plus tard, une enquête du Financial Times (reprise par BFMTV) révélait que l’ex-responsable de la modération de TikTok était en réalité un haut-fonctionnaire chinois, proche du régime. 

La modération de ce “jeune” réseau social évolue sans cesse, surtout face aux critiques. En mars 2021, l’application ajoute deux fonctionnalités : les créateurs de contenus vont désormais pouvoir choisir les commentaires visibles sous leurs vidéos, et les utilisateurs seront alertés lorsqu’ils voudront poster un commentaire malveillant afin d’y réfléchir à deux fois (PhonAndroid). 

Pour une question d’efficacité et de bien-être de ses modérateurs, TikTok a annoncé en juillet 2021 vouloir automatiser une partie de sa modération, jusque-là uniquement gérée par ses équipes humaines (La Provence). Cette décision concernait uniquement l’Amérique du nord dans un premier temps. Le nombre de modérateurs œuvrant pour TikTok n’est d’ailleurs pas connu. En 2017, le réseau social affirmait vouloir en employer 10 000 (Les Echos). 

🤔 Une modération trop laxiste ?

Comme les autres plateformes, TikTok est critiquée pour les campagnes de cyberharcèlement qui sont parfois organisées par son intermédiaire, en particulier entre collégiens ou lycéens (France Info, Le Parisien). Trois autres sujets, néanmoins, cristallisent des accusations spécifiques de laxisme : 

→ Sur la désinformation 

Comme pour les autres plateformes étudiées dans notre série, la modération des fausses informations est un enjeu de taille chez TikTok, surtout vu la jeunesse de son public. En novembre 2020, un rapport, repris par the Guardian, révélait que plusieurs vidéos de désinformation autour de l’élection américaine avaient eu le temps d’atteindre 200 000 vues sur la plateforme avant d’être supprimées. Certaines théories du complot, comme le PizzaGate, prospéraient encore en 2020 sur TikTok, relayées par de jeunes influenceurs auprès des utilisateurs (le Pizzagate est une théorie qui date de 2016, au moment de la campagne opposant Donald Trump à Hillary Clinton – The New-York Times). 

Une récente enquête de NewsGuard (résumé par Newsweek ou Les Echos) tend à montrer les dérives de l’algorithme de sélection de TikTok : sur 9 jeunes (âgés de 9 à 17 ans) soumis à l’expérience, 35 minutes après leur inscription sur la plateforme, 8 ont été exposés à plusieurs fausses informations relatives au Covid-19, et 6 à des propos mensongers sur les vaccins. Le nombre de contenus faux ou trompeurs sur leur fil se multipliait plus ou moins rapidement selon leur taux d’engagement. 

→ Sur la (pédo)pornographie et la drogue 

En janvier 2021, l’association féministe Les effronté-e-s alertait sur le fait que TikTok laissait se diffuser des contenus pornographiques, parfois proches de la pédopornographie, et y exposait les plus jeunes (La Dépêche). C’est également ce qu’avait mis en lumière le youtubeur Le Roi des Rats, dans cette vidéo (décembre 2020) ou celle-ci (mars 2021). 

En août 2021, Le Monde a enquêté sur les contenus de KinkTok, (kink pour “fétiche” ou “pervers”), la communauté TikTok aux vidéos centrées autour de la sexualité et des pratiques BDSM (bondage – domination – sadomasochisme). Les créateurs qualifient ces contenus de “divertissants”, une façon de “trouver une communauté et une voix”. Malgré l’interdiction de TikTok de diffuser de “la nudité, de la pornographie ou des contenus sexuellement explicites”, ces vidéos cumulent des millions de vues et ceux qui les produisent sont suivis par des centaines de milliers d’utilisateurs, parfois jeunes. 

En septembre 2021, une enquête du Wall Street Journal révélait, grâce à la création d’une centaine de comptes automatisés, comment l’algorithme de TikTok pouvait enfermer les jeunes utilisateurs dans un rabbit hole (qu’on évoquait ici), une spirale de contenus pornographiques ou promouvant la vente et la consommation de drogues. Ainsi, un utilisateur de 13 ans pouvait être facilement exposé à des centaines de vidéos relatives aux drogues et alcool. D’autres vidéos renvoyaient vers des sites pornographiques payants et des sex-shops (Daily Mail, The Conversation). En décembre 2020, Neon alertait déjà sur le fait que des trafiquants de drogues utilisaient TikTok pour promouvoir leur activité. 

→ Sur la chirurgie plastique 

Un autre type de contenu nocif pour les plus jeunes se répand sur TikTok : les vidéos de chirurgie plastique, notamment de rhinoplastie. Ces vidéos promotrices arrivent très rapidement sur le fil des utilisateurs (Insider), et, comme l’explique Marie Claire, elles peuvent avoir une grande influence sur les jeunes filles notamment. Elles peuvent constituer “un frein à la construction de soi” et conduire à des pathologies parfois extrêmes comme la dysmorphie corporelle (“préoccupation excessive concernant un défaut de l’apparence physique”). 

Une étude du Parisien de 2019 montrait que les 18-34 ans avaient plus recours à la chirurgie esthétique que les 50-60 ans. Ce rajeunissement de ces pratiques est en partie dû aux réseaux sociaux comme Snapchat ou Instagram, qui renvoie un idéal masculin ou féminin presque impossible à atteindre, incarné par des stars et des influenceu-r-ses (Au féminin, Le Monde). Les “filtres de beauté”, développés par de nombreuses plateformes comme TikTok, Snapchat ou Instagram, participent à renvoyer aux jeunes filles (et aux jeunes hommes) une image qui n’est pas la leur (Technology Review). En février 2021, face aux dangers que pouvaient représenter ces filtres sur le rapport à soi et au regard des autres, le Royaume-Uni a décidé d’interdire leur usage aux influenceurs sur Instagram, Snapchat et TikTok (The Conversation, Tech Briefly).

🤐 Une modération trop forte ?

À plusieurs reprises, TikTok a été accusée de censurer des hashtags censés porter la voix de communautés minorisées, comme “black”, “Asian women”, “intersex” (Slate), “gay”, “lesbian” ou “transgender” (en russe et en arabe, BBC). À côté de ça, des contenus promouvant la “white supremacy”, le néonazisme, l’antisémitisme, restaient en ligne, notent Futurism, Technology Review ou Radio Canada. 

En 2019, la plateforme chinoise est également sous le feu des critiques pour avoir supprimé des vidéos tournées contre Pékin. Parmi elles, celle d’une adolescente américaine qui dénonçait le sort des Ouïghours en Chine, que TikTok a reconnu supprimer “par erreur”, ou des vidéos de manifestations pro-démocratie à Hong-Kong (Numerama, BBC, La Croix, The Washington Post, Marianne). Le Washington Post s’inquiète même que TikTok pourrait devenir “l’une des armes les plus efficaces de la Chine dans la guerre mondiale de l’information”.

Une autre enquête du Guardian, reprise par Le Monde, a également révélé les règles de modération de TikTok : en septembre 2019, il était interdit de “critiquer les lois et règles d’un pays”, d’évoquer “le séparatisme, les conflits religieux”, de parler de personnalités politiques comme Barack Obama ou Kim Jong-un, d’évoquer des évènements historiques chinois ou étrangers (les incidents de la place Tiananmen, le génocide cambodgien, etc), les conflits ethniques et frontaliers chinois ou étrangers (le Tibet, Taïwan, l’Irlande du Nord, la Tchétchénie). Selon ByteDance, ces règles n’étaient plus appliquées depuis mai 2019, des mises à jour importantes ayant été effectuées pour “mieux prendre en compte les spécificités locales des pays où le développement de TikTok a été très important”.  

En mars 2020, une enquête de The Intercept dévoilait des documents internes révélant des pratiques discriminatoires de modération de la part de l’entreprise : il était demandé aux modérateurs de supprimer les contenus d’utilisateurs jugés trop “laids” (selon des critères spécifiques) ou “pauvres”. Tout cela dans le but de rendre la plateforme plus attrayante pour les autres utilisateurs. En juin 2021, TikTok a été accusé d’apposer un “filtre de beauté” à l’écran de certains utilisateurs, sans leur accord et sans possibilité pour eux de le désactiver (Technology Review). 

En février 2021, un ancien employé de ByteDance explique au média Protocol (synthèse à lire dans L’ADN), comment il a contribué à l’élaboration des algorithmes de censure utilisés par Douyin (l’équivalent de TikTok en Chine). Les outils développés permettaient de retranscrire chaque vidéo publiée, et ainsi de supprimer celles utilisant un dialecte issu de minorités (comme les Ouïghours par exemple). Chaque jour, une centaine de consignes de modération de l’Administration chinoise du cyberespace parvenaient à son service, comme supprimer des vidéos “qui ne faisaient pas partie de la « mémoire collective officielle » validée par le gouvernement au sujet du Covid-19”.  Un rapport de l’Institut de recherche stratégique de l’École Militaire (IRSEM) d’octobre 2021 révélait également l’influence des autorités chinoises sur la modération de Douyin (France Culture).

❓ Quelles améliorations imaginer ?

À propos du coronavirus, TikTok a mis en place dès 2020 un outil semblable à celui de Twitter ou de YouTube : chaque vidéo contenant des mots, des hashtags ou de la musique en lien avec la pandémie comporte une bannière qui redirige l’utilisateur vers du contenu vérifié. En Europe, cet outil a été déployé sur 7 millions de vidéos (Slate). 

La protection des plus jeunes est également devenue une priorité pour la plateforme. En février 2020, TikTok se dote d’un mode “Sécurité Familiale”, un contrôle parental pour limiter le temps d’écran, contrôler les contenus visibles, les messages privés, ses recherches, les commentaires ou la visibilité du compte (01Net). Deux mois plus tard, l’application interdit l’accès à sa messagerie privée par les utilisateurs de moins de 16 ans, notamment pour lutter contre le cyberharcèlement des plus jeunes (Slate). 

En février 2021, l’entreprise a décidé de “prendre ses responsabilités” vis-à-vis de la désinformation : les vidéos dont l’exactitude n’aura pas pu être vérifiée seront accompagnées d’un message d’alerte l’indiquant à l’utilisateur (20 minutes). Une étape supplémentaire sera également nécessaire avant de pouvoir partager du contenu, afin que l’utilisateur soit sûr de sa décision. Des premiers tests ont prouvé une baisse de 7% de likes sur les vidéos étiquetées comme incertaines et une chute de 24% du rythme de partage de contenus. 

TikTok s’associe également aux médias traditionnels (comme Franceinfo ou Le Monde) pour proposer des programmes dédiés à la lutte contre la désinformation. La branche française de l’entreprise chinoise a également lancé son programme pédagogique “Esprit CriTik”, afin de sensibiliser sa jeune audience à ces menaces (Europe 1). 

Tanguy Oudoire et Mathilde Saliou

Pour compléter ou corriger cet article et apporter vos sources, 📝 rendez-vous sur sa version participative ou venez 💬 en discuter avec nous sur Discord.