Facebook et l’art de produire de l’ignorance

En bref : 

A la mi-septembre, le Wall Street Journal a publié cinq épisodes d’une enquête au long cours sur ce que Facebook sait des dangers de ses activités – sur la santé, sur les droits humains, sur la démocratie – et la manière dont l’entreprise le nie auprès du public. Pour le  communicant Scott Monty (thread 🇺🇸) ou le CEO de Salesforce Marc Benioff  (New-York Times 🇺🇸), il s’agit là d’une stratégie digne de celle de l’industrie du tabac, qui retarda délibérément la prise de conscience publique des dangers du tabagisme pendant trente ans.

💡Pourquoi c’est intéressant ? Chez Flint, on cherche à y voir plus clair dans l’info, y compris scientifique. Mais les cas de Facebook ou de l’industrie du tabac permettent d’étudier comment certains acteurs visent l’inverse : créer du doute pour produire une forme d’ignorance et/ou reculer la prise de conscience de certaines vérités scientifiques. 

Les faits : 

📱 Que se passe-t-il chez Facebook ?

– Facebook a déclaré à de multiples reprises que tous ses utilisateurs étaient sur un pied d’égalité (y compris à son propre Conseil de surveillance), que l’entreprise défendait les valeurs démocratiques (ici en anglais, résumé là en français), que ses produits avaient peu ou pas d’effets négatifs sur la santé mentale des plus jeunes (l’entreprise travaille activement au lancement d’un Instagram pour les moins de 13 ans, selon Numerama). 

– L’enquête du Wall Street Journal (€🇺🇸) montre que des travaux de recherches menés en internes prouvent l’exact inverse : le programme XCheck offre un traitement préférentiel à des VIP, Facebook sait que ses plateformes sont utilisées pour organiser du trafic humain, de drogues ou harceler des opposants aux régimes autoritaires, Facebook a elle-même calculé les effets négatifs d’Instagram sur la santé mentale des jeunes, etc.

– Facebook mène ses propres recherches mais ne les publie pas (Washington Post 🇺🇸) et est réticente à laisser des acteurs extérieurs utiliser certaines de ses données pour mener des études indépendantes. En 2019, Nature rapportait 🇺🇸 les difficultés techniques des chercheurs à profiter des données Facebook, notamment pour des raisons de vie privée des utilisateurs. À l’été 2021, raconte le Guardian 🇬🇧, Facebook a bloqué l’accès de plusieurs chercheurs qui étudiaient son système publicitaire via une extension appelée Ad Observer.

🚬 Quel rapport avec le tabac ?

– En 1953, réunion de crise des principaux cigarettiers : les articles s’amoncellent, qui signalent les dangers de la cigarette pour la santé. Les grands patrons invitent le spécialiste des relations publiques John Hill. Le 24 décembre 1953, celui-ci leur livre un document de neuf pages intitulé “Recommandations préliminaires aux fabricants de cigarettes”. Il y dresse un plan que Stéphane Foucart, qui relate les faits dans La fabrique du mensonge (2013), estime faire basculer la science dans un nouveau chapitre de son histoire.

– Car John Hill ne recommande pas de nier les faits, il enjoint les dirigeants du tabac à utiliser les outils de la science contre elle-même : se montrer soucieux de la santé des consommateurs, donc encourager la science, la rémunérer… l’orienter pour s’en servir à des fins de communication. Concrètement, il s’agit de financer des études qui instillent le doute, qui enquêtent, par exemple, sur toutes les autres raisons susceptibles d’expliquer l’apparition d’un cancer plutôt que la cigarette… C’est de la vraie recherche, de vrais protocoles scientifiques sont utilisés, mais comme le titre un rapport interne d’un cigarettier, “ce que nous vendons, c’est le doute”. 

– Signal de la qualité des travaux menés, plusieurs prix Nobel ont eu leurs travaux financés par les entreprises du tabac rappelle au Monde Robert Proctor, fondateur de l’agnotologie, ou étude de la production de l’ignorance. 

– Dans les années 1990 et 2000, des dizaines de procès ont mené à la livraison de milliers de documents internes aux entreprises du tabac, permettant d’établir l’existence et la persistance d’une réelle manipulation scientifique. Le chercheur Ragnar Rylander a par exemple été condamné en 2003 pour “fraude scientifique”, car secrètement financé par Philip Morris depuis 1972 (unisanté tabagisme).

– Chez Facebook, certaines actions (y compris cette vidéo de 2017 sur le bien-être) semblent faites pour instiller le doute à la manière des cigarettiers : on y accepte les résultats scientifiques, puis on souligne les incertitudes. Surtout, les enquêtes s’accumulent, qui montrent que la priorité de Facebook n’est jamais de réparer les problèmes qu’il cause (écouter Sheera Frankel et Cecilia Kang 🇺🇸, par exemple, autrices du livre-enquête the Ugly Truth, salué par les critiques 🇬🇧). Facebook explique au contraire se servir de ses recherches pour prendre des décisions réelles (ici, ici et là, entre autres) mais ne se prononce pas sur le fait de ne pas les avoir rendues publiques avant – elle a publié une partie des recherches relatives aux effets d’Instagram le 29 septembre. L’entreprise a aussi suspendu son projet Instagram for Kids le 28 septembre (Télérama €).

🤔 D’autres cas de production du doute ? 

–  Facebook est loin d’être la seule société du numérique pointée pour la manière dont elle cache ou manipule l’information, y compris scientifique. Chez Google, par exemple, Reuters rapporte 🇺🇸 que les chercheurs en intelligence artificielle doivent écrire leurs recherches “de manière positive”, ce que certains ont interprété comme une interférence dans des travaux cruciaux. La chercheuse Timnit Gebru a aussi été licenciée alors qu’elle tentait d’alerter sur les problèmes environnementaux et les biais des derniers modèles d’intelligence artificielle (Technology Review 🇺🇸 et Heidi).

– D’autres industries sont touchées : aux États-Unis, une grande partie de la population pensait, dans les années 2000, qu’il y avait un vrai débat entre scientifiques sur la réalité du changement climatique. L’historienne des sciences Naomi Oreskes a publié sa propre revue de littérature scientifique en 2004 dans Science 🇺🇸, démontrant le consensus. Au Monde, elle explique avoir été très vite attaquée, ce qui l’a poussée à enquêter. 

– Le fruit de son travail, qui se penche aussi bien sur la réalité des pluies acides, des trous dans la couche d’ozone que sur celle des cancers dus au tabac, réside dans son essai Les marchands de doute (2010). Elle y montre que trois scientifiques, fondateurs du think tank George C. Marshall Institute, avaient participé, chaque fois, à répandre le doute, notamment en demandant à présenter des études contradictoires chaque fois que le climat, les pluies acides, la couche d’ozone étaient évoqués dans les médias (vidéo 🇺🇸).

– Elle y explique aussi que cette production d’ignorance est permise par un imaginaire solidement ancré dans les esprits américains (et ailleurs) selon lequel la découverte scientifique est souvent le fait d’un esprit génial et seul, à la Albert Einstein – et donc à prêter une attention disproportionnée à des discours uniques, à contre-courant de la tendance globale. “Or aujourd’hui, cite 20 Minutes, si nous pouvons dire oui, le changement climatique est en cours, ce n’est pas seulement grâce une idée émise par Svante Arrhenius (chercheur suédois qui, au début du XXe siècle, attira l’attention sur le lien entre rejets de CO2 dans l’atmosphère et réchauffement climatique) mais grâce à l’énorme travail scientifique collectif qui a été fait depuis.”

– Pour l’historien des sciences Peter Galison, les médias ont leur part de responsabilité dans l’extension du doute : « Une idée de l’objectivité très ancrée dans les médias veut qu’une bonne présentation d’un sujet oppose systématiquement deux points de vue contradictoires, dit-il au Monde. Mais, dans certains cas, ne pas choisir, c’est précisément faire un choix !

– Le 20 octobre 2021, une étude publiée dans le Global Environment Change a montré que Total et Elf avait eux aussi participé à fabriquer le doute de l’opinion publique envers la réalité du changement climatique (Le Monde).

Pour compléter ou corriger cet article et apporter vos sources, 📝 rendez-vous sur sa version participative ou venez 💬 en discuter avec nous sur Discord. 

[Mise à jour 30 septembre : ajout de la suspension d’Instagram for Kids et de la publication des études relatives aux effets d’Instagram

Mise à jour 20 octobre : ajout de l’affaire Total / Elf et du lire aussi « Facebook c’est bien »]