La société NetDragon a-t-elle vraiment embauché une intelligence artificielle comme CEO ?

Vous avez certainement vu passer cette photo, ou lu dans les médias cette incroyable/effrayante information selon laquelle une société chinoise avait décidé de confier la direction de l’entreprise à un « robot ». Tout le monde a hurlé à l’apocalypse, ou presque. Sauf que c’est faux. Et c’est terriblement gênant pour plusieurs raisons. Je vous explique.

Les médias généralistes parlent mal de l’intelligence artificielle et c’est super énervant. Et pas sans conséquences sur notre compréhension des vrais problèmes liés à la technologie.

🙎🏻‍♀️ La semaine dernière, plusieurs médias se sont enflammés autour d’une histoire abracadabrante : attention, une femme robot chinoise est devenue la première intelligence artificielle CEO d’une entreprise. On retrouve ici tous les mots-clés qui font peur et excitent nos fantasmes apocalyptiques : chinois, robot humanoïde, intelligence artificielle qui pique le job des humains ou prend les décisions à leur place.

🚨 Tout dans cette histoire est sujet à caution. Quand on creuse un peu l’origine de ces articles, on trouve un communiqué de presse de la société en question. Une boîte de jeux vidéo travaillant dans le métaverse qui a décidé de faire une belle opération marketing. Personne n’a creusé l’histoire, tout le monde s’est contenté de reprendre l’opération de com.

🧐 J’ai regardé TOUS les résultats Google sur ce sujet et j’ai trouvé, à chaque fois, le même article tiré du même communiqué, avec quelques variations de langage : une fois c’est un vrai robot, une fois c’est une IA représentée par un avatar, une autre fois c’est une IA anciennement salariée par l’entreprise, une autre fois une IA non salariée qui pique le job des humains. Tous, sauf le quotidien très sérieux South China Morning Post, basé à Hong Kong, qui connait bien l’entreprise pour avoir écrit plusieurs articles sur elle, mais qui cette fois, n’en a pas (encore) parlé. Peut-être les journalistes ont-ils décidé d’aller voir sur place, avant d’en faire un article (qui du coup aura certainement moins de succès que les autres).

🥸 En fait, il n’y a pas de robot, mais un personnage en 3D (spécialité de la boîte qui fait des jeux vidéo, et travaille notamment dans le Métavers), elle n’est pas CEO mais fait partie d’un groupe de CEO tournants. Les connaissances que nous avons sur l’état de l’IA (et quand on lit entre les lignes du communiqué) laissent penser qu’il s’agit surtout d’une boîte à outils qui permet d’utiliser différents algorithmes et de l’IA pour optimiser la gestion de l’entreprise. Rien d’extraordinaire. Sauf le coup de com.

L’entreprise n’en est d’ailleurs pas à son premier coup de com. En 2015, elle avait fait parler d’elle en faisant construire un QG en forme de vaisseau Star Trek.

🤖 Le problème avec ce genre de traitement sensationaliste est qu’il met l’accent sur une antropomorphisation trompeuse de l’IA. Plutôt que de la présenter pour ce qu’elle est : un outil (avec ses avantages et ses inconvénients) au service des humains. Cela attise les fantasmes, participe à la désinfiormation et éloigne des vrais sujets.

🔬 Dans sa newsletter, le chercheur Sayash Kapoor a analysé 50 articles sur l’IA provenant de publications majeures, à partir desquels il a compilé 18 pièges récurrents.

Le premier étant, selon lui, de faire « une fausse comparaison entre les outils d’IA et les humains qui implique que les outils d’IA et les humains sont similaires dans leur façon d’apprendre et de fonctionner. »

🦾 Autre piège ? Utiliser des images de robots humanoïdes pour illustrer des articles sur l’IA…

🤔 Il est temps que l’on parle de l’IA sérieusement. Elle a fait des progrès énormes ces derniers temps et il y a déjà suffisamment de sujets éthiques (comme les biais), socio-économiques et techniques à discuter sans qu’on travestisse le débat avec nos fantasmes.

Et si vous aviez l’intention de me répondre que « oui mais quand même un jour l’IA va remplacer les humains », ou « prendra des décisions toutes seules sans supervision humaine ». Je répondrais que, oui, c’est un excellent débat, mais ce n’est pas une raison de s’appuyer sur des infos erronées ou mal sourcées pour en parler !

👉 Pour en discuter, rejoignez les 1000 abonnés Flint sur la plateforme Discord !