Comment réguler la reconnaissance faciale ?

Fin septembre 2021, la Haute-Commissaire des Nations-Unies aux droits humains Michelle Bachelet a publié un rapport sur les risques posés par l’intelligence artificielle. Elle y enjoint les États à imposer un moratoire interdisant l’usage de systèmes de reconnaissance biométrique dans l’espace public, le temps que des régulations soient votées pour encadrer le secteur. Le Parlement Européen a adopté une résolution similaire le 6 octobre. 

💡 Pourquoi c’est intéressant ? Le rapport de l’ONU et les conclusions qui en sont tirées présentent une approche différente de celles adoptées par d’autres instances nationales ou internationales vis-à-vis de l’intelligence artificielle, en particulier des systèmes de reconnaissance faciale. 

Les faits : 

🤖 IA, reconnaissance faciale, reconnaissance biométrique

– La biométrie est la science de la mesure du vivant. Dans une définition large, elle regroupe des disciplines comme l’anthropologie, l’écologie, la médecine (Wikipédia, CNRTL), dans un sens plus restrictif, il s’agit d’un sous-champ de la biologie qui recouvre toutes les mesures des phénomènes vivants (Larousse). Dans le monde numérique, selon la CNIL, elle regroupe les techniques informatiques qui permettent de reconnaître un individu “à partir de ses caractéristiques physiques, biologiques voire comportementales”. Le visage, donc, en fait partie. 

– Les progrès historiques de la recherche scientifique en intelligence artificielle, expliqués dans la revue scientifique Activités, ont trouvé des applications multiples. Les algorithmes révolutionnent l’accès à l’information, ils sous-tendent des logiciels de RH, de comptabilité, des outils juridiques, d’assurance, de médecine, d’à peu près tous les domaines possibles. Les progrès fulgurants des algorithmes de reconnaissance d’image servent aussi à construire des outils de reconnaissance biométrique, notamment de reconnaissance faciale, qui ont des usages pratiques et politiques allant du déverrouillage d’un smartphone à la surveillance dans l’espace public (ce dernier usage est de ceux qui inquiètent le plus).

– Ceci s’accompagne de risques multiples. Que se passe-t-il, par exemple, quand la reconnaissance faciale ne reconnaît pas quelqu’un, voire pousse à en accuser une autre et la garder à vue à tort (Coded Bias🇺🇸, Le Monde) ? ZDNet signalait début septembre que l’intérêt des forces de police pour la reconnaissance faciale entraîne toujours plus de réactions négatives de la société civile, son efficacité dans la sécurisation des villes restant globalement à démontrer (Le Monde, Médiacités €). Face à ces questionnements, des acteurs comme la Cnil française et sa présidente demandent un débat public sur la reconnaissance faciale (dans l’Usine Nouvelle). À l’international, de plus en plus d’institutions et de gouvernements jettent des bases de réflexion pour des régulations. Tour d’horizon :

🚫 L’approche prudente

– Dans la présentation de son travail, la Haute-Commissaire aux droits humains cite plusieurs cas – l’affaire Pegasus, révélée par le consortium Forbidden Stories, qui a permis de viser des journalistes et des défenseurs des droits humains dans au moins 10 pays, un autre rapport🇨🇦 qui évoque un logiciel espion similaire, Candiru – pour montrer l’“urgence” de responsabiliser les entités qui collectent, stockent, partagent et utilisent des données. 

– Le rapport demande un moratoire sur la reconnaissance biométrique, estimée dangereuse pour les droits humains, et appelle à encadrer l’usage d’intelligence artificielle dans le privé comme dans le public. Le rapport recommande aussi de légiférer pour atténuer les effets négatifs des IA et d’offrir des outils permettant aux victimes potentielles de se défendre si elles se retrouvent lésées à cause d’un système algorithmique. 

👮 L’approche par les risques

– La Commission européenne a publié une proposition de règlement en avril 2021 dans laquelle la question est envisagée différemment. Le texte distingue des IA à risque minimal ou faible, les IA à risque élevé et celles à risques inacceptables. Ce n’est que le début d’un travail législatif qui devrait prendre plusieurs mois (années ?). 

– Les systèmes d’identification biométrique “en temps réel” sont interdits à plusieurs exceptions près : la recherche de victimes de criminalité, à des fins de prévention d’une menace “spécifique, substantielle et imminente” (crime, terrorisme), pour détecter, localiser, identifier et poursuivre l’auteur d’une infraction pénale. Le 6 octobre, le Parlement a voté une résolution appelant à interdire ces usages, mais celle-ci n’a pas de valeur contraignante, explique ZDNet.

– Dès la sortie de ce règlement, rappelle Droit & technologie, le Comité européen de la protection des données et le Superviseur européen de la protection des données se sont prononcés pour une approche plus stricte. L’autorité des Cnil européennes voudrait bannir la reconnaissance faciale à la volée (celle qui permet d’identifier et de reconnaître un individu en continu). Elle estime que ces services, même s’ils ne sont utilisés que par les forces de police, “présentent d’extrêmes hauts risques d’une intrusion profonde et non démocratique dans la vie privée des individus”. Les promoteurs de la reconnaissance faciale redoutent une interdiction totale, selon Les Échos. Politico🇺🇸 souligne que les avis de ces entités ne sont que consultatifs. 

🇨🇳 L’approche par le territoire national

– Grande puissance numérique, la Chine a rendu la reconnaissance faciale obligatoire pour toute personne achetant un smartphone, rapportait 20 Minutes en 2019. Ce type de technologie sert désormais à accéder à sa retraite, à payer des biens ou des services, à empêcher les enfants de jouer aux jeux-vidéo la nuit (Les Observateurs, Le Figaro) mais rencontre parfois le rejet de la population (Vice). L’usage de la reconnaissance faciale pour surveiller la minorité Ouïghoure est aussi très critiqué (NextInpact, the New-York Times🇺🇸). 

– En avril 2021, la Chine a publié un brouillon de loi sur les outils biométriques. Elle y réduit l’usage de la biométrie aux seules fins d’identification des personnes et interdit de s’en servir pour de la prédiction de comportement (Biometric Update🇺🇸). Le pays a aussi adopté l’une des lois les plus restrictives sur les données collectées, obligeant les entreprises numériques à ne stocker ces informations que sur le territoire chinois (the Wall Street Journal🇺🇸). Plus largement, la Chine a passé l’année 2021 à publier des textes juridiques pour encadrer voire restreindre certains usages technologiques (the Washington Post🇺🇸, le récap’ de Siècle Digital, South China Morning Post🇭🇰). 

🧑‍⚖️ L’approche locale

– Aux États-Unis, une proposition de moratoire a été soumise en mai 2020 à l’échelle fédérale, mais n’a pas fait d’émules selon Politico🇺🇸. 

– Plusieurs États ont légiféré à leur échelle, selon AP🇺🇸. À Washington, explique l’Usine Digitale, les technologies utilisant la reconnaissance faciale doivent subir un contrôle d’“égalité” et d’“équité” avant d’être mises sur le marché. Portland a passé la loi la plus stricte en en interdisant l’usage “à la volée” à tout le monde, police comprise (CNN🇺🇸). 

Pour compléter ou corriger cet article et apporter vos sources, 📝 rendez-vous sur sa version participative ou venez 💬 en discuter avec nous sur Discord.