IBM, puis Amazon et enfin Microsoft. En l’espace de quelques heures, ces trois géants américains de la tech ont annoncé la semaine passée leur mise en retrait, définitive ou temporaire, du marché de la reconnaissance faciale. Des communications d’autant plus spectaculaires que ce marché est vu comme l’un des plus prometteurs de ces prochaines années, notamment via l’utilisation massive de cette technologie par les forces de sécurité. Mais il ne faut pas s’y tromper: ces annonces, aussi impressionnantes soient-elles, ne feront que freiner l’adoption de systèmes que continuent de toute façon à proposer, de manière moins visible, des sociétés de second plan.

Lire aussi: La mort d'un Noir abattu par un policier blanc à Atlanta ravive les tensions

Si IBM, Amazon et Microsoft ont fait de telles annonces, c’est bien sûr en lien avec le mouvement «Black Lives Matter», extrêmement actif depuis le meurtre de George Floyd. La critique des violences policières s’accompagne de celle de certaines technologies utilisées par les forces de l’ordre. Depuis des années, les biais de la reconnaissance faciale ont été démontrés par de nombreuses études: elle est peu efficace pour identifier des personnes de couleur, notamment parce que les algorithmes ne sont pas assez perfectionnés et n’ont pas été entraînés sur suffisamment d’images. Les risques de se tromper sont importants. De plus, la reconnaissance faciale est perçue comme un outil de surveillance de masse, qui peut par exemple être utilisé contre des minorités ethniques.

Derrière les apparences

Du coup, IBM a suspendu, dès lundi passé, ses activités dans ce domaine, se disant «opposé à l’utilisation de toute technologie à des fins de surveillance de masse, de profilage racial et de violation des droits et libertés humaines de base». Amazon a décidé d’interdire à la police d’utiliser son logiciel de reconnaissance faciale Rekognition pendant un an, demandant au Congrès américain «des règles appropriées» pour encadrer cette technologie. Microsoft refusera désormais à la police américaine l’accès à sa technologie de reconnaissance faciale, en l’absence de législation. En janvier, Google avait lui aussi demandé la mise en place, par les autorités, de garde-fou.

Cette «mise sur pause» décidée par IBM, Google, Amazon et Microsoft ne permet pas de résoudre à elle seule les problèmes causés par la reconnaissance faciale.

Lire aussi: Reconnaissance faciale: l’abandon d’IBM laisse les pleins pouvoirs à Amazon

Clearview AI, toujours actif

D’abord, d’autres acteurs poursuivent leurs activités. La semaine passée, NEC, Clearview AI et Ayonix Corp ont affirmé qu’ils ne voyaient aucune raison de cesser de travailler avec des polices américaines. «Les forces de l’ordre devraient pouvoir utiliser des technologies de reconnaissance faciale testées et validées de manière approfondie pour aider à corriger des biais inhérents, protéger la vie privée et les libertés civiles, et mener des enquêtes justes et efficaces», a affirmé NEC mercredi.

Exclu aussi pour Clearview AI de suspendre ses activités. La société new-yorkaise, qui travaille avec 2400 forces de police aux Etats-Unis, a pourtant fait scandale dès début 2020 lorsque l’on apprenait qu’elle avait créé sa base de données de manière illégale. Clearview AI avait «aspiré» des milliards de photos de Facebook, Twitter et de millions d’autres sites, sans le consentement ni de ces plateformes ni bien sûr des personnes dont les photos ont été téléchargées.

Attention aux lois

Ensuite se posera la question du contenu des lois qui encadreront la reconnaissance faciale. Des lois que les géants de la tech aimeraient le plus souples possible. Dans l’Etat de Washington, c’est ainsi un… employé de Microsoft, Joe Nguyen, qui a écrit un projet de loi à ce sujet, projet jugé trop permissif par plusieurs organisations de défense des libertés individuelles. Attention, a averti l’Union américaine pour les libertés civiles (ACLU): «Les agences peuvent utiliser la surveillance faciale sans aucune restriction pour surveiller des foules entières dans les stades de football, les lieux de culte ou aux coins des rues, ce qui a pour effet de restreindre les droits et libertés civiles constitutionnels faites pour protéger des gens.»

Selon Liz O’Sullivan, directrice auprès du Surveillance Technology Oversight Project, le projet de loi de l’Etat de Washington serait un mauvais modèle pour le Congrès: l’annonce de Microsoft de la semaine passée «donne l’impression que l’on gagne, mais cela ressemble davantage à une menace à peine voilée», déclarait-elle au Washington Post.