Amazon interdit à la police d'utiliser son logiciel de reconnaissance faciale

Après IBM qui abandonne tout projet de recherche sur la reconnaissance faciale, c'est au tour d'Amazon d'interdire à la police d'utiliser son logiciel Rekognition pendant un an. Cette décision intervient dans un contexte de manifestations contre les violences policières et le racisme aux Etats-Unis.

«Nous prônons des régulations plus strictes des gouvernements sur le recours éthique aux technologies de reconnaissance faciale, et le Congrès semble prêt à relever le défi», a indiqué mercredi le géant du commerce en ligne dans un communiqué.

En attendant la réforme de la police par le Congrès

Depuis la mort de George Floyd, un Afro-Américain asphyxié par un policier blanc il y a deux semaines, les entreprises, ainsi que les autorités locales et nationales, tentent de réagir à la pression de la rue et des réseaux sociaux. Les manifestants exigent notamment des réformes en profondeur de la police et des systèmes de surveillance, dont ils estiment qu'ils ciblent les personnes noires de façon disproportionnée.

Lire aussi: Reconnaissance faciale: le scandale Clearview touche la Suisse

La Chambre des représentants, à majorité démocrate, a présenté lundi une loi qui vise à «changer la culture» au sein de la police des Etats-Unis. Elle entend notamment créer un registre national pour les policiers commettant des bavures, faciliter les poursuites judiciaires contre les agents et repenser leur recrutement et formation.

«Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en place des règles appropriées», a ajouté Amazon dans son communiqué mercredi.

Une pétition en ligne pour exiger un changement

Des organisations, comme la puissante American Civil Liberties Union (ACLU), appellent depuis deux ans Amazon à cesser de fournir sa technologie de reconnaissance faciale aux forces de l'ordre. La pression est montée d'un cran mardi, quand des associations de lutte contre les inégalités raciales ont exhorté Amazon à cesser toute collaboration technologique avec la police américaine.

Sur le même sujet: Amazon pris dans la tempête de la reconnaissance faciale

Dans leur pétition mise en ligne, elles accusent le groupe de Seattle «d'alimenter et de profiter de l'injustice systématique, des inégalités et des violences contre les communautés noires».

«Amazon a longtemps cherché à être la colonne vertébrale technologique de la police et de l'ICE (police de l'immigration) en promouvant activement Amazon Web Services (cloud), son logiciel de reconnaissance faciale (Rekognition) et ses caméras de surveillance (Ring)», a élaboré Athena, un collectif d'associations qui interpellent le groupe sur les impacts négatifs de ses diverses activités. Les caméras Ring servent à assurer la sécurité des particuliers, mais leurs propriétaires peuvent donner - s'ils le souhaitent - accès à la surveillance vidéo à la police.

Des mauvaises utilisations des technologies

«Il aura fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que l'entreprise ait enfin reconnu les dangers que pose la reconnaissance faciale pour les personnes de couleur, ainsi qu'en termes de droits civils en général», a réagi mercredi Nicole Ozer, directrice des technologies et libertés pour une branche californienne de l'ACLU.

Elle voudrait que la multinationale cesse aussi de vendre les caméras Ring «qui alimentent les interventions policières excessives contre les personnes de couleur».

Amazon avait reconnu en octobre que, «comme toutes les technologies», la reconnaissance faciale pouvait être «mal utilisée». Elle avait assuré que ses équipes fournissaient des indications à tous les clients du (logiciel) Rekognition, «y compris les forces de l'ordre, sur la bonne manière de s'en servir». Le groupe de Jeff Bezos a précisé que le moratoire ne s'appliquerait pas aux organisations qui se servent de Rekognition pour sauver des victimes de trafics d'êtres humains ou retrouver des enfants disparus, comme Thorn ou l'International Center for Missing and Exploited Children.

Lire aussi: Reconnaissance faciale: l’abandon d’IBM laisse les pleins pouvoirs à Amazon

IBM a annoncé lundi suspendre la vente de logiciels de reconnaissance faciale à des fins d'identification et s'est «opposé à l'utilisation de toute technologie à des fins de surveillance de masse, de profilage racial et de violations des droits et libertés humaines de base».