L'outil Rekognition n'est pas nouveau. Il a été présenté en novembre 2017, par le leader du e-commerce qui expliquait alors qu’il était capable de reconnaître en temps réel des visages et des textes. Désormais, le problème réside dans le fait que l'entreprise Amazon a mis cet outil puissant à disposition des forces de l'ordre américaines. C'est en tout cas ce que dénonce l'Union américaine pour les libertés civiles.

"La police locale, du comté de Washington (Oregon), paie un abonnement mensuel pour exploiter ce service. Elle aurait accepté de signer des accords de non-divulgation de sorte à ne pas attirer l'attention publique sur ce système" détaille le site Les Numériques.

"Assurer la sécurité publique"

Amazon présente son outil comme tel : "Il suffit de fournir une image ou une vidéo à l’API Rekognition afin que le service puisse identifier les objets, les personnes, les textes, les lieux, les activités ou encore détecter du contenu inapproprié. Rekognition fournit également des analyses et une reconnaissance faciale précises. Vous pouvez détecter, analyser et comparer des visages pour vérifier, cataloguer, comptabiliser une large gamme d’identités et s’en servir pour assurer la sécurité publique."

Matt Cagle, l'avocat d'ACLU a déclaré au magazine Forbes : "C’est une machine de surveillance de masse très abordable, et c’est justement en partie pourquoi je suis inquiet. Cette société qui s’est construite autour du client vient d’entrer sur le marché de la surveillance".

L'ACLU n'est pas la seule organisation a tirer la sonnette d'alarme. 30 ONG ont eux-aussi écrit au géant du commerce en ligne, lui demandant d'arrêter cette collaboration "dangereuse", comme le détaille Le Huffington Post. "Mis entre les mains des gouvernements, Amazon Rekognition se prête à tous les abus", écrivent-elles. "Ce service représente une grave menace pour les communautés, dont les personnes de couleur et les immigrés, et menace la confiance et le respect qu'Amazon a construits".

En effet, plusieurs études ont prouvé que ces systèmes de reconnaissance faciale ne sont pas fiables à 100% et peuvent commettre des erreurs, notamment lorsqu'il s'agit d'identifier des personnes de couleur.

En savoir plus : Amazon fournit à la police américaine Rekognition, son système de reconnaissance faciale