Amazon a encore donné un autre signe mercredi qu’il tient à sa technologie de reconnaissance faciale. L'équipe chargée de l'élaboration de la politique d'Amazon est en train de rédiger un projet de loi qui devrait ressembler à ce que l’entreprise attend d’une législation fédérale sur la technologie reconnaissance faciale, et elle compte ensuite inciter les législateurs à en adopter autant que possible. C’est cette intention de réglementer la technologie de reconnaissance faciale que Jeff Bezos, PDG d'Amazon, a indiquée mercredi lorsqu’il s’adressait aux journalistes lors d'une apparition au lendemain de son événement annuel dédié aux gadgets Alexa.En réponse à une question d’un journaliste, M. Bezos a déclaré :
« Notre équipe chargée de la politique publique travaille actuellement à l'élaboration d'un règlement sur la reconnaissance faciale ; il est tout à fait logique de réglementer cela ». Il a aussi exprimé son intention de pousser les législateurs fédéraux à adopter une grande partie du projet de loi de son entreprise : « C'est un exemple parfait de quelque chose qui a des utilisations vraiment positives, donc vous ne voulez pas mettre les freins à cela ». « Mais, en même temps, il y a aussi un potentiel d'abus de ce genre de technologie, alors vous voulez des règlements. C'est une technologie classique à double usage », a ajouté M. Bezos.
Le logiciel de reconnaissance faciale de l'entreprise, appelé Rekognition, peut suivre les personnes dans les photos ou les vidéos et comparer ces images avec des bases de données de millions d'images en temps réel. L'outil est actuellement utilisé par des entreprises et par au moins un organisme d'application de la loi américaine pour aider à identifier les criminels. Mais Rekognition fait l'objet d'une controverse depuis ses débuts publics il y a plus de deux ans, notamment l’année dernière où les actionnaires, les employés de l’entreprise et les organisations de défense des libertés civiles ont demandé à Amazon d’arrêter de vendre Rekognition au gouvernement.
Déjà en début d’année, Amazon avait publié un billet de blog proposant des lignes directrices éthiques sur l'utilisation de la technologie de reconnaissance faciale espérant que les législateurs l’adoptent dans une réglementation nationale sur le sujet. Dans son billet de blog publié en février, Amazon a écrit que « Les nouvelles technologies ne devraient pas être interdites ou condamnées en raison de leur mauvaise utilisation potentielle ». « Au lieu de cela, il devrait y avoir un dialogue ouvert, honnête et sincère entre toutes les parties concernées pour s'assurer que la technologie est appliquée de façon appropriée et qu'elle est continuellement améliorée », a-t-il ajouté.
L’intervention de M. Bezos sur le sujet le mercredi vient quelques mois après qu'Andy Jassy, PDG d'Amazon Web Services, chargé de la vente du logiciel Rekognition, ait aussi déclaré, lors d’une conférence, qu'il espérait que la réglementation fédérale serait bientôt adoptée. Mais M. Bezos n’a pas donné plus de détails sur le contenu du projet de loi sur lequel son entreprise est en train de travailler.
La controverse autour du logiciel Rekognition d'Amazon
La controverse, tant à l'intérieur qu'à l'extérieur d’Amazon, a commencé lorsque l’entreprise a décidé de vendre son logiciel aux agences gouvernementales. Des centaines d'employés d'Amazon, ainsi que des groupes de défense des libertés civiles et des législateurs, ont demandé à AWS de ne pas vendre Rekognition à la police, à l'ICE et à d'autres organismes d'application de la loi, par crainte que cette technologie puissante ne soit mal utilisée.
Amazon a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisée dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.
Mais, en octobre 2018, un employé d'Amazon a fait pression sur son employeur, au nom d’un groupe d’employés, en lui demandant d'arrêter de vendre le système de reconnaissance faciale à la police, tout en évoquant des potentielles dérives. « Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable », a-t-il déclaré.
En juin 2018, une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos, ont également demandé à l’entreprise de mettre fin à cette collaboration. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », ont-ils écrit.
Le débat sur l'utilisation de la technologie de reconnaissance faciale (d’Amazon en particulier) par les services du gouvernement s'est intensifié en raison de preuves de préjugés raciaux et d'erreurs dans l'outil, comme lorsque l'ACLU a effectué un test sur le logiciel et a constaté que 28 membres du Congrès avaient été identifiés à tort comme correspondant à des photos de criminels. Les fausses correspondances impliquaient de façon disproportionnée des membres du Congrès qui sont des personnes de couleur. Mais, à l’époque, Amazon a déclaré dans un billet de blog que l'ACLU avait utilisé le mauvais réglage pour le logiciel. L'entreprise s'est également fait critiquer pour avoir soumis son logiciel à l'ICE. Des groupes comme l'ACLU craignent que l'ICE n'utilise le logiciel pour cibler injustement les immigrants avec plus d'efficacité.
Cependant, la nouvelle initiative de précéder le Congrès dans la production d’une ébauche de projet de loi prise par l'équipe chargée de l'élaboration de la politique de l’entreprise montre que les critiques ont eu un effet positif et que l’entreprise veut maintenant réglementer sa propre technologie de reconnaissance faciale. Ceci est également un signe qu'Amazon reconnaît qu'en cette ère de puissants mouvements militants et politiques, il doit faire un meilleur travail pour rassurer les gens sur les technologies innovantes dont les inconvénients terrifient également le public.
L’ACLU a reconnu cet effort de réglementation du géant américain de la technologie, mais craint que les règles qu’Amazon proposera aux législateurs ne protègent vraiment la vie privée et les droits des utilisateurs. Dans une déclaration, Jacob Snow, procureur de l'ACLU Northern CA, a dit :
« C'est un signe bienvenu qu'Amazon reconnaît enfin les dangers de la surveillance faciale. Mais on a déjà vu cette stratégie. Une fois que les entreprises se rendent compte que les gens exigent de solides mesures de protection de la vie privée, elles se mettent à balayer devant leur porte, poussant des règles faibles qui ne protégeront pas la vie privée et les droits des consommateurs. Les villes à travers le pays votent pour l'interdiction de la surveillance faciale, tandis qu'Amazon pousse sa technologie de surveillance plus loin dans les communautés ».
San Francisco est devenue, en mai dernier, la première grande ville à interdire l'utilisation de la reconnaissance faciale par les agences gouvernementales locales. L'ordonnance a fait l'objet d'un vote par le comité des superviseurs de la ville, pour réglementer la technologie critiquée pour son potentiel à étendre la surveillance gouvernementale et à renforcer les erreurs des forces de l'ordre. Oakland en Californie et Somerville, dans l’Etat de Massachusetts, ont interdit également l'utilisation de la reconnaissance faciale par les agences gouvernementales.
Vivement que la technologie de reconnaissance faciale soit réglementée. Cependant, quelles mesures de protection des consommateurs devrait-on attendre d’une entreprise privée, qui vend sa propre solution de reconnaissance faciale ?
Sources : Jeff Bezos
Et vous ?
Que pensez-vous de l’initiative d’Amazon ? Que peut-on attendre du projet de loi d’Amazon ? Pensez-vous que les législateurs fédéraux adopteront une grande partie de ces lois comme le souhaite Amazon ? Lire aussi
San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme Il est temps d'interdire toute utilisation gouvernementale de la reconnaissance faciale, même avec une réglementation, d'après Fight for the Future La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ? Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale, aux forces de l'ordre Amazon : un employé demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police, évoquant des dérives 
