Amazon devrait continuer à commercialiser sa technologie de reconnaissance faciale, car rien ne l’y interdit pour l’instant, en tout cas pas le vote des actionnaires qui a eu lieu le mercredi, lors de l'assemblée annuelle du géant du commerce électronique. Amazon a déclaré que ses actionnaires ont rejeté deux propositions qui auraient demandé à l'entreprise de ne pas vendre sa technologie de reconnaissance faciale aux clients gouvernementaux, selon Reuters. Toutefois, Amazon n'a pas publié les totaux des votes des actionnaires mercredi, mais a déclaré que l'information serait déposée auprès de la Securities and Exchange Commission des États-Unis plus tard dans la semaine.En effet, avant l'assemblée des actionnaires d'Amazon, deux propositions non contraignantes sur la reconnaissance faciale ont été soumises au vote le mardi, avec le soutien des groupes de défense des libertés civiles. L’une des propositions aurait interdit Amazon de continuer de vendre « Rekognition », son système de reconnaissance faciale, aux gouvernements à moins que son conseil d'administration n'ait déterminé que les ventes ne violaient pas les libertés civiles. Une deuxième résolution aurait exigé un examen indépendant des droits civils sur l'utilisation de la technologie.
Selon Reuters, l’ACLU avait écrit aux investisseurs d’Amazon avant la réunion du mercredi. Le groupe de défense des droits civils, pour motiver le vote des investisseurs pour les résolutions, a déclaré dans son courrier que la vente de la technologie de reconnaissance faciale d'Amazon aux agences gouvernementales « modifie fondamentalement l'équilibre du pouvoir entre le gouvernement et les individus, donnant aux gouvernements un pouvoir sans précédent pour suivre, contrôler et nuire aux gens ». Mais malgré le soutien de l’ACLU, les résolutions ont largement échoué mercredi, selon une porte-parole d'Amazon.
L’échec des propositions n’est, tout de même, pas très surprenant. En effet, le géant du commerce électronique avait essayé, bien avant l’assemblée annuelle, de mettre fin aux votes, mais la Securities and Exchange Commission a rejeté cette décision, selon Reuters. Ensuite, les deux propositions sur la reconnaissance faciale soutenues par l’ACLU et soumises aux votes le mercredi étaient non contraignantes. Même si elles n’avaient pas été rejetées par les votes, la société pouvait toujours rejeter les résultats du vote. Rappelons également que Jeff Bezos, fondateur et PDG d'Amazon, conserve toujours 12 % des actions de la société, ainsi que les droits de vote dans la participation restante de son ex-femme. Et les quatre principaux actionnaires institutionnels de la société détiennent collectivement environ le même nombre de droits de vote que Bezos.
La technologie de reconnaissance faciale d’Amazon a fait la une des journaux durant une bonne partie de l’année dernière. « Rekognition » et la technologie de reconnaissance faciale en général ont été taxées l’an dernier d’avoir un taux élevé de faux positifs et Amazon était accusée de vendre sa technologie de reconnaissance faciale au gouvernement américain qui en faisait une mauvaise utilisation. Les organismes de protection des libertés craignaient les fausses correspondances et les arrestations arbitraires, pendant que les partisans de la technologie soutenaient qu’elle assure la sécurité publique.
Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin, ont demandé à Amazon d’arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre : « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », avaient-ils écrit. Bien avant cette action des actionnaires d’Amazon, une pétition de l’ACLU où on pouvait lire « Amazon, sors du business de la surveillance » avait déjà engrangé déjà 150 000 signatures.
Rappelons aussi qu'en octobre dernier, un employé d'Amazon avait demandé à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives. Bien avant, en juillet, la technologie de reconnaissance faciale d'Amazon avait identifié à tort 28 membres du Congrès US comme des criminels, selon un rapport de l’ACLU.
En dépit de ces nombreuses protestations de la part des employées d'Amazon, de ses actionnaires et des associations de défense des droits numériques, Amazon a annoncé en novembre son intention de continuer à vendre son système de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration des USA.
Une réunion d’un important comité du Congrès s'est ténue en même temps que l’assemblée annuelle à Washington, D.C., pour discuter de l'impact sur les droits civils des technologies de reconnaissance faciale, en général. Un représentant démocrate Jimmy Gomez, qui a participait à la réunion, a réagit aux résultats du vote annoncés par Amazon en déclarant : « Cela signifie simplement qu'il est plus important que le Congrès agisse ». Les représentants républicains ont aussi déclaré être préoccupés par le fait que des citoyens américains voient leurs droits violés et que leurs informations soient partagées avec des personnes comme le FBI sans la supervision des représentants élus.
Ces propositions faisaient suite à des accusations selon lesquelles la technologie d’Amazon est biaisée et inexacte, ce qui, selon les critiques, peut être utilisé pour faire de la discrimination raciale à l'égard des minorités. En effet, des recherches récentes ont montré que la technologie d'Amazon avait de la difficulté à identifier le sexe des personnes dont la peau est plus foncée. Ce qui a fait craindre qu'une technologie défectueuse ne mette des innocents derrière les barreaux.
Mais, une fois encore, Amazon a défendu son travail et a déclaré que tous les utilisateurs doivent respecter la loi. Il a également ajouté un portail Web pour que les gens puissent signaler tout abus du service.
Selon Shankar Narayan de ACLU Washington, le vote des actionnaires est un signal d'alarme pour que l'entreprise prenne conscience des dangers réels inhérents à sa technologie : « Le fait qu'il y ait eu un vote à ce sujet est embarrassant pour l'équipe dirigeante d'Amazon. Elle démontre que les actionnaires n'ont pas confiance que les dirigeants de l'entreprise comprennent bien les répercussions sur les droits civils et les droits de la personne de son rôle de facilitateur de la surveillance gouvernementale omniprésente, ou qu'ils s'y attaquent ». « Bien que nous n'ayons pas encore vu la répartition exacte du vote, cette intervention des actionnaires devrait servir de signal d'alarme pour que l'entreprise prenne conscience des dangers réels de la surveillance faciale et qu'elle change de cap », a-t-il ajouté.
L'ACLU a déclaré que les investisseurs et les actionnaires avaient le pouvoir de « protéger Amazon contre son propre jugement manqué ». Mais que vaut le droit de vote des autres actionnaires auprès de celui du PDG, fondateur et plus gros actionnaire de l’entreprise ?
La porte-parole d'Amazon, Lauren Lynch, a déclaré mardi, avant la réunion, que l'entreprise fonctionne « conformément à notre code de conduite qui régit la façon dont nous gérons notre entreprise et l'utilisation de nos produits ». Pour ne pas dire que chaque entreprise devrait utiliser la reconnaissance faciale dans ses propres intérêts – se faire de l’argent –, pendant que l’IA est en train de confondre d’honnêtes personnes avec les malhonnêtes sur les routes. En décembre dernier, Google avait annoncé qu’il renonçait temporairement à vendre son IA, le temps de régler certaines questions importantes et San Francisco est devenu, le mardi 14 mai, la première ville aux Etats-Unis à interdire l'usage de la reconnaissance faciale pour des raisons en lien avec les droits de l'Homme.
Face aux actionnaires qui réclamaient en juin dernier l’arrêt de la commercialisation de « Rekognition » aux forces de l’ordre, Amazon avait précisé qu’ « il n’y a jusqu’ici pas eu de rapports d’utilisation abusive de Rekognition par les forces de l’ordre. »
A cause de certaines entreprises et leur technologie, les applications non recommandées de l’intelligence artificielle ont éclipsé les bonnes pratiques de la technologie. Comment peut-on comprendre que tant d’efforts ont été faits et continuent d’être consacrés au développement d’une technologie qui s’oppose l'ensemble des convictions et des valeurs les plus partagées.
Source : Reuters
Et vous ?
Que pensez-vous de la décision d’Amazon de continuer à vendre sa technologie de reconnaissance faciale ? A quand la réglementation de la technologie de l’intelligence artificielle, selon vous ? Lire aussi
Google ne vendra pas la technologie de reconnaissance faciale pour l'instant, avant d'aborder d'importantes questions de technologie et de politique Google, Amazon et Microsoft font face à de nouvelles pressions d'un lobby, militant pour un meilleur encadrement de la reconnaissance faciale Google obtient le rejet d'un procès concernant la reconnaissance faciale, le juge citant le manque de « préjudices concrets » infligés aux plaignants San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme Des policiers tentent d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale, le projet de loi a de nombreux défenseurs 
Envoyé par nicopulse
