Les actionnaires d'Amazon rejettent l'interdiction de la reconnaissance faciale,
Alors que le Congrès s'inquiète de son impact sur les droits civils

Le , par Stan Adkens

49PARTAGES

6  0 
Amazon devrait continuer à commercialiser sa technologie de reconnaissance faciale, car rien ne l’y interdit pour l’instant, en tout cas pas le vote des actionnaires qui a eu lieu le mercredi, lors de l'assemblée annuelle du géant du commerce électronique. Amazon a déclaré que ses actionnaires ont rejeté deux propositions qui auraient demandé à l'entreprise de ne pas vendre sa technologie de reconnaissance faciale aux clients gouvernementaux, selon Reuters. Toutefois, Amazon n'a pas publié les totaux des votes des actionnaires mercredi, mais a déclaré que l'information serait déposée auprès de la Securities and Exchange Commission des États-Unis plus tard dans la semaine.

En effet, avant l'assemblée des actionnaires d'Amazon, deux propositions non contraignantes sur la reconnaissance faciale ont été soumises au vote le mardi, avec le soutien des groupes de défense des libertés civiles. L’une des propositions aurait interdit Amazon de continuer de vendre « Rekognition », son système de reconnaissance faciale, aux gouvernements à moins que son conseil d'administration n'ait déterminé que les ventes ne violaient pas les libertés civiles. Une deuxième résolution aurait exigé un examen indépendant des droits civils sur l'utilisation de la technologie.


Selon Reuters, l’ACLU avait écrit aux investisseurs d’Amazon avant la réunion du mercredi. Le groupe de défense des droits civils, pour motiver le vote des investisseurs pour les résolutions, a déclaré dans son courrier que la vente de la technologie de reconnaissance faciale d'Amazon aux agences gouvernementales « modifie fondamentalement l'équilibre du pouvoir entre le gouvernement et les individus, donnant aux gouvernements un pouvoir sans précédent pour suivre, contrôler et nuire aux gens ». Mais malgré le soutien de l’ACLU, les résolutions ont largement échoué mercredi, selon une porte-parole d'Amazon.

L’échec des propositions n’est, tout de même, pas très surprenant. En effet, le géant du commerce électronique avait essayé, bien avant l’assemblée annuelle, de mettre fin aux votes, mais la Securities and Exchange Commission a rejeté cette décision, selon Reuters. Ensuite, les deux propositions sur la reconnaissance faciale soutenues par l’ACLU et soumises aux votes le mercredi étaient non contraignantes. Même si elles n’avaient pas été rejetées par les votes, la société pouvait toujours rejeter les résultats du vote. Rappelons également que Jeff Bezos, fondateur et PDG d'Amazon, conserve toujours 12 % des actions de la société, ainsi que les droits de vote dans la participation restante de son ex-femme. Et les quatre principaux actionnaires institutionnels de la société détiennent collectivement environ le même nombre de droits de vote que Bezos.

La technologie de reconnaissance faciale d’Amazon a fait la une des journaux durant une bonne partie de l’année dernière. « Rekognition » et la technologie de reconnaissance faciale en général ont été taxées l’an dernier d’avoir un taux élevé de faux positifs et Amazon était accusée de vendre sa technologie de reconnaissance faciale au gouvernement américain qui en faisait une mauvaise utilisation. Les organismes de protection des libertés craignaient les fausses correspondances et les arrestations arbitraires, pendant que les partisans de la technologie soutenaient qu’elle assure la sécurité publique.

Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin, ont demandé à Amazon d’arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre : « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », avaient-ils écrit. Bien avant cette action des actionnaires d’Amazon, une pétition de l’ACLU où on pouvait lire « Amazon, sors du business de la surveillance » avait déjà engrangé déjà 150 000 signatures.

Rappelons aussi qu'en octobre dernier, un employé d'Amazon avait demandé à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives. Bien avant, en juillet, la technologie de reconnaissance faciale d'Amazon avait identifié à tort 28 membres du Congrès US comme des criminels, selon un rapport de l’ACLU.

En dépit de ces nombreuses protestations de la part des employées d'Amazon, de ses actionnaires et des associations de défense des droits numériques, Amazon a annoncé en novembre son intention de continuer à vendre son système de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration des USA.

Une réunion d’un important comité du Congrès s'est ténue en même temps que l’assemblée annuelle à Washington, D.C., pour discuter de l'impact sur les droits civils des technologies de reconnaissance faciale, en général. Un représentant démocrate Jimmy Gomez, qui a participait à la réunion, a réagit aux résultats du vote annoncés par Amazon en déclarant : « Cela signifie simplement qu'il est plus important que le Congrès agisse ». Les représentants républicains ont aussi déclaré être préoccupés par le fait que des citoyens américains voient leurs droits violés et que leurs informations soient partagées avec des personnes comme le FBI sans la supervision des représentants élus.

Ces propositions faisaient suite à des accusations selon lesquelles la technologie d’Amazon est biaisée et inexacte, ce qui, selon les critiques, peut être utilisé pour faire de la discrimination raciale à l'égard des minorités. En effet, des recherches récentes ont montré que la technologie d'Amazon avait de la difficulté à identifier le sexe des personnes dont la peau est plus foncée. Ce qui a fait craindre qu'une technologie défectueuse ne mette des innocents derrière les barreaux.


Mais, une fois encore, Amazon a défendu son travail et a déclaré que tous les utilisateurs doivent respecter la loi. Il a également ajouté un portail Web pour que les gens puissent signaler tout abus du service.

Selon Shankar Narayan de ACLU Washington, le vote des actionnaires est un signal d'alarme pour que l'entreprise prenne conscience des dangers réels inhérents à sa technologie : « Le fait qu'il y ait eu un vote à ce sujet est embarrassant pour l'équipe dirigeante d'Amazon. Elle démontre que les actionnaires n'ont pas confiance que les dirigeants de l'entreprise comprennent bien les répercussions sur les droits civils et les droits de la personne de son rôle de facilitateur de la surveillance gouvernementale omniprésente, ou qu'ils s'y attaquent ». « Bien que nous n'ayons pas encore vu la répartition exacte du vote, cette intervention des actionnaires devrait servir de signal d'alarme pour que l'entreprise prenne conscience des dangers réels de la surveillance faciale et qu'elle change de cap », a-t-il ajouté.

L'ACLU a déclaré que les investisseurs et les actionnaires avaient le pouvoir de « protéger Amazon contre son propre jugement manqué ». Mais que vaut le droit de vote des autres actionnaires auprès de celui du PDG, fondateur et plus gros actionnaire de l’entreprise ?

La porte-parole d'Amazon, Lauren Lynch, a déclaré mardi, avant la réunion, que l'entreprise fonctionne « conformément à notre code de conduite qui régit la façon dont nous gérons notre entreprise et l'utilisation de nos produits ». Pour ne pas dire que chaque entreprise devrait utiliser la reconnaissance faciale dans ses propres intérêts – se faire de l’argent –, pendant que l’IA est en train de confondre d’honnêtes personnes avec les malhonnêtes sur les routes. En décembre dernier, Google avait annoncé qu’il renonçait temporairement à vendre son IA, le temps de régler certaines questions importantes et San Francisco est devenu, le mardi 14 mai, la première ville aux Etats-Unis à interdire l'usage de la reconnaissance faciale pour des raisons en lien avec les droits de l'Homme.

Face aux actionnaires qui réclamaient en juin dernier l’arrêt de la commercialisation de « Rekognition » aux forces de l’ordre, Amazon avait précisé qu’ « il n’y a jusqu’ici pas eu de rapports d’utilisation abusive de Rekognition par les forces de l’ordre. »

A cause de certaines entreprises et leur technologie, les applications non recommandées de l’intelligence artificielle ont éclipsé les bonnes pratiques de la technologie. Comment peut-on comprendre que tant d’efforts ont été faits et continuent d’être consacrés au développement d’une technologie qui s’oppose l'ensemble des convictions et des valeurs les plus partagées.

Source : Reuters

Et vous ?

Que pensez-vous de la décision d’Amazon de continuer à vendre sa technologie de reconnaissance faciale ?
A quand la réglementation de la technologie de l’intelligence artificielle, selon vous ?

Lire aussi

Google ne vendra pas la technologie de reconnaissance faciale pour l'instant, avant d'aborder d'importantes questions de technologie et de politique
Google, Amazon et Microsoft font face à de nouvelles pressions d'un lobby, militant pour un meilleur encadrement de la reconnaissance faciale
Google obtient le rejet d'un procès concernant la reconnaissance faciale, le juge citant le manque de « préjudices concrets » infligés aux plaignants
San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
Des policiers tentent d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale, le projet de loi a de nombreux défenseurs

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Bill Fassinou
Chroniqueur Actualités https://www.developpez.com
Le 25/05/2019 à 18:50
L'interdiction de la vente de la technologie de reconnaissance faciale d'Amazon n'a recueilli que 2 %
des suffrages des actionnaires

Chez Amazon Inc., les actionnaires semblent être divisés sur la question de la vente de la technologie de reconnaissance faciale aux agences gouvernementales. Reuters a rapporté ce vendredi que la pétition lancée pour recueillir le soutien des actionnaires d’Amazon en vue d’interdire la vente de la reconnaissance faciale aux gouvernements n’a pas atteint le suffrage voulu. L’interdiction n’a recueilli que 2 % des suffrages des actionnaires. À noter que les actionnaires ont également rejeté la demande des employés d’abandonner les combustibles fossiles et d’adopter les sources d’énergies renouvelables pour limiter les impacts négatifs du réchauffement climatique.

Lors de la réunion des actionnaires chez Amazon Inc. ce mercredi, les actionnaires ont décliné la pétition de quelques milliers d’employés (un peu plus de 7000) soutenus par quelques actionnaires de la société qui demandent au géant du Web de revoir son attachement aux sources d’énergie fossile. Les employés de la société déplorent le fait que la société, en tant qu’un des plus grands émetteurs de gaz à effet de serre dans le monde, n’entreprend aucune action de grande envergure pour participer à la lutte contre le réchauffement climatique.

« Il est inacceptable que l'une des sociétés les plus riches du monde continue à prendre des demi-mesures, car les conséquences de ses émissions de gaz à effet de serre mettent en péril tant de vies de pauvres dans le monde », a déclaré Rajit Ifthikar, un employé de la société qui a milité pour l'initiative sur le changement climatique, aux journalistes après la réunion. Au cours de la même réunion, a rapporté Reuters hier, les actionnaires d’Amazon Inc. ont massivement rejeté la proposition selon laquelle la société cesserait de vendre la technologie de reconnaissance faciale aux agences gouvernementales.

Seulement quelque 2,4 % des voix étaient en faveur de l'interdiction. Une deuxième proposition qui appelait à une étude sur la mesure dans laquelle le service de reconnaissance faciale d'Amazon nuisait aux droits civils et à la vie privée avait recueilli un soutien de 27,5 %, a expliqué l’agence de presse Reuters. De son côté, Amazon a défendu sa technologie et a déclaré que tous les utilisateurs devaient respecter la loi. Néanmoins, le débat s’accentue autour de la vente de cette technologie. Les actionnaires de la société ne partagent pas le même avis sur le sujet, car la minorité en défaveur de la vente de la reconnaissance faciale aux forces de l’ordre estime que la technologie ne respecte pas la vie privée des personnes.

Ces derniers mettent également en garde contre les faux positifs (fausses correspondances) de la reconnaissance faciale. À ce propos, rappelons que cette technologie de reconnaissance faciale d'Amazon avait identifié à tort 28 membres du Congrès US comme des criminels en juillet de l'année dernière. En effet, l'ACLU, une association à but non lucratif de défense des droits numériques, avait conduit des tests sur le système de reconnaissance faciale d'Amazon et il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels. Au nombre de ces 28 congressistes identifiés à tort comme des criminels, il y avait des hommes, des femmes, des Républicains, des Démocrates de différents âges.


L’association avait, pour son test, construit une base de données de 25 000 photos de personnes arrêtées. Elle avait ensuite lancé une recherche de correspondance entre cette base de données et l’ensemble des membres en exercice du Congrès. Et elle précise que toute la procédure a été exécutée avec les réglages de correspondance qu’Amazon définit par défaut pour Rekognition. A partir du moment où l’identification peut être biaisée, il est aisé d’anticiper les effets de ces éventuelles fausses identifications. Un policier pourrait, sur la base d’une identification erronée, catégoriser un individu comme armé et dangereux avant même de l’interpeller. Une identification, précise ou non, peut coûter a une personne sa liberté, et même sa vie.

De l’autre côté, les actionnaires d'Amazon qui sont en faveur de la vente de la technologie estiment que cela protège le public. D’après Reuters, beaucoup de résolutions d’Amazon émanant d’actionnaires et d’employés se heurtent à une bataille ardue pour obtenir l’appui de la majorité des voix. De plus, le fondateur et directeur général Jeff Bezos contrôle à lui tout seul, 16 % des actions et des droits de vote. Dans une lettre à Jeff Bezos, Black Caucus du Congrès avait lui-même exprimé son inquiétude à propos des « graves conséquences néfastes inattendues » que Rekognition pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Cette inquiétude se justifie par le fait que 40 % des correspondances erronées lors du test de l’ACLU étaient des personnes de couleur, alors que les personnes de couleur ne représentent que 20 % du Congrès.

Cela dit, les craintes ne viennent pas seulement du rang des 2 % des actionnaires et employés contre la reconnaissance faciale, mais aussi du Congrès américain. L’American Civil Liberties Union, et une kyrielle d’autres organisations du même type avaient expressément demandé à Amazon d’arrêter de vendre sa technologie aux forces de l’ordre. Ces associations craignaient que Rekognition, entre les mains du pouvoir en place, ne soit utilisée à des desseins autres que l’identification de vrais criminels.

Le Congrès s’inquiète de l’impact de la technologie sur les droits civils et une étude a été ouverte sur la question. Une réunion d’un important comité du Congrès a eu lieu en même temps que l’assemblée annuelle à Washington D.C. pour discuter de l'impact sur les droits civils des technologies de reconnaissance faciale, en général.

Un représentant démocrate Jimmy Gomez, qui a participé à la réunion, a réagi aux résultats du vote annoncés par Amazon en déclarant : « Cela signifie simplement qu'il est plus important que le Congrès agisse ». Les représentants républicains ont aussi déclaré être préoccupés par le fait que des citoyens américains voient leurs droits violés et que leurs informations soient partagées avec des personnes comme le FBI sans la supervision des représentants élus. Mais le danger ne vient pas seulement d’Amazon Inc.

Selon Reuters, aux États-Unis, l'application de la loi utilise la reconnaissance faciale depuis des années, et les fournisseurs de cette technologie ont abondé, notamment la société française Idemia et la société japonaise NEC Corp. Cependant, de nouveaux entrants comme AnyVision et Microsoft Corp. ont appelé à une réglementation ces derniers mois. La commercialisation de la reconnaissance faciale d’Amazon a donné lieu à un examen minutieux, et des chercheurs ont déclaré que sa technologie peinait à identifier le sexe des individus à la peau plus sombre, faisant craindre des arrestations injustes.

Source : Reuters

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Les actionnaires et des milliers d'employés d'Amazon tentent de convaincre la société d'abandonner les combustibles fossiles, mais en vain

Les actionnaires d'Amazon rejettent l'interdiction de la reconnaissance faciale, alors que le Congrès s'inquiète de son impact sur les droits civils

La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels. Quels dangers pour les Américains ?

USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon craignant une surveillance de masse par la police
7  0 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 26/05/2019 à 8:11
"Chez Amazon Inc., les actionnaires semblent être divisés sur la question de la vente de la technologie de reconnaissance faciale"
2% c'est pas ce que j'appelle divisé.

Et que fait amazon avec un système de reconnaissance facial surtout. Entre ça et les enregistrements des conversations avec son assistant vocale, c'est plus amazon qu'il faut l'appelé mais octobre rouge ou nsaland.
0  0 

 
Contacter le responsable de la rubrique Intelligence artificielle

Partenaire : Hébergement Web