Huawei, en collaboration avec Megvii, l'une des plus grandes sociétés chinoises d'intelligence artificielle (IA), a testé un système de reconnaissance faciale qui pourrait être utilisé pour détecter les membres d'un groupe minoritaire musulman et envoyer des alertes aux autorités, affirme un nouveau rapport. La minorité ethnique des Ouïghours est un groupe musulman réprimé, souvent visé par le gouvernement chinois, qui vit principalement dans la région occidentale du Xinjiang.Un document officiel de 2018 produit par les deux entreprises chinoises montre que Huawei a testé le logiciel de Megvii sur son infrastructure de Cloud vidéo. Le document a été découvert par IPVM, une société de recherche américaine spécialisée dans l'analyse de la vidéosurveillance. L'IPVM a fait part de sa découverte au Washington Post, qui a été le premier média à rendre compte de son contenu mardi.
Le test a été effectué pour voir si le matériel de Huawei est compatible avec le logiciel de reconnaissance faciale de Megvii, indique le rapport de l'IPVM. Huawei a fourni le matériel tel que les caméras, les serveurs et l'infrastructure de Cloud Computing, tandis que Megvii a fourni le logiciel, a-t-il ajouté. Dans le cadre de l'essai, une fonctionnalité appelée "alarme ouïghour" a été testée. Une autre caractéristique du logiciel a permis de déterminer l'« ethnicité » dans le cadre de son « analyse des attributs du visage », selon le rapport de l'IPVM.
En 2018, un rapport des Nations unies a fait état de préoccupations concernant le fait que plus d'un million de personnes étaient détenues dans « des centres dits de lutte contre l'extrémisme et que deux autres millions avaient été forcés de se rendre dans des "camps de rééducation" pour un endoctrinement politique et culturel » au Xinjiang. En juin de cette année, l'ONU a de nouveau fait part de ses préoccupations concernant « la répression collective de la population, en particulier des minorités religieuses et ethniques, au Xinjiang et au Tibet ».
Huawei et Megvii sont deux des pionniers technologiques les plus importants de Chine, et les autorités chinoises les ont considérés comme les leaders d'une campagne nationale visant à atteindre la pointe du développement de l'IA, selon le Washington Post. Mais ces entreprises multimilliardaires ont également subi les contrecoups des autorités américaines, qui affirment qu'elles représentent une menace pour la sécurité des États-Unis ou qu'elles ont contribué au régime brutal d'oppression ethnique de la Chine.
Huit entreprises chinoises, dont Megvii, ont été frappées de sanctions par le ministère américain du Commerce l'année dernière pour leur implication dans « des violations des droits de l'homme et des abus dans la mise en œuvre de la campagne de répression, de détention arbitraire massive et de surveillance par la haute technologie de la Chine » contre les Ouïghours et d'autres groupes minoritaires musulmans.
Le gouvernement américain a également pris des sanctions contre Huawei et les entreprises alliées, en interdisant l'exportation de technologies américaines vers cette entreprise et en faisant pression sur d'autres pays pour qu'ils excluent ses systèmes de leurs réseaux de télécommunications. Huawei, un mastodonte du matériel et des services utilisés dans plus de 170 pays, a dépassé Apple pour devenir le deuxième fabricant mondial de smartphones et s'efforce de mener le déploiement international de nouveaux réseaux mobiles 5G qui pourraient remodeler l'Internet.
Selon le rapport, Huawei et Megvii ont annoncé trois systèmes de surveillance utilisant la technologie des deux entreprises au cours des deux dernières années. Le Washington Post n'a pas pu confirmer immédiatement si le système avec "alarme ouïghour" testé en 2018 était l'un des trois actuellement en vente.
« Alarme ouïghour » générée par l'IA de Megvii et envoyée dans le système de Huawei à l’intention des contrôleurs chinois
Selon l'IPVM, une fonction telle que l'« alarme ouïghour » pourrait être utilisée pour signaler un membre du groupe minoritaire aux autorités. « Des systèmes comme Megvii sont intégrés au système de Huawei de sorte que les informations et les alarmes sont générées par Megvii puis envoyées dans le système de Huawei afin que les contrôleurs (par exemple, la police) puissent les examiner et y répondre », a déclaré John Honovich, président de l'IPVM, dans une communication par courrier électronique, alors qu'il expliquait la fonctionnalité potentielle de la fonction « alarme ouïghour ».
C'est un autre outil dans l'arsenal des autorités chinoises, qui ont utilisé la technologie pour sévir contre le groupe minoritaire musulman. L'année dernière, le New York Times a rapporté que la reconnaissance faciale était utilisée pour suivre les Ouïghours et garder un œil sur leurs déplacements.
L'IPVM a trouvé le document de Huawei et Megvii, qui était marqué "confidentiel", grâce à une recherche sur Google, d’après le Washington Post. Il a été téléchargé sur le site Web de Huawei, mais a depuis été supprimé.
« La collaboration de Huawei et Megvii sur l’alarme ouïghour prouve une fois de plus que de nombreuses grandes sociétés chinoises de vidéosurveillance/reconnaissance faciale sont profondément impliquées dans la répression des Ouïghours. Quiconque fait des affaires avec ces entreprises devrait en prendre note », conclut le rapport de l'IPVM, rédigé par Honovich. « Ce n'est pas une entreprise isolée. C'est systématique », a déclaré Honovich. Beaucoup de réflexion a été faite pour s'assurer que cette alarme ouïghour fonctionne ».
Ni Huawei ni Megvii n'ont nié la véracité du document découvert par l'IPVM, selon le journal.
« Ce rapport est simplement un test et il n'a pas été appliqué dans le monde réel », a déclaré un porte-parole de Huawei. « Huawei ne fournit que des produits d'usage général pour ce genre de test. Nous ne fournissons pas d'algorithmes ou d'applications personnalisés ». « Huawei opère en conformité avec les lois et règlements de tous les pays et régions où nous opérons », poursuit la déclaration, « et ne fournit que des produits et solutions TIC qui répondent aux normes industrielles reconnues ».
Megvii a déclaré que ses « solutions ne sont pas conçues ou personnalisées pour cibler ou étiqueter les groupes ethniques ». « Notre activité est axée sur le bien-être et la sécurité des individus, et non sur la surveillance de groupes démographiques particuliers », a déclaré un porte-parole de Megvii.
Les chercheurs en IA affirment, selon le Washington Post, qu’une telle IA pourrait contribuer à la discrimination, au profilage ou à la punition. Ils affirment également que le système ne manquera pas de produire des résultats inexacts, car ses performances varieraient considérablement en fonction de l'éclairage, de la qualité de l'image et d'autres facteurs - et parce que la diversité des ethnies et des origines des personnes n'est pas aussi clairement décomposée en simples groupes.
« Nous restons sceptiques quant à la précision de la reconnaissance ethnique, qu'elle soit ouïghour ou autre, même dans des conditions parfaites, les conditions réelles des caméras de surveillance (mauvais angles, mauvais éclairage, distances éloignées, etc.) exacerbant cela », a déclaré Honovich.
La technologie américaine utilisée dans l’IA, selon le rapport d'IPVM
Selon l'IPVM, le document confidentiel montre que le géant américain des semi-conducteurs Nvidia a contribué à alimenter le système de surveillance commun à Megvii et Huawei avec sa puce GPU Tesla P4. Toutefois, le rapport note qu'il n'est pas clair si Nvidia savait à quoi servaient ses puces. Nvidia n'a pas répondu à une demande de commentaires que lui a adressée CNBC.
Dans un récent rapport, le New York Times a rapporté que des puces d'Intel et de Nvidia étaient utilisées pour alimenter des ordinateurs capables de traiter et de regarder des images de surveillance et qui faisaient partie de la surveillance chinoise des Ouïghours au Xinjiang.
Mardi, le sénateur américain Marco Rubio et le représentant américain Jim McGove ont envoyé des lettres aux PDG d'Intel et de Nvidia en réponse à l'article du New York Times, a rapporté CNBC. Ils ont demandé aux entreprises si elles savaient comment leur technologie était utilisée et si elles prenaient des mesures pour s'assurer que leurs puces n'étaient « pas utilisées pour des violations des droits de l'homme ou pour compromettre la sécurité nationale des États-Unis ».
Clare Garvie, associée principale au Georgetown Law's Center on Privacy and Technology qui a étudié les logiciels de reconnaissance faciale, a déclaré que le logiciel d’ « alarme ouïghour » représente une étape dangereuse vers l'automatisation de la discrimination ethnique à une échelle dévastatrice.
« Il y a certains outils qui n'ont tout simplement pas d'application positive et beaucoup d'applications négatives, et un outil de classification ethnique est l'un d'entre eux », a déclaré Garvie. « Nommez une norme des droits de l'homme, et ceci est probablement une violation de celle-ci ».
Les chercheurs en IA craignent que les logiciels de détection d'ethnicité puissent un jour prendre leur envol en dehors des frontières d'un État de surveillance. La police et les autorités fédérales des États-Unis ont montré un intérêt croissant pour les logiciels de reconnaissance faciale en tant qu'outil d'investigation, mais ces systèmes ont suscité une vive réaction du public quant à leurs éventuels biais et inexactitudes, et certaines villes et forces de police ont choisi d'interdire purement et simplement cette technologie. Ces technologies pourraient toutefois trouver un marché parmi les régimes internationaux, quelque part dans l'équilibre entre l'influence chinoise et américaine.
Source : IPVM
Et vous ?
Que pensez-vous de l’IA d’ « alarme ouïghour » de Huawei- Megvii ? Quel commentaire faites-vous d’une telle technologie entre les mains des autorités chinoises ? Que se passera-t-il pour Huawei – qui a du mal à vendre sa technologie à cause des interdictions américaines – après un tel rapport ? Pensez-vous que l’utilisation d’une IA de classification ethnique pourrait s’étendre au monde occidental ?Voir aussi :
La police chinoise utilise une caméra basée sur l'IA et des analyses raciales pour suivre les Ouïghours, et les distinguer de la majorité Han Le coronavirus fait sortir de l'ombre l'état de surveillance de la Chine, les sociétés d'IA se targuant de pouvoir identifier dans la rue des personnes ayant même une faible fièvre, selon un rapport La Chine oblige les touristes à installer des logiciels espions à sa frontière, recherchant plus de 73 000 fichiers différents dans les téléphones Une fuite de données révèle que la Chine suit près de 2,6 millions de personnes dans Xinjiang, avec 6,7 millions de données GPS collectées en 24h 
Envoyé par Thierno290195
