La Chine a publié le premier ensemble de directives sur l'éthique de l'IA du pays, mettant l'accent sur les droits des utilisateurs et le contrôle des données.Ces directives s'inscrivent dans le cadre de l'objectif de la Chine de devenir le leader mondial de l'IA d'ici à 2030, mais aussi dans le cadre des efforts déployés par Pékin pour réprimer l'influence des grandes entreprises technologiques.
Selon ces lignes directrices, les humains devraient avoir un pouvoir de décision total et le droit de choisir d'accepter des services d'IA, de mettre fin à une interaction avec un système d'IA ou d'interrompre son fonctionnement à tout moment. Le document a été publié par le ministère chinois des Sciences et des Technologies (MOST) dimanche dernier.
L'objectif est de "veiller à ce que l'intelligence artificielle soit toujours sous le contrôle des humains", peut-on lire dans les lignes directrices.
"C'est la première spécification que nous voyons du gouvernement [chinois] sur l'éthique de l'IA", a déclaré Rebecca Arcesati, analyste au groupe de réflexion allemand Mercator Institute for China Studies (Merics). "Nous n'avions vu que des principes de haut niveau auparavant".
Les directives, intitulées "Spécifications éthiques de l'intelligence artificielle de nouvelle génération", ont été rédigées par un comité de gouvernance de l'IA, qui a été créé sous l'égide du MOST en février 2019. En juin de la même année, le comité a publié un ensemble de principes directeurs pour la gouvernance de l'IA qui était beaucoup plus court et plus large que les spécifications nouvellement publiées.
"La Chine opte finalement pour un modèle robuste, où l'État réfléchit très sérieusement aux transformations sociales à long terme que l'IA apportera, de l'aliénation sociale aux risques existentiels, et essaie de gérer et de guider activement ces transformations", a déclaré Arcesati. "Ils sont remarquablement prévoyants dans leur réflexion".
Le document énonce six principes de base pour les systèmes d'IA, notamment celui de veiller à ce qu'ils soient "contrôlables et dignes de confiance". Les autres principes sont l'amélioration du bien-être humain, la promotion de l'équité et de la justice, la protection de la vie privée et de la sécurité, et l'acquisition de connaissances éthiques.
L'accent mis sur la protection et la responsabilisation des utilisateurs reflète les efforts de Pékin pour exercer un contrôle accru sur le secteur technologique du pays. L'une des dernières mesures prises dans le cadre de la répression menée depuis un an vise les algorithmes de recommandation de contenu, qui reposent souvent sur des systèmes d'IA conçus pour collecter et analyser des quantités massives de données sur les utilisateurs.
Les nouvelles lignes directrices sur l'IA constituent "un message clair aux géants de la technologie qui ont construit des modèles économiques entiers sur les algorithmes de recommandation", a déclaré M. Arcesati.
Cependant, les changements sont effectués au nom du choix de l'utilisateur, en donnant aux utilisateurs plus de contrôle sur leurs interactions avec les systèmes d'IA en ligne, une question avec laquelle d'autres pays sont également aux prises. La sécurité des données, la protection de la vie privée et le droit de refuser les décisions prises par l'IA sont tous mentionnés dans le nouveau document.
Pour prévenir les risques, il faut repérer les vulnérabilités techniques et sécuritaires des systèmes d'IA et y remédier, veiller à ce que les entités concernées soient tenues pour responsables, indique le document, et améliorer la gestion et le contrôle de la qualité des produits d'IA.
Les lignes directrices interdisent également aux produits et services d'IA de se livrer à des activités illégales et de mettre gravement en danger la sécurité nationale, la sécurité publique ou la sécurité de la fabrication. Ils ne doivent pas non plus pouvoir nuire à l'intérêt public, indique le document.
En 2017, le Conseil d'État chinois a défini un plan ambitieux visant à dépasser les États-Unis pour devenir le leader mondial de l'IA. La première phase du plan, qui donne au gouvernement un rôle de premier plan, spécifiait que l'industrie nationale devait suivre le rythme des technologies, applications, directives éthiques et cadres politiques de pointe en matière d'IA d'ici 2020.
L'objectif suivant est de réaliser des percées majeures en matière d'IA d'ici 2025 et de devenir le pays leader dans ce domaine d'ici la fin de la décennie.
Source : South China Morning Post
Et vous ?
Que pensez-vous de ces régulations de l'IA par le gouvernement chinois ? Comment pensez-vous que les grandes entreprises technologiques vont réagir face à ces nouvelles directives ? La Chine est-elle sur la bonne voie pour devenir le leader mondial de l'IA d'ici 2030, selon vous ?Voir aussi :
La Chine dépasse les États-Unis dans la recherche sur l'IA, la lutte pour la suprématie s'intensifie alors que les deux parties sont aux prises avec des problèmes de sécurité Le Royaume-Uni publie un plan décennal visant à devenir une « superpuissance de l'IA », afin de rivaliser avec les États-Unis et la Chine Course mondiale à l'intelligence artificielle : l'UE continue de se laisser distancer par les États-Unis premiers en la matière et par la Chine, qui se rapproche du sommet à grande vitesse Les USA "ne sont pas prêts à se défendre ou à rivaliser à l'ère de l'IA", déclare un groupe d'experts présidé par Éric Schmidt, il avertit que l'IA ne restera pas dans le cadre de la science-fiction 
