Le 21 avril 2021, la Commission européenne a présenté sa proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées en matière d'intelligence artificielle (ci-après « la proposition »). Une politique inédite qui décrit comment les entreprises et les gouvernements peuvent utiliser cette technologie. Les nouvelles règles comprennent l'interdiction de la plupart des formes de surveillance, et visent à établir des normes mondiales pour une technologie clé dominée par la Chine et les États-Unis.La Chine a pris de l’avance dans la course à l'IA, tandis que la pandémie de covid-19 a souligné l'importance des algorithmes et de l'IdO dans la vie quotidienne. Les technologues, les chefs d'entreprise et les responsables gouvernementaux considèrent l'intelligence artificielle, qui consiste à apprendre à des machines à effectuer des tâches par elles-mêmes en étudiant d'énormes volumes de données (Machine Learning), comme l'une des technologies les plus transformatrices au monde.
Mais à mesure que les systèmes deviennent plus sophistiqués, il peut être plus difficile de déterminer pourquoi la technologie prend une décision, un problème qui pourrait s'aggraver avec la puissance croissante des ordinateurs. Les chercheurs ont soulevé des questions éthiques concernant son utilisation, suggérant qu'elle pourrait perpétuer les préjugés existants dans la société, porter atteinte à la vie privée ou entraîner l'automatisation de davantage d'emplois.
« En matière d'intelligence artificielle, la confiance est un impératif, pas un luxe à avoir. Avec ces règles emblématiques, l'UE est le fer-de-lance de l'élaboration de nouvelles normes mondiales visant à garantir la fiabilité de l'IA », a déclaré Margrethe Vestager, la responsable européenne de la technologie dans un communiqué publié mercredi. « En fixant des normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et veiller à ce que l'UE reste compétitive en cours de route. À l'épreuve du futur et favorables à l'innovation, nos règles interviendront là où cela est strictement nécessaire : lorsque la sécurité et les droits fondamentaux des citoyens de l'UE sont en jeu ».
Certaines utilisations seraient totalement interdites, notamment la reconnaissance faciale en direct dans les espaces publics, bien que certaines exemptions soient prévues pour des raisons de sécurité nationale et autres. La Commission a également déclaré que les applications d'IA qui permettent aux gouvernements de faire du scoring social ou d'exploiter des enfants seront interdites. Les applications d'IA à haut risque utilisées dans le recrutement, les infrastructures critiques, l'évaluation du crédit, la migration et l'application de la loi seront soumises à des garanties strictes.
Les entreprises qui enfreignent les règles s'exposent à des amendes pouvant atteindre 6 % de leur chiffre d'affaires mondial ou 30 millions d'euros, le chiffre le plus élevé étant retenu. Le chef de l'industrie européenne, Thierry Breton, a déclaré que les règles visent à dissiper les mythes et les idées fausses sur l'IA.
« Derrière le terme d'intelligence artificielle, il y a des croyances populaires et des peurs qui ont longtemps été véhiculées par l'industrie cinématographique », a déclaré Thierry Breton lors d'une conférence de presse. « Il est vrai que le petit robot (personnage du film d'animation de Walt Disney) WALL-E n'a malheureusement pas pu nous faire oublier le T-800 (robot) de Terminator. Il faut donc naviguer entre tout cela et ne pas stigmatiser la technologie », a-t-il ajouté lors de la présentation du projet.
La réaction des gendarmes européens des données
Le Comité Européen de la Protection des Données et le Contrôleur européen de la protection des données se sont félicités de la préoccupation du législateur concernant l'utilisation de l'intelligence artificielle (IA) au sein de l'Union européenne (UE) et soulignent que la proposition a des implications particulièrement importantes en matière de protection des données.
Pour mémoire, le Comité européen de la Protection des Données est l'organe européen indépendant dont les objectifs sont de garantir l’application cohérente du Règlement Général sur la Protection des Données et de promouvoir la coopération entre les autorités de protection des données de l'Union européenne. Le Contrôleur européen de la protection des données quant à lui est une autorité de contrôle indépendante dépendant de l'Union européenne qui a pour mission première d’assurer que les institutions et organes européens respectent le droit à la vie privée et à la protection des données lorsqu’ils traitent des données à caractère personnel et élaborent de nouvelles politiques.
Les deux instances notent que :
« L’avènement des systèmes d’intelligence artificielle ("IA"
est une étape très importante dans l’évolution des technologies et dans la manière dont les humains interagissent avec elles. L'IA est un ensemble de technologies clés qui vont profondément modifier notre quotidien, que ce soit d'un point de vue sociétal ou économique. Au cours des prochaines années, des décisions décisives sont attendues pour l'IA, car elle nous aide à surmonter certains des plus grands défis auxquels nous sommes confrontés aujourd'hui dans de nombreux domaines, allant de la santé à la mobilité, ou de l'administration publique à l'éducation.« Cependant, ces avancées promises ne sont pas sans risques. En effet, les risques sont très pertinents étant donné que les effets individuels et sociétaux des systèmes d'IA sont, dans une large mesure, inexpérimentés. Générer du contenu, faire des prédictions ou prendre une décision de manière automatisée, comme le font les systèmes d'IA, au moyen de techniques d'apprentissage automatique ou de règles d'inférence logiques et probabilistes, n'est pas la même chose que les humains réalisant ces activités, au moyen d'un raisonnement créatif ou théorique, portant l'entière responsabilité des conséquences.
« L'IA augmentera le nombre de prédictions qui peuvent être faites dans de nombreux domaines à partir de corrélations mesurables entre des données, invisibles à l’œil humain, mais visibles aux machines, nous facilitant la vie et résolvant un grand nombre de problèmes, mais en même temps érodera notre capacité à donner une interprétation causale des résultats, de telle sorte que les notions de transparence, de contrôle humain et de responsabilité sur les résultats soient sérieusement remises en question.
« Les données (personnelles et non personnelles) dans l'IA sont dans de nombreux cas la prémisse clé pour des décisions autonomes, qui affecteront inévitablement la vie des individus à différents niveaux. C'est pourquoi le Comité Européen de la Protection des Données et le Contrôleur européen de la protection des données, déjà à ce stade, affirment fermement que la proposition de règlement établissant des règles harmonisées en matière d'intelligence artificielle (loi sur l'intelligence artificielle) a des implications importantes en matière de protection des données ».
Les deux instances ont souligné « la nécessité de tracer des lignes rouges aux futurs usages de l’IA ». Elles ont demandé que les exceptions prévues à l’interdiction de l'identification biométrique à distance des personnes dans les espaces publics soient tout simplement retirées : « L'identification biométrique à distance des individus dans les espaces accessibles au public présente un risque élevé d'intrusion dans la vie privée des individus, avec de graves effets sur l'attente des populations d'être anonymes dans les espaces publics. Pour ces raisons, les deux instances appellent à une interdiction générale de toute utilisation de l'IA pour une reconnaissance automatisée des caractéristiques humaines dans des espaces accessibles au public – tels que les visages, mais aussi la démarche, les empreintes digitales, l'ADN, la voix, les frappes et autres éléments biométriques ou des signaux comportementaux – dans n'importe quel contexte ».
Juste après, les instances recommandent également d'interdire l'utilisation des systèmes biométriques « utilisés aux fins de classer les individus dans des groupes basés sur l'ethnicité supposée, le sexe, l'orientation politique ou sexuelle, ou d'autres motifs pour lesquels la discrimination est interdite ».
Les systèmes utilisés pour la notation sociale qui « doivent être systématiquement interdits » : « Compte tenu du grand risque de discrimination, la Proposition interdit le "scoring social" lorsqu'il est effectué "sur une certaine période de temps" ou "par les autorités publiques ou en leur nom". Cependant, les entreprises privées, telles que les médias sociaux et les fournisseurs de services cloud, peuvent également traiter de grandes quantités de données personnelles et effectuer un scoring social. Par conséquent, le futur règlement IA devrait interdire tout type de scoring social »
Conclusion
Les règles proposées interviennent alors que l'Union européenne tente de rattraper les États-Unis et la Chine dans le déploiement de l'intelligence artificielle et d'autres technologies avancées. Les nouvelles exigences pourraient empêcher les entreprises technologiques de la région de concurrencer leurs rivaux étrangers si elles tardent à dévoiler leurs produits parce qu'ils doivent d'abord passer au scanner de la nouvelle législation.
En introduisant ce projet de règles, cependant, l'Union européenne tente de s'imposer comme l'organisme de surveillance de l'industrie technologique le plus agressif au monde. L'Union a déjà adopté les réglementations les plus strictes au monde en matière de protection des données personnelles et débat actuellement de nouvelles lois antitrust et de modération des contenus.
La Commission devra néanmoins régler les détails avec les gouvernements nationaux de l'UE et le Parlement européen avant que les règles puissent entrer en vigueur. Cela pourrait prendre des années, marquées par un lobbying intense de la part des entreprises et même des gouvernements étrangers, a déclaré Patrick Van Eecke, associé et responsable de la cyberpratique européenne du cabinet d'avocats Cooley.
L’Europe n’est pas la seule région à vouloir réglementer l’utilisation de l’IA. À Washington aux États-Unis, les risques de l'intelligence artificielle sont également pris en compte. Cette semaine, la Federal Trade Commission a mis en garde contre la vente de systèmes d'intelligence artificielle qui utilisent des algorithmes à caractère raciste ou qui pourraient « refuser à des personnes un emploi, un logement, un crédit, une assurance ou d'autres avantages ».
Source : CNIL européennes
Voir aussi :
Pourquoi les systèmes de crédit social de la Chine sont étonnamment populaires ? Ils combleraient la « méfiance mutuelle entre les citoyens » Chine : les personnes qui changent d'emploi trop souvent pourraient être sanctionnées, par le système de crédit social Bruxelles pourrait interdire l'utilisation des technologies de reconnaissance faciale dans les espaces publics sur cinq ans, le temps de légiférer sur des moyens permettant de prévenir des abus L'UE devrait interdire le scoring des citoyens et la surveillance de masse à l'aide de l'IA, selon un groupe d'experts de haut niveau 
Envoyé par Anselme45
