Alors que l'organisation européenne des consommateurs a déclaré il y a quelques jours que la proposition de loi de l'Europe sur l'IA est faible, l'organisme européen de protection de la vie privée monte à son tour au créneau en déclarant que l'utilisation de la technologie de reconnaissance faciale devrait être interdite. Ces commentaires interviennent deux jours après que la Commission européenne a proposé son projet de règles qui permettraient d'utiliser la reconnaissance faciale pour rechercher des enfants disparus ou des criminels et dans les cas d'attaques terroristes.Il y a quelques jours, l'UE a révélé son intention d'établir des normes mondiales pour l'utilisation de l'IA. La Commission a dévoilé une réglementation stricte pour régir l'utilisation de l’IA, une politique inédite qui décrit comment les entreprises et les gouvernements peuvent utiliser cette technologie. Selon l'organisation, cela devrait permettre de promouvoir « l'excellence et la confiance dans l'IA ». Certaines utilisations seraient totalement interdites, notamment la reconnaissance faciale en direct dans les espaces publics, bien qu'il y ait plusieurs exemptions pour des raisons de sécurité nationale et autres.
Cependant, pour l'organisation européenne des consommateurs, la proposition de loi est faible en matière de protection des consommateurs. « La proposition ne répond pas aux attentes des groupes de consommateurs ni à l'objectif de l'UE de permettre une IA dans laquelle les gens peuvent avoir confiance. Les règles proposées sont axées sur un éventail très limité d'utilisations et de problèmes liés à l'IA. Elles ne protègent pas suffisamment les consommateurs, par exemple contre les éventuels dommages économiques causés par les produits et services d'IA », a indiqué l'organisation européenne des consommateurs sur son site Web.
« Il est essentiel de bien légiférer pour que l'IA profite à la fois à l'individu et à la société dans son ensemble. Le Parlement européen et les États membres doivent améliorer la proposition pour que cet objectif puisse être atteint », a-t-elle ajouté. Si l'organisation européenne des consommateurs sur son site Web statue sur l'ensemble des règles proposées, l'organisme européen de protection de la vie privée s'est attardé sur le volet consacré à la technologie de reconnaissance faciale. Pour lui, la reconnaissance faciale devrait être purement et simplement interdite. À en croire son communiqué, cela devrait l'être, peu importe le cas d'utilisation.
Selon le Contrôleur européen de la protection des données (CEPD), « La reconnaissance faciale devrait être interdite en Europe en raison de son intrusion profonde et non démocratique dans la vie privée des gens ». « Une approche plus stricte est nécessaire étant donné que l'identification biométrique à distance, où l'IA peut contribuer à des développements sans précédent, présente des risques extrêmement élevés d'intrusion profonde et non démocratique dans la vie privée des individus », a-t-il déclaré dans un communiqué.
Il a déclaré qu'il regrettait que la Commission n'ait pas tenu compte de sa demande antérieure d'interdire la reconnaissance faciale dans les espaces publics. « Le CEPD s'attachera en particulier à fixer des limites précises pour les outils et systèmes qui peuvent présenter des risques pour les droits fondamentaux à la protection des données et à la vie privée. Les propositions de la Commission ont suscité des critiques de la part des groupes de défense des droits civils, inquiets des failles qui pourraient permettre aux gouvernements autoritaires d'abuser de l'IA pour réprimer les droits des personnes.
Elles doivent être discutées avec les pays de l'UE et le Parlement européen. Plus en détail, le projet de règles fixerait des limites à l'utilisation de l'IA dans toute une série d'activités, des voitures à conduite autonome aux décisions d'embauche, en passant par les prêts bancaires, les sélections d'inscriptions dans les écoles et la notation des examens. Elle couvrirait également l'utilisation de l'IA par les forces de l'ordre et les systèmes judiciaires. Ces derniers domaines sont considérés par la Commission européenne comme des domaines "à haut risque", car ils pourraient menacer la sécurité des personnes ou leurs droits fondamentaux.
Margrethe Vestager, vice-présidente exécutive pour une Europe adaptée à l'ère numérique, a déclaré : « En ce qui concerne l'IA, la confiance est une nécessité et non un luxe. Avec ces règles historiques, l'UE est le fer de lance de l'élaboration de nouvelles normes mondiales visant à garantir la fiabilité de l'IA. En fixant des normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et veiller à ce que l'UE reste compétitive. À l'épreuve du futur et favorables à l'innovation, nos règles interviendront là où c'est strictement nécessaire : lorsque la sécurité et les droits fondamentaux des citoyens de l'UE sont en jeu ».
La réglementation de l'UE obligerait les sociétés fournissant des solutions d'IA dans des domaines à haut risque à fournir aux régulateurs des preuves de sa sécurité, notamment des évaluations des risques et des documents expliquant comment la technologie prend ses décisions. Les entreprises doivent également garantir une surveillance humaine de la manière dont les systèmes sont créés et utilisés.
Source : Communiqué du CEPD
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous du projet de règles de la Commission européenne ?Voir aussi
L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA, mais des groupes de défense des droits civils s'inquiètent L'organisation européenne des consommateurs estime que la proposition de loi de l'Europe sur l'IA est faible, en matière de protection des consommateurs L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA, mais des groupes de défense des droits civils s'inquiètent L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social, les amendes pouvant atteindre 4 % du chiffre d'affaires 
Envoyé par tanaka59
