L'organisation européenne des consommateurs estime que la proposition de loi de l'Europe sur l'IA est faible,

En matière de protection des consommateurs

L'organisation européenne des consommateurs estime que la proposition de loi de l'Europe sur l'IA est faible,
en matière de protection des consommateurs

L'Union européenne a dévoilé mercredi des règles strictes visant à faire de l'Europe le centre mondial de l'intelligence artificielle (IA) digne de confiance. La combinaison du tout premier cadre juridique sur l'IA et d'un nouveau plan coordonné avec les États membres garantira la sécurité et les droits fondamentaux des personnes et des entreprises, tout en renforçant l'adoption de l'IA, les investissements et l'innovation dans toute l'UE. Certaines utilisations seraient totalement interdites, notamment la reconnaissance faciale en direct dans les espaces publics, bien qu'il y ait plusieurs exemptions pour des raisons de sécurité nationale et autres. Cependant, pour l'organisation européenne des consommateurs, la proposition de loi est faible en matière de protection des consommateurs.

Présenté lors d'un point de presse à Bruxelles, le projet de règles fixerait des limites à l'utilisation de l'intelligence artificielle dans toute une série d'activités, des voitures à conduite autonome aux décisions d'embauche, en passant par les prêts bancaires, les sélections d'inscriptions dans les écoles et la notation des examens. Elle couvrirait également l'utilisation de l'intelligence artificielle par les forces de l'ordre et les systèmes judiciaires ; des domaines considérés comme "à haut risque", car ils pourraient menacer la sécurité des personnes ou leurs droits fondamentaux.


Margrethe Vestager, vice-présidente exécutive pour une Europe adaptée à l'ère numérique, a déclaré : « En ce qui concerne l'intelligence artificielle, la confiance est une nécessité et non un luxe. Avec ces règles historiques, l'UE est le fer de lance de l'élaboration de nouvelles normes mondiales visant à garantir la fiabilité de l'IA. En fixant des normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et veiller à ce que l'UE reste compétitive. À l'épreuve du futur et favorables à l'innovation, nos règles interviendront là où c'est strictement nécessaire : lorsque la sécurité et les droits fondamentaux des citoyens de l'UE sont en jeu ».

Le commissaire chargé du marché intérieur, Thierry Breton, a déclaré : « L'IA est un moyen, pas une fin. Elle existe depuis des décennies, mais a atteint de nouvelles capacités alimentées par la puissance de calcul. Cela offre un immense potentiel dans des domaines aussi divers que la santé, les transports, l'énergie, l'agriculture, le tourisme ou la cybersécurité. Elle présente également un certain nombre de risques. Les propositions présentées aujourd'hui visent à renforcer la position de l'Europe en tant que pôle d'excellence mondial en matière d'IA, du laboratoire au marché, à faire en sorte que l'IA en Europe respecte nos valeurs et nos règles, et à exploiter le potentiel de l'IA à des fins industrielles ». La réglementation de l'Union européenne obligerait les entreprises fournissant de l'intelligence artificielle dans des domaines à haut risque à fournir aux régulateurs des preuves de sa sécurité, notamment des évaluations des risques et des documents expliquant comment la technologie prend ses décisions. Les entreprises doivent également garantir une surveillance humaine de la manière dont les systèmes sont créés et utilisés.

En outre, le nouveau règlement sur les machines répondra aux besoins du marché en apportant une plus grande clarté juridique aux dispositions actuelles, en simplifiant la charge administrative et les coûts pour les entreprises en autorisant les formats numériques pour la documentation et en adaptant les frais d'évaluation de la conformité pour les PME, tout en assurant la cohérence avec le cadre législatif de l'UE pour les produits. Le Parlement européen et les États membres devront adopter les propositions de la Commission relatives à une approche européenne de l'intelligence artificielle et aux produits dérivés dans le cadre de la procédure législative ordinaire. Une fois adoptés, les règlements seront directement applicables dans toute l'UE. En parallèle, la Commission continuera à collaborer avec les États membres pour mettre en œuvre les actions annoncées dans le plan coordonné.


Cependant, certains analystes estiment que la proposition de loi européenne sur l'intelligence artificielle est faible en matière de protection des consommateurs. « La proposition ne répond pas aux attentes des groupes de consommateurs ni à l'objectif de l'UE de permettre une IA dans laquelle les gens peuvent avoir confiance. Les règles proposées sont axées sur un éventail très limité d'utilisations et de problèmes liés à l'IA. Elles ne protègent pas suffisamment les consommateurs, par exemple contre les éventuels dommages économiques causés par les produits et services d'IA. Il est essentiel de bien légiférer pour que l'IA profite à la fois à l'individu et à la société dans son ensemble. Le Parlement européen et les États membres doivent améliorer la proposition pour que cet objectif puisse être atteint », a indiqué l'organisation européenne des consommateurs sur son site Web.

Une enquête récente de l'organisation européenne montre que la majorité des consommateurs sont très préoccupés par l'utilisation de l'IA. La majorité des personnes interrogées ont reconnu que les entreprises utilisent l'IA pour manipuler les décisions des consommateurs. Plus de deux tiers des personnes interrogées ont déclaré que les utilisateurs devraient avoir le droit de dire "non" à la prise de décision automatisée.

Monique Goyens, directrice générale de l'organisation européenne des consommateurs, a déclaré : « Les produits et services alimentés par l'IA (des assistants vocaux aux bots de chat) entrent de plus en plus dans la vie des consommateurs. Pourtant, 43 % des personnes interrogées dans le cadre de notre enquête se sentent mal informées sur l'IA ou n'en ont jamais entendu parler. Et si les consommateurs pensent que l'IA peut apporter des avantages, ils disent aussi qu'elle ne les apporte pas encore. Ils sont également nombreux à exprimer de sérieuses inquiétudes, 50 % affirment que l'IA entraînera des discriminations.

« L'enquête montre que les organisations de consommateurs ont du pain sur la planche pour informer les consommateurs sur les applications d'IA utiles, sûres et conformes à la législation et sur la meilleure façon de les utiliser », ajoute-t-elle. Pour Monique Goyens, la Commission européenne aurait dû s'attacher davantage à aider les consommateurs à faire confiance à l'IA dans leur vie quotidienne. Par exemple, l'utilisation de l'intelligence artificielle et de la prise de décision automatisée ne doit pas entraîner de discrimination ni limiter l'autonomie et le choix des consommateurs.

Sources : Commission européenne, Organisation européenne des consommateurs

Et vous ?

Que pensez-vous de cette proposition de loi de l'UE sur l'intelligence artificielle ?

Êtes-vous d'avis avec l'organisation européenne des consommateurs que la loi est faible en matière de protection des consommateurs ?

Pensez-vous que les consommateurs ne font pas assez confiance à l'intelligence artificielle ?

Voir aussi :

L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA, mais des groupes de défense des droits civils s'inquiètent

L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social, les amendes pouvant atteindre 4 % du chiffre d'affaires

Les USA "ne sont pas prêts à se défendre ou à rivaliser à l'ère de l'IA", déclare un groupe d'experts présidé par Eric Schmidt, il avertit que l'IA ne restera pas dans le cadre de la science-fiction

France : un décret autorise l'utilisation de caméras intelligentes pour mesurer le taux de port de masque dans les transports, dans le cadre de la lutte contre le coronavirus