L’intelligence artificielle est une technologie considérée comme l'une des percées scientifiques les plus importantes, mais aussi les plus lourdes sur le plan éthique, de mémoire récente. « Pour l'excellence et la confiance dans l'intelligence artificielle », la Commission européenne a dévoilé mercredi une réglementation stricte pour régir l'utilisation de l’IA, une politique inédite qui décrit comment les entreprises et les gouvernements peuvent utiliser cette technologie. Les nouvelles règles comprennent l'interdiction de la plupart des formes de surveillance, et visent à établir des normes mondiales pour une technologie clé dominée par la Chine et les États-Unis. Les groupes de défense des droits civils mettent toutefois en garde contre les éventuelles lacunes de la proposition.Présenté lors d'un point de presse à Bruxelles, le projet de règles fixerait des limites à l'utilisation de l'intelligence artificielle dans toute une série d'activités, des voitures autonomes aux décisions d'embauche, en passant par les sélections d'inscriptions dans les écoles et la notation des examens. Il couvrirait également l'utilisation de l'intelligence artificielle par les forces de l'ordre et les systèmes judiciaires – des domaines considérés comme "à haut risque", car ils pourraient menacer la sécurité des personnes ou leurs droits fondamentaux.
Toutefois, les groupes de défense des droits civils ont prévenu que les lacunes de la proposition, qui prévoit de lourdes amendes en cas de violation et fixe des garanties strictes pour les applications à haut risque, pourraient laisser place à des abus de la technologie par des gouvernements répressifs.
La Chine a pris de l’avance dans la course à l'IA, tandis que la pandémie de covid-19 a souligné l'importance des algorithmes et des gadgets connectés à Internet dans la vie quotidienne. Les technologues, les chefs d'entreprise et les responsables gouvernementaux considèrent l'intelligence artificielle, qui consiste à apprendre à des machines à effectuer des tâches par elles-mêmes en étudiant d'énormes volumes de données (Machine Learning), comme l'une des technologies les plus transformatrices au monde.
Mais à mesure que les systèmes deviennent plus sophistiqués, il peut être plus difficile de déterminer pourquoi la technologie prend une décision, un problème qui pourrait s'aggraver avec la puissance croissante des ordinateurs. Les chercheurs ont soulevé des questions éthiques concernant son utilisation, suggérant qu'elle pourrait perpétuer les préjugés existants dans la société, porter atteinte à la vie privée ou entraîner l'automatisation de davantage d'emplois.
« En matière d'intelligence artificielle, la confiance est un impératif, pas un luxe à avoir. Avec ces règles emblématiques, l'UE est le fer-de-lance de l'élaboration de nouvelles normes mondiales visant à garantir la fiabilité de l'IA », a déclaré Margrethe Vestager, la responsable européenne de la technologie dans un communiqué publié mercredi. « En fixant des normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et veiller à ce que l'UE reste compétitive en cours de route. À l'épreuve du futur et favorables à l'innovation, nos règles interviendront là où cela est strictement nécessaire : lorsque la sécurité et les droits fondamentaux des citoyens de l'UE sont en jeu ».
Certaines utilisations seraient totalement interdites, notamment la reconnaissance faciale en direct dans les espaces publics, bien que certaines exemptions soient prévues pour des raisons de sécurité nationale et autres. La Commission a également déclaré que les applications d'IA qui permettent aux gouvernements de faire du scoring social ou d'exploiter des enfants seront interdites. Les applications d'IA à haut risque utilisées dans le recrutement, les infrastructures critiques, l'évaluation du crédit, la migration et l'application de la loi seront soumises à des garanties strictes.
Les entreprises qui enfreignent les règles s'exposent à des amendes pouvant atteindre 6 % de leur chiffre d'affaires mondial ou 30 millions d'euros (36 millions de dollars), le chiffre le plus élevé étant retenu. Le chef de l'industrie européenne, Thierry Breton, a déclaré que les règles visent à dissiper les mythes et les idées fausses sur l'IA.
« Derrière le terme d'intelligence artificielle, il y a des croyances populaires et des peurs qui ont longtemps été véhiculées par l'industrie cinématographique », a déclaré Thierry Breton lors d'une conférence de presse. « Il est vrai que le petit robot (personnage du film d'animation de Walt Disney) WALL-E n'a malheureusement pas pu nous faire oublier le T-800 (robot) de Terminator. Il faut donc naviguer entre tout cela et ne pas stigmatiser la technologie », a-t-il ajouté lors de la présentation du projet.
« La réglementation seule ne fera pas de l'UE un leader de l'IA », d’après un groupe de pression
Ces règles ont des conséquences considérables pour les grandes entreprises technologiques, dont Amazon, Google, Facebook et Microsoft, qui ont consacré des ressources énormes au développement de l'intelligence artificielle, mais aussi pour de nombreuses autres entreprises qui utilisent cette technologie dans les domaines de la santé, des assurances et de la finance. Les gouvernements ont utilisé des versions de cette technologie dans le domaine de la justice pénale et de la répartition des services publics.
« L'IA est un moyen, pas une fin. Elle existe depuis des décennies, mais a atteint de nouvelles capacités alimentées par la puissance de calcul. Cela offre un immense potentiel dans des domaines aussi divers que la santé, les transports, l'énergie, l'agriculture, le tourisme ou la cybersécurité. Elle présente également un certain nombre de risques. Les propositions présentées aujourd'hui visent à renforcer la position de l'Europe en tant que pôle d'excellence mondial en matière d'IA, du laboratoire au marché, à faire en sorte que l'IA en Europe respecte nos valeurs et nos règles, et à exploiter le potentiel de l'IA à des fins industrielles ».
Cependant, le groupe de pression technologique CCIA a déclaré que les règles ne devraient pas créer plus de paperasserie pour les entreprises et les utilisateurs. L'IA sera essentielle pour la reprise économique et la compétitivité future de l'Europe. Toutefois, la réglementation seule ne fera pas de l'UE un leader de l'IA », a déclaré Christian Borggreen, vice-président de la CCIA.
European Digital Rights a souligné des lacunes inquiétantes dans la proposition. « Le projet de loi n'interdit pas toute l'étendue des utilisations inacceptables de l'IA et en particulier toutes les formes de surveillance biométrique de masse. Cela laisse un vide inquiétant pour les technologies de discrimination et de surveillance utilisées par les gouvernements et les entreprises », a déclaré Sarah Chander du groupe de lobbying.
Patrick Breyer, législateur du parti des Verts au Parlement européen, s'est également montré cinglant à l'égard de la proposition. « Les technologies de surveillance biométrique et de masse, de profilage et de prédiction comportementale dans nos espaces publics portent atteinte à nos libertés et menacent nos sociétés ouvertes. Les exigences procédurales proposées ne sont qu'un simple écran de fumée », a-t-il déclaré.
Alors que l'intelligence artificielle a commencé à pénétrer dans chaque partie de la société, des suggestions d'achat et des assistants vocaux aux décisions concernant l'embauche, les assurances et l'application de la loi, l'UE veut s'assurer que la technologie déployée en Europe est transparente, bénéficie d'une supervision humaine et répond à ses normes élevées en matière de confidentialité des utilisateurs.
Les règles proposées interviennent alors que l'Union européenne tente de rattraper les États-Unis et la Chine dans le déploiement de l'intelligence artificielle et d'autres technologies avancées. Les nouvelles exigences pourraient empêcher les entreprises technologiques de la région de concurrencer leurs rivaux étrangers si elles tardent à dévoiler leurs produits parce qu'ils doivent d'abord passer au scanner de la nouvelle législation.
En introduisant ce projet de règles, cependant, l'Union européenne tente de s'imposer comme l'organisme de surveillance de l'industrie technologique le plus agressif au monde. L'Union a déjà adopté les réglementations les plus strictes au monde en matière de protection des données personnelles et débat actuellement de nouvelles lois antitrust et de modération des contenus.
La Commission devra néanmoins régler les détails avec les gouvernements nationaux de l'UE et le Parlement européen avant que les règles puissent entrer en vigueur. Cela pourrait prendre des années, marquées par un lobbying intense de la part des entreprises et même des gouvernements étrangers, a déclaré Patrick Van Eecke, associé et responsable de la cyberpratique européenne du cabinet d'avocats Cooley.
L’Europe n’est pas la seule région à vouloir réglementer l’utilisation de l’IA. À Washington aux États-Unis, les risques de l'intelligence artificielle sont également pris en compte. Cette semaine, la Federal Trade Commission a mis en garde contre la vente de systèmes d'intelligence artificielle qui utilisent des algorithmes à caractère raciste ou qui pourraient « refuser à des personnes un emploi, un logement, un crédit, une assurance ou d'autres avantages ».
Source : Communiqué de presse
Et vous ?
Quel est votre avis sur le nouveau projet de règles sur l’utilisation de l’IA ? Partagez-vous les préoccupations des groupes de défense des droits civils qui ont prévenu que les lacunes de la proposition pourraient laisser place à des abus de la technologie ?Voir aussi :
L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social, les amendes pouvant atteindre 4 % du chiffre d'affaires Bruxelles revoit sa position et décide d'abandonner l'idée d'interdire l'utilisation de la reconnaissance faciale dans les lieux publics Bruxelles pourrait interdire l'utilisation des technologies de reconnaissance faciale dans les espaces publics sur cinq ans, le temps de légiférer sur des moyens permettant de prévenir des abus L'UE devrait interdire le scoring des citoyens et la surveillance de masse à l'aide de l'IA, selon un groupe d'experts de haut niveau 
Envoyé par Anselme45
