Les négociations autour des premières règles de l'Union européenne régissant l'intelligence artificielle semblaient prêtes à atteindre un point culminant dramatique mercredi, alors que les législateurs entament ce que certains espèrent être le dernier cycle de discussions sur cette législation historique. Ce qui sera décidé pourrait servir de modèle à d’autres gouvernements alors que les pays cherchent à élaborer des règles pour leur propre industrie de l’IA.Avant la réunion, les législateurs et les gouvernements n’étaient pas parvenus à s’entendre sur des questions clés, notamment la réglementation de l’IA générative à croissance rapide et son utilisation par les forces de l’ordre. Il faut dire que la France et l'Allemagne ont changé d'avis et appelé plutôt à l'autorégulation, un revirement interprété comme une manœuvre visant à éviter de briser l'élan de leurs champions nationaux.
Les discussions, entamées mercredi, devraient reprendre vendredi 8 décembre au matin, a annoncé Thierry Breton, le commissaire européen au Numérique.
Le boom de l’IA générative a poussé les gouvernements du monde entier à se démener pour réglementer la technologie émergente, mais il a également accru le risque de bouleverser les efforts de l’Union européenne visant à approuver les premières règles globales en matière d’intelligence artificielle au monde.
Le projet de loi sur l’intelligence artificielle (ou AI Act en anglais) de l'UE a été salué comme un règlement pionnier. Mais comme le temps presse, il n’est pas certain que les pays membres parviendront à parvenir à un accord dans ce que les responsables espèrent être un dernier cycle de négociations à huis clos.
Les efforts déployés depuis des années par l’Europe pour élaborer des garde-fous en matière d’IA ont été entravés par l’émergence récente de systèmes d’IA génératifs comme ChatGPT d’OpenAI, qui ont ébloui le monde par leur capacité à produire un travail de type humain, mais ont suscité des craintes quant aux risques qu’ils posent.
Ces préoccupations ont poussé les États-Unis, le Royaume-Uni, la Chine et des coalitions mondiales comme le Groupe des 7 grandes démocraties dans la course pour réglementer cette technologie en développement rapide, même s’ils sont encore derrière l’Europe dans la matière.
L’AI Act vise à répondre aux préoccupations croissantes concernant l’IA, tout en favorisant sa croissance et son développement responsables au sein du bloc européen. Au cœur de la législation se trouvent quatre principes clés : la transparence, la surveillance humaine, la sécurité et le respect des droits fondamentaux.
Quelques points de friction
L’un des principaux points de friction concerne les modèles de base, les systèmes avancés qui sous-tendent les services d’IA à usage général comme ChatGPT d’OpenAI et le chatbot Bard de Google.
Également connus sous le nom de grands modèles de langage, ces systèmes sont formés sur de vastes quantités d’œuvres écrites et d’images récupérées sur Internet. Ils donnent aux systèmes d’IA générative la capacité de créer quelque chose de nouveau, contrairement à l’IA traditionnelle, qui traite les données et accomplit les tâches en utilisant des règles prédéterminées.
Après une journée de discussions difficiles entre les États membres et le Parlement européen, l'Union européenne a annoncé, ce jeudi 7 décembre, une pause jusqu'à vendredi matin. « De nombreux progrès ont été réalisés au cours des 22 dernières heures. Reprise des travaux demain à 9h00 », a annoncé sur X/Twitter le commissaire européen au Numérique, Thierry Breton, à l'origine de la proposition législative présentée en avril 2021.
« La France et l’Allemagne freinent des quatre fers sur ce projet de régulation pour des raisons de souveraineté. Nos deux pays redoutent qu’un cadre trop contraignant pénalise l’envol de leurs champions nationaux, Mistral AI chez nous et Aleph-Alpha outre-Rhin », déplore Jean-Baptiste Bouzige, président cofondateur d’Ekimetrics, une société de services numériques spécialisée dans l’IA et l’exploitation des données.Lots of progress made over past 22 hours on the #AIAct
— Thierry Breton (@ThierryBreton) December 7, 2023
Resuming work with EU Parliament and Council tomorrow at 9:00 AM
Stay tuned!#Trilogue pic.twitter.com/gEnggaRKTR
Approche basée sur le risque pour la réglementation de l’IA
Les règles proposées classent les applications d’IA en quatre niveaux de risque*:
- Risque inacceptable*: ceux-ci sont totalement interdits, comme les systèmes d'IA conçus pour la notation sociale ou le contenu manipulateur des réseaux sociaux.
- Risque élevé*: ceux-ci nécessitent des réglementations strictes, comprenant une surveillance humaine, des systèmes de gestion des risques robustes et des évaluations de conformité ex ante. Les exemples incluent la technologie de reconnaissance faciale et l’IA utilisées dans les infrastructures critiques.
- Risque limité*: ces entreprises sont confrontées à des réglementations plus légères, axées sur les exigences de transparence et de tenue de registres.
- Risque minimal*: ceux-ci ne nécessitent aucune intervention réglementaire spécifique.
Impact mondial de la loi sur l'IA
L’effort pionnier de l’UE en matière de réglementation de l’IA devrait avoir un impact mondial significatif. En tant que plus grand bloc commercial au monde, ses règles sont susceptibles d’influencer le développement et le déploiement des technologies d’IA à travers le monde. D’autres pays et régions surveillent déjà de près la situation, certains envisageant de mettre en place des cadres réglementaires similaires.
Pour Jean-Baptiste Bouzige, l’Europe gagnerait à affirmer sa singularité en imposant ses propres règles, en matière de transparence des algorithmes notamment. « Beaucoup d’intelligences artificielles s’apparentent encore trop souvent à des boîtes noires, dont on ne comprend même pas le fonctionnement. Il faudrait pouvoir soulever le capot de ces cerveaux, pour les auditer », estime-t-il.
Équilibrer l’innovation et l’éthique
La loi sur l’IA représente un équilibre délicat entre la promotion de l’innovation et l’atténuation des risques potentiels de cette technologie puissante. Alors que certaines parties prenantes, en particulier dans l’industrie technologique, expriment leurs inquiétudes quant à l’étouffement de l’innovation, d’autres soutiennent qu’une réglementation solide est nécessaire pour prévenir les dommages et renforcer la confiance du public dans l’IA.
Il faut également parler des dépenses énergétiques. À lui seul, l’entraînement de ChatGPT aurait nécessité quelque 3,5 millions de litres d’eau – destinés à refroidir ses unités de calcul - soit le volume utilisé dans la fabrication de 370 voitures de marque BMW. Bing Chat est tellement gourmand en puissance de calcul que Microsoft va louer des GPU chez Oracle. Microsoft utilisera l'infrastructure d'IA d'Oracle Cloud en complément de son infrastructure d'IA Azure
Afin d'éviter ces dépenses, Jean-Baptiste Bouzige estime que les intelligences artificielles gagneraient à se spécialiser en fonction des usages, pour résoudre des cas particuliers : « cela permettra ainsi de limiter la quantité de données à mémoriser, et donc de réduire la puissance de calcul indispensable, pour consommer moins de ressources ».
Des défis et des incertitudes demeurent
Alors que l’UE est sur le point de finaliser la loi sur l’IA, plusieurs défis et incertitudes demeurent. L’une des questions clés consiste à trouver le bon équilibre entre l’atténuation des risques et la promotion de l’innovation. En outre, garantir une application efficace dans les différents États membres de l’UE constituera une entreprise importante.
Les chercheurs ont averti que de puissants modèles de fondation, construits par une poignée de grandes entreprises technologiques, pourraient être utilisés pour intensifier la désinformation et la manipulation en ligne, les cyberattaques ou la création d’armes biologiques. Ils agissent comme des structures de base pour les développeurs de logiciels qui créent des services basés sur l'IA, de sorte que « si ces modèles sont pourris, tout ce qui est construit dessus le sera également – et les déployeurs ne seront pas en mesure de le réparer », a déclaré Avaaz, une organisation à but non lucratif.
Brando Benifei, un député italien au Parlement européen qui codirige les efforts de négociation de l’organisme, s’est montré optimiste quant à la résolution des différends avec les États membres.
Il y a eu « un certain mouvement » sur les modèles de base, même s’il y a « davantage de problèmes pour trouver un accord » sur les systèmes de reconnaissance faciale, a-t-il déclaré.
Conclusion
L'AI Act de l’UE est une étape importante vers la création d’un environnement réglementé pour l’intelligence artificielle, reflétant les valeurs de l’UE et protégeant les citoyens contre les risques potentiels associés à l’utilisation de l’IA. Avec son approche basée sur le risque, le projet de loi vise à promouvoir l’innovation tout en garantissant un haut niveau de protection de la santé, de la sécurité et des droits fondamentaux. Les prochaines étapes du processus législatif seront cruciales pour déterminer la forme finale de cette législation pionnière.
Source : Thierry Breton
Et vous ?
Quels sont les avantages et les inconvénients d’une réglementation stricte de l’IA au sein de l’UE ? Comment l’AI Act pourrait-il influencer l’innovation et la compétitivité des entreprises européennes dans le domaine de l’IA ? Les citoyens européens devraient-ils être impliqués dans le processus de décision concernant les applications d’IA à haut risque ? Si oui, de quelle manière ? Quel impact l’AI Act de l’UE pourrait-il avoir sur la collaboration internationale en matière de recherche et de développement en IA ? Comment l’UE peut-elle garantir que l’AI Act reste pertinent face à l’évolution rapide des technologies d’IA ?Voir aussi :
Les modèles de langages coûtent 10 fois plus cher à développer dans certaines langues que dans d'autres, d'après l'analyse d'une chercheuse en IA 
Envoyé par Jade Emy
