Les législateurs européens réclament une nouvelle réglementation pour faire face à l'essor de l'IA

Dans un contexte marqué par l'absence de règles de sécurité adéquates qui encadrent la technologie

Les législateurs européens réclament une nouvelle réglementation pour faire face à l'essor de l'IA, dans un contexte marqué par l'absence de règles de sécurité adéquates qui encadrent la technologie

Des dizaines de législateurs de l'Union européenne expriment leur désarroi face à l'essor de la technologie de l'IA en l'absence de mesures de sécurité adéquates. C'est pourquoi ils réclament davantage de règles pour garantir que les outils d'IA ne soient pas utilisés sans contrôle, y compris ceux désignés comme étant à haut risque par la loi européenne sur l'IA.

Une nouvelle lettre ouverte publiée le lundi 17 avril montre comment plusieurs membres du Parlement appellent à la coopération internationale. Il s'agit de mettre en place des garde-fous pour le développement d'outils d'IA qui, selon les experts du secteur, pourraient bientôt devenir les plus dangereux et les plus puissants du marché si des précautions adéquates n'étaient pas prises.

AI is moving very fast and we need to move too. The call from the Future of Life Institute @FLIxrisk to pause the development of very powerful AI for half a year, although unnecessarily alarmist, is another signal we need to focus serious political attention on this issue. pic.twitter.com/Tjrj9k02Yj

— Dragoș Tudorache (@IoanDragosT) April 17, 2023

Cette lettre nous parvient après qu'un grand groupe d'experts en IA ait appelé la nation européenne à établir davantage de règles en matière d'IA qui soient réellement étendues. Ils ont également fait valoir que l'objectif général de la technologie de l'IA pourrait finir par manquer sa cible.

Cette catégorie englobe une large liste d'outils, dont ChatGPT, qui n'ont peut-être pas été conçus en tenant compte du facteur de risque élevé, mais qui pourraient être utilisés dans différents contextes présentant des risques plus importants.

La lettre ouverte au public poursuit en mentionnant que les législateurs se sont mis d'accord sur la manière dont la loi sur l'IA vise à traiter les cas d'IA à haut risque. Mais dans le même temps, ils exigent également des réglementations préliminaires complémentaires pour créer et déployer des systèmes d'IA plus puissants qui pourraient être adoptés pour une série d'objectifs différents.

Les législateurs ont ajouté une référence à une autre lettre publiée récemment, dans laquelle de nombreux milliardaires et scientifiques de premier plan du secteur technologique ont accepté de suspendre la formation à l'IA dans les laboratoires pendant six mois. Il s'agissait d'un système plus puissant que l'actuel modèle technologique GPT-4.

Les législateurs de l'UE ont révélé qu'ils partageaient une grande partie des préoccupations exprimées dans la lettre, car le rythme auquel nous assistons aux progrès de la technologie de l'IA est tout simplement trop alarmant, ce qui justifie l'intervention nécessaire de l'attention politique avant que la situation ne devienne incontrôlable.

Ils se sont même engagés à ce qu'un ensemble de règles soit mis en place dans le cadre de la loi sur l'IA afin de guider le développement de l'IA d'une manière plus sûre et plus fiable. De même, ils souhaitent que des personnalités politiques de premier plan telles que le président américain Biden et la présidente de la Commission européenne Ursula von der Leyen en prennent note et définissent de nouveaux principes pour le contrôle et l'utilisation de l'IA.

Source : Twitter

Et vous ?

Quel est votre avis sur le sujet ?

Selon vous, la démarche entreprise par les législateurs de l'UE est-elle justifiée ou pertinente ?

Selon vous, en l'état actuel des choses, l'IA doit-elle être mieux réglementée pour éviter ses potentielles dérives ?

Voir aussi

L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur

La loi européenne sur l'intelligence artificielle est retardée, les législateurs n'ayant pas réussi à se mettre d'accord sur un ensemble de propositions de base

La loi européenne sur l'intelligence artificielle peut avoir un effet dissuasif sur les efforts en matière de logiciels libres, avertissent les experts de la Brookings Institution

Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4, citant des risques pour la société