L'UE pourrait introduire prochainement une réglementation très stricte en ce qui concerne le développement et le déploiement des chatbots d'IA. Les nouvelles règles, qui seraient en cours de préparation au Parlement européen, proposeraient d'obliger les fabricants de chatbots d'IA à révéler s'ils utilisent du matériel protégé par des droits d'auteur. Cela pourrait permettre aux créateurs de contenu de jouir d'une redevance de droit d'auteur. L'IA générative a donné lieu à de nombreuses plaintes en matière de violation de droit d'auteur et l'UE veut y mettre un terme. À mesure que la loi sur l'IA évolue, les chatbots pourraient faire l'objet d'une surveillance accrue.Les discussions se poursuivent à Bruxelles concernant les propositions de la loi européenne sur l'IA (EU AI Act). C'est la première loi sur l'IA émanant d'une autorité de régulation majeure dans le monde. Elle classe les applications d'IA dans trois catégories de risque. Premièrement, les applications et les systèmes qui créent un risque inacceptable, tels que les systèmes de notation sociale gérés par le gouvernement, comme ceux utilisés en Chine, sont interdits. Deuxièmement, les applications d'IA à haut risque, comme un outil de balayage de CV qui classe les candidats à l'emploi, sont soumises à des exigences légales spécifiques par les régulateurs de l'UE.
Enfin, les applications qui ne sont pas explicitement interdites ou répertoriées comme présentant un risque élevé échappent en grande partie à la réglementation. Les chatbots d'IA pourraient être classés dans cette catégorie. Ainsi, des sources au fait des discussions à Bruxelles rapportent que l'UE prépare de nouvelles réglementations qui pourraient avoir un impact majeur sur le développement et le déploiement des outils d'IA. Parmi les mesures susceptibles d'être proposées figure l'obligation pour les développeurs de produits tels que ChatGPT d'OpenAI de déclarer si du matériel protégé par des droits d'auteur est utilisé pour entraîner leurs modèles d'IA.
La mesure semble être conçue pour permettre aux créateurs de contenu d'exiger un paiement (une redevance de droit d'auteur). En effet, l'IA générative a pris tout le monde court par son essor rapide. Aucun régulateur, gouvernement ou analyste ne peut s'enorgueillir d'avoir anticipé brièvement les bouleversements radicaux qu'elle a déjà introduits et qu'elle pourrait encore introduire à l'avenir en raison de ses puissantes capacités et de son adoption généralisée. Cela a contraint certains pays à prendre des mesures d'urgence. Fin mars, l'Italie a bloqué temporairement le chatbot d'IA ChatGPT d'OpenAI, invoquant des violations présumées de la vie privée.
Le commissaire allemand à la protection des données envisage une interdiction similaire et la France se pencherait également sur la question après plusieurs plaintes déposées auprès de la CNIL contre OpenAI. En outre, l'IA générative soulève également des questions sur la violation du droit d'auteur. Les régulateurs et les tribunaux se demandent si les programmes basés sur une IA générative peuvent porter atteinte au droit d'auteur sur des œuvres existantes, soit en faisant des copies d'œuvres existantes pour entraîner l'IA, soit en générant des résultats qui ressemblent à ces œuvres existantes. Les tribunaux ont enregistré de nombreuses plaintes à ce sujet.
Les modèles d'IA de génération de texte (comme ChatGPT et Claude) et les modèles d'IA de génération d'œuvre d'art (comme Stable Diffusion, Midjourney et DALL-E 2) peuvent des résultats fascinants. De plus, la qualité et la vitesse de création sont élevées par rapport à la performance humaine moyenne. Cependant, si l'on peut penser que ces nouveaux outils d'IA peuvent faire surgir de nouveaux éléments de l'éther, ce n'est pas tout à fait le cas. Les plateformes d'IA générative sont formées sur des lacs de données et des extraits de questions (des milliards de paramètres construits par des logiciels qui traitent d'énormes archives d'images et de textes).
Les outils d'IA récupèrent des modèles et des relations, qu'elles utilisent ensuite pour créer des règles, puis pour émettre des jugements et des prédictions, lorsqu'elles répondent à une question. Ce processus comporte des risques juridiques, notamment en matière de violation de la propriété intellectuelle. Dans de nombreux cas, il pose également des questions juridiques qui sont encore en cours de résolution. Par exemple, la violation des droits d'auteur, des brevets et des marques s'applique-t-elle aux créations de l'IA ? Qui est réellement le propriétaire du contenu que les plateformes d'IA générative créent pour vous ou pour vos clients ?
Comme indiqué précédemment, OpenAI a refusé de partager des détails sur la formation de GPT-4, à la grande déception des chercheurs en IA qui plaident en faveur d'une plus grande transparence. Ce refus illustre toutefois le virage à 180 degrés d'OpenAI par rapport à ses fondements initiaux. Fondé en tant qu'organisation à but non lucratif en 2015, l'entreprise a viré de bord en 2019 pour aller vers la recherche du profit et a reçu des milliards de dollars d'investissement de la part de Microsoft. OpenAI, qui voulait démocratiser l'IA et le rendre accessible à tous, est devenue une entreprise très fermée, accordant un accès spécial à ses produits à Microsoft.
Pour l'instant, la proposition visant à obliger les créateurs de chatbots à divulguer le matériel protégé par un droit d'auteur n'est qu'une rumeur et la loi sur l'IA est en cours d'élaboration depuis 2021. Peu de détails sont disponibles sur les propositions. Toutefois, les sources indiquent que le débat sur les règles supplémentaires relatives aux chatbots suggère que le processus de finalisation de la loi ne s'achèvera pas avant au moins 2024. Dans l'intervalle, les États membres de l'UE continuent d'élaborer leurs propres politiques, créant ainsi un réseau complexe de critères de gouvernance dans lequel des entreprises comme OpenAI doivent naviguer.
Selon les sources, une autre proposition à l'étude exigerait que les chatbots d'IA informent les utilisateurs humains qu'ils ne sont pas en train de converser avec un autre humain. Compte tenu des cas où des personnes se sont attachées à des chatbots et où certaines ont même cru qu'ils étaient sensibles, les législateurs estiment qu'une telle divulgation est une première étape fondamentale. Elles ont ajouté que les députés européens souhaiteraient également que la responsabilité de l'utilisation abusive des programmes d'IA incombe aux développeurs tels que l'OpenAI, plutôt qu'aux petites entreprises qui l'utilisent. Rien n'est encore officiel toutefois.
Avant que les entreprises puissent profiter pleinement des avantages de l'IA générative, elles doivent en comprendre les risques et savoir comment se protéger. Dragoș Tudorache, un membre du Parlement européen qui dirige les négociations sur la loi sur l'IA, a souligné l'importance des réglementations pour garantir un déploiement sûr. « C'est une technologie pionnière, et nous devons l'exploiter, ce qui signifie mettre en place des règles. L'autorégulation des entreprises ne suffit pas », a-t-il déclaré.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la proposition des parlementaires européens ? En quoi ces nouvelles règles potentielles peuvent-elles être bénéfiques pour les créateurs de contenu ? Selon vous, quelles seraient les conséquences d'une telle réglementation pour les créateurs de chatbots d'IA ?Voir aussi
« Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », affirme un journaliste senior du MIT Technology Review « Les appels à suspendre le développement des systèmes d'IA ne résoudront pas les défis liés à leur mise sur pied », d'après Bill Gates qui entrevoit l'échec d'un consensus à l'échelle mondiale La loi européenne sur l'intelligence artificielle est retardée, les législateurs n'ayant pas réussi à se mettre d'accord sur un ensemble de propositions de base 
Envoyé par Anselme45
