La décision de l'Italie de suspendre temporairement ChatGPT a incité d'autres pays européens à étudier si des mesures plus sévères sont nécessaires pour freiner les chatbots extrêmement populaires et s'il faut coordonner de telles actions. Le commissaire fédéral allemand à la protection des données et à la liberté d'information, Ulrich Kelber, a déclaré que le pays pourrait, en théorie, également suspendre temporairement ChatGPT s'il décidait de déterminer si la technologie violait le règlement général sur la protection des données (RGPD) de l'Union européenne.Lancée l'année dernière en novembre par OpenAI, ChatGPT serait devenue l'application Internet à la croissance la plus rapide de l'histoire en attirant 100 millions d'utilisateurs actifs par mois en seulement deux mois.
Le bot non intelligent (est-il besoin de le rappeler ?) peut recevoir des instructions et des invites des utilisateurs et les utiliser pour produire des blocs correspondants de prose, de code et d'autres sorties de texte. Cependant, il est loin d'être parfait et peut produire un texte offensant, perpétrer des préjugés, tout simplement se tromper et diffuser des informations erronées (comme à peu près tous les grands modèles de langage).
Le Garante per la protezione dei dati personali (en français Garant de la protection des données personnelles que nous allons abréger GPDP) a bloqué le site Web d'OpenAI hébergeant le modèle la semaine dernière. Les autorités cherchent à savoir si le logiciel collecte illégalement des données sur les citoyens et si la technologie pourrait nuire aux mineurs de moins de 13 ans. L'Italie est ainsi devenue le premier pays à réglementer ChatGPT, et d'autres pays de l'UE pourraient lui emboîter le pas.
L'organisme de surveillance a déclaré que le 20 mars, l'application avait subi une violation de données impliquant des conversations d'utilisateurs et des informations de paiement. Il a déclaré qu'il n'y avait aucune base légale pour justifier « la collecte et le stockage massifs de données personnelles dans le but de 'former' les algorithmes sous-jacents au fonctionnement de la plateforme ». Il a également déclaré que puisqu'il n'y avait aucun moyen de vérifier l'âge des utilisateurs, l'application « expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de sensibilisation ».
OpenAI, indique le GPDP, a désormais 20 jours pour répondre à ses préoccupations, sous peine d'une amende de 20 millions d'euros, soit jusqu'à 4% des revenus annuels.
Le blocage de ChatGPT en Italie intervient quelques jours après que l'agence de police européenne Europol a averti que les criminels étaient sur le point d'utiliser l'application pour commettre des fraudes et d'autres cybercrimes, du phishing aux logiciels malveillants.
La décision n'a pas fait l'unanimité en Italie. Par exemple, Matteo Salvini, qui est le chef du parti de la Ligue (la coalition au pouvoir) a déclaré : « Je trouve disproportionnée la décision de la Commission de surveillance de la vie privée qui a forcé #ChatGPT à empêcher l'accès depuis l'Italie ». Salvini, qui est également ministre des Transports, a déclaré que la décision du régulateur était « hypocrite » et qu'il fallait faire preuve de bon sens, car « les questions de confidentialité concernent pratiquement tous les services en ligne ».
OpenAI, qui a désactivé ChatGPT pour les utilisateurs italiens à la suite de la demande de l'agence, a déclaré vendredi qu'elle travaillait activement à la réduction de l'utilisation des données personnelles dans la formation de ses systèmes d'IA comme ChatGPT. « Nous sommes impatients de travailler en étroite collaboration avec (l'agence italienne des données) et de l'informer sur la manière dont nos systèmes sont construits et utilisés », a déclaré l'entreprise.
L'interdiction pourrait nuire aux entreprises nationales et à l'innovation, a déclaré Salvini, ajoutant qu'il espérait qu'une solution rapide serait trouvée et que l'accès du chatbot à l'Italie serait rétabli. « Chaque révolution technologique apporte de grands changements, des risques et des opportunités. Il est juste de contrôler et de réglementer par le biais d'une coopération internationale entre les régulateurs et les législateurs, mais on ne peut pas la bloquer », a-t-il déclaré.
Sur son site, le GPDP a indiqué qu'une réunion est prévue en vidéoconférence avec OpenAI demain 5 avril, OpenAI n'ayant pas de bureaux sur le territoire :
Un appel vidéo est prévu demain soir entre des représentants d'OpenAI et la SA italienne (Garante per la protezione dei dati personali), qui a ordonné il y a quelques jours à la plateforme de limiter temporairement le traitement des données des utilisateurs italiens jusqu'à ce qu'elle se conforme à [l'italien et Législation européenne sur la protection de la vie privée.
L'initiative d'appel vidéo, que la SA italienne salue, fait suite à la lettre de réponse envoyée hier par la société américaine pour signaler sa volonté de collaborer rapidement avec l'autorité italienne afin de se conformer aux réglementations européennes en matière de confidentialité et de parvenir à une solution partagée qui peut surmonter les critiques que la SA italienne a signalées concernant le traitement des données des utilisateurs italiens.
L'initiative d'appel vidéo, que la SA italienne salue, fait suite à la lettre de réponse envoyée hier par la société américaine pour signaler sa volonté de collaborer rapidement avec l'autorité italienne afin de se conformer aux réglementations européennes en matière de confidentialité et de parvenir à une solution partagée qui peut surmonter les critiques que la SA italienne a signalées concernant le traitement des données des utilisateurs italiens.
L'Allemagne, la France et l'Irlande surveillent de près l'enquête italienne
Alors que les parlementaires européens ne sont pas d'accord sur le contenu et la portée de la loi sur l'IA de l'UE, certains régulateurs constatent que les outils existants, tels que le règlement général sur la protection des données (RGPD) qui donne aux utilisateurs le contrôle de leurs informations personnelles, peuvent s'appliquer à la catégorie en plein essor des entreprises d'IA générative.
L'agence italienne a accusé OpenAI, soutenu par Microsoft Corp, de ne pas avoir vérifié l'âge des utilisateurs de ChatGPT ainsi que « l'absence de toute base légale justifiant la collecte et le stockage massifs de données personnelles » pour « former » le chatbot. « Les points qu'ils soulèvent sont fondamentaux et montrent que le RGPD offre des outils permettant aux régulateurs de s'impliquer et de s'engager à façonner l'avenir de l'IA », a déclaré Dessislava Savova, associée du cabinet d'avocats Clifford Chance.
Les régulateurs de la vie privée en France et en Irlande ont contacté leurs homologues en Italie pour en savoir plus sur le fondement de la suspension. L'Allemagne pourrait suivre les traces de l'Italie en bloquant ChatGPT pour des raisons de sécurité des données, a déclaré le commissaire allemand à la protection des données au journal Handelsblatt.
« Nous suivons le régulateur italien », a déclaré un porte-parole du commissaire irlandais à la protection des données. « Nous nous coordonnerons avec toutes les autorités de protection des données de l'UE en ce qui concerne cette question ».
Les régulateurs espagnols ont déclaré qu'ils n'avaient pas reçu de plainte officielle concernant ChatGPT et qu'ils pourraient lancer leur propre enquête à l'avenir si nécessaire. La Suède, cependant, n'aurait pas l'intention d'interdire le logiciel et n'a pas contacté le GDPD italien pour obtenir des conseils.
Certains experts juridiques pensent qu'une répression de ChatGPT pourrait signifier que d'autres chatbots IA comme Bard de Google ou Bing de Microsoft (qui s'appuie sur le même moteur que ChatGPT) pourraient également être examinés et réglementés.
« Contrairement à ChatGPT, Google est plus susceptible d'avoir déjà pris en compte [la confidentialité] en raison de son histoire en Europe et de la taille de l'organisation », a déclaré Dessislava Savova.
On ne sait pas comment des modèles comme ChatGPT seront touchés par la prochaine loi sur l'IA de l'UE (la législation conçue pour réglementer le développement et le déploiement de l'IA dans les États membres est toujours en débat).
Le projet de loi est retardé alors que les responsables négocient ses politiques finales, dans l'espoir de trouver un équilibre entre la réglementation des risques de confidentialité et de sécurité tout en soutenant le développement technique et le potentiel économique de l'IA.
« Il ne suffit pas de suspendre le développement de l'IA. Nous devons tout arrêter »
Tandis que ce débat a lieu sur la scène européenne, dans un premier temps en Italie, plus de 1 100 experts en intelligence artificielle, chefs d'entreprise et chercheurs ont signé une pétition appelant les développeurs d'IA à cesser de former des modèles plus puissants que le ChatGPT-4 d'OpenAI pendant au moins six mois.
Parmi ceux qui se sont abstenus de signer la pétition figure Eliezer Yudkowsky, théoricien américain de la décision et chercheur principal à la Machine Intelligence Research Institute. Il travaille sur l'alignement de l'intelligence artificielle générale depuis 2001 et est largement considéré comme l'un des fondateurs de ce domaine.
« Ce moratoire de six mois serait préférable à l'absence de moratoire », écrit Yudkowsky dans une tribune publiée dans Time Magazine. « Je me suis abstenu de signer parce que je pense que la lettre sous-estime la gravité de la situation et demande trop peu pour la résoudre ».
Yudkowsky pousse la rhétorique à son paroxysme, en écrivant : « Si quelqu'un construit une centrale électrique trop puissante, il n'y a pas de raison de l'arrêter : "Si quelqu'un construit une IA trop puissante, dans les conditions actuelles, je m'attends à ce que chaque membre de l'espèce humaine et toute vie biologique sur Terre meurent peu de temps après ».
Voici un extrait de sa tribune :
Envoyé par Eliezer Yudkowsky,La question essentielle n'est pas celle de l'intelligence "compétitive avec l'homme" (comme le dit la lettre ouverte) ; il s'agit de savoir ce qui se passe une fois que l'IA a atteint une intelligence supérieure à celle de l'homme. Les seuils clés ne sont peut-être pas évidents, nous ne pouvons certainement pas calculer à l'avance ce qui se passera à ce moment-là, et il semble actuellement imaginable qu'un laboratoire de recherche franchisse les limites critiques sans s'en apercevoir. [...] Ce n'est pas que vous ne puissiez pas, en principe, survivre à la création d'un objet beaucoup plus intelligent que vous ; c'est que cela nécessiterait de la précision, de la préparation et de nouvelles connaissances scientifiques, et probablement pas des systèmes d'IA composés de gigantesques tableaux impénétrables de nombres fractionnaires. [...]
Il s'est écoulé plus de 60 ans entre le moment où la notion d'intelligence artificielle a été proposée et étudiée pour la première fois et le moment où nous avons atteint les capacités d'aujourd'hui. Résoudre la sécurité d'une intelligence surhumaine - pas une sécurité parfaite, une sécurité dans le sens de "ne pas tuer littéralement tout le monde" - pourrait très raisonnablement prendre au moins la moitié de ce temps. Et le problème avec l'intelligence surhumaine, c'est que si l'on se trompe du premier coup, on ne peut pas apprendre de ses erreurs, car on est mort. L'humanité n'apprend pas de ses erreurs, ne se dépoussière pas et ne recommence pas, comme dans d'autres défis que nous avons relevés au cours de notre histoire, parce que nous sommes tous morts.
Essayer de réussir quelque chose du premier coup est une tâche extraordinaire, que ce soit en science ou en ingénierie. Nous n'avons pas l'approche nécessaire pour y parvenir. Si nous appliquions au domaine naissant de l'intelligence artificielle générale les mêmes normes de rigueur technique que celles qui s'appliquent à un pont destiné à accueillir quelques milliers de voitures, l'ensemble du domaine serait fermé demain. Nous ne sommes pas prêts. Nous ne sommes pas en mesure de nous préparer dans un délai raisonnable. Il n'y a pas de plan. Les progrès en matière de capacités d'IA sont très, très en avance sur les progrès en matière d'alignement de l'IA ou même sur les progrès en matière de compréhension de ce qui se passe à l'intérieur de ces systèmes. Si nous faisons cela, nous allons tous mourir.
Il s'est écoulé plus de 60 ans entre le moment où la notion d'intelligence artificielle a été proposée et étudiée pour la première fois et le moment où nous avons atteint les capacités d'aujourd'hui. Résoudre la sécurité d'une intelligence surhumaine - pas une sécurité parfaite, une sécurité dans le sens de "ne pas tuer littéralement tout le monde" - pourrait très raisonnablement prendre au moins la moitié de ce temps. Et le problème avec l'intelligence surhumaine, c'est que si l'on se trompe du premier coup, on ne peut pas apprendre de ses erreurs, car on est mort. L'humanité n'apprend pas de ses erreurs, ne se dépoussière pas et ne recommence pas, comme dans d'autres défis que nous avons relevés au cours de notre histoire, parce que nous sommes tous morts.
Essayer de réussir quelque chose du premier coup est une tâche extraordinaire, que ce soit en science ou en ingénierie. Nous n'avons pas l'approche nécessaire pour y parvenir. Si nous appliquions au domaine naissant de l'intelligence artificielle générale les mêmes normes de rigueur technique que celles qui s'appliquent à un pont destiné à accueillir quelques milliers de voitures, l'ensemble du domaine serait fermé demain. Nous ne sommes pas prêts. Nous ne sommes pas en mesure de nous préparer dans un délai raisonnable. Il n'y a pas de plan. Les progrès en matière de capacités d'IA sont très, très en avance sur les progrès en matière d'alignement de l'IA ou même sur les progrès en matière de compréhension de ce qui se passe à l'intérieur de ces systèmes. Si nous faisons cela, nous allons tous mourir.
Et vous ?
Que pensez-vous de la décision de la CNIL italienne ? Les autres pays européens gagneraient-ils à suivre son exemple ? Pourquoi ? Comprenez-vous la motivation des experts en intelligence artificielle, chefs d'entreprise et chercheurs qui ont signé une pétition appelant les développeurs d'IA à cesser de former des modèles plus puissants que le ChatGPT-4 d'OpenAI pendant au moins six mois ? La partagez-vous ? Dans quelle mesure ?Voir aussi :
Un YouTubeur incite ChatGPT à générer des clés d'activation Windows 95 utilisables. ChatGPT « ne peut pas compter la somme des chiffres et ne connaît pas la divisibilité », regrette le YouTubeur Alors que l'Amérique est focalisée sur ChatGPT, elle perd la course avec la Chine sur la technologie dans 37 des 44 domaines clés, selon une étude financée par le Département d'État US 
