ChatGPT : un projet de loi de l'UE pourrait obliger les outils d'IA à révéler le matériel protégé par le droit d'auteur

Utilisé dans la construction de leurs systèmes

L’Union européenne prépare une législation qui obligerait les outils d’intelligence artificielle comme ChatGPT à divulguer le matériel protégé par le droit d’auteur utilisé dans la construction de leurs systèmes, selon un nouveau projet de loi qui serait le premier ensemble de règles complet de l’Occident régissant le déploiement de l’IA. Cette obligation permettrait aux éditeurs et aux créateurs de contenu de disposer d’une nouvelle arme pour demander une part des bénéfices lorsque leurs œuvres sont utilisées comme matériau source pour le contenu généré par l’IA par des outils comme ChatGPT.

Le problème a été l'une des questions commerciales les plus épineuses à émerger dans le contexte d'une frénésie d'outils alimentés par l'IA déployés ou testés par des entreprises comme Microsoft Corp. et le propriétaire de Google, Alphabet Inc.

ChatGPT est un outil d’IA qui peut générer du contenu créatif comme des poèmes, des histoires, des codes, des essais, des chansons, des parodies de célébrités et plus encore. Il utilise un modèle de langage neuronal entraîné sur des milliards de mots provenant d’Internet, y compris des œuvres protégées par le droit d’auteur.

Fin mars, le Garante per la protezione dei dati personali (en français Garant de la protection des données personnelles que nous allons abréger GPDP) a bloqué le site Web d'OpenAI hébergeant le modèle. Les autorités cherchent à savoir si le logiciel collecte illégalement des données sur les citoyens et si la technologie pourrait nuire aux mineurs de moins de 13 ans. L'Italie est ainsi devenue le premier pays à réglementer ChatGPT, et d'autres pays de l'UE pourraient lui emboîter le pas.

L'organisme de surveillance a déclaré que le 20 mars, l'application avait subi une violation de données impliquant des conversations d'utilisateurs et des informations de paiement. Il a déclaré qu'il n'y avait aucune base légale pour justifier « la collecte et le stockage massifs de données personnelles dans le but de 'former' les algorithmes sous-jacents au fonctionnement de la plateforme ». Il a également déclaré que puisqu'il n'y avait aucun moyen de vérifier l'âge des utilisateurs, l'application « expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de sensibilisation ».

La décision n'a pas fait l'unanimité en Italie. Par exemple, Matteo Salvini, qui est le chef du parti de la Ligue (la coalition au pouvoir) a déclaré : « Je trouve disproportionnée la décision de la Commission de surveillance de la vie privée qui a forcé #ChatGPT à empêcher l'accès depuis l'Italie ». Salvini, qui est également ministre des Transports, a déclaré que la décision du régulateur était « hypocrite » et qu'il fallait faire preuve de bon sens, car « les questions de confidentialité concernent pratiquement tous les services en ligne ».

Quoi qu'il en soit, OpenAI, qui a désactivé ChatGPT pour les utilisateurs italiens à la suite de la demande de l'agence, a déclaré travailler activement à la réduction de l'utilisation des données personnelles dans la formation de ses systèmes d'IA comme ChatGPT. « Nous sommes impatients de travailler en étroite collaboration avec (l'agence italienne des données) et de l'informer sur la manière dont nos systèmes sont construits et utilisés », a déclaré l'entreprise.

Mais l'affaire a fait suffisamment de bruit pour que les homologues européens du gendarme italien des données s'y intéressent.

Alors que les parlementaires européens ne sont pas d'accord sur le contenu et la portée de la loi sur l'IA de l'UE, certains régulateurs constatent que les outils existants, tels que le règlement général sur la protection des données (RGPD) qui donne aux utilisateurs le contrôle de leurs informations personnelles, peuvent s'appliquer à la catégorie en plein essor des entreprises d'IA générative.

La décision de l'Italie de suspendre temporairement ChatGPT...