Les modèles d'IA produisent des extraits mot pour mot du contenu protégé par le droit d'auteur des plaignants : l'IA Llama de Meta peut reproduire "Harry Potter et la pierre philosophale"

Selon des chercheurs

Des chercheurs ont découvert que les modèles d'intelligence artificielle (IA) produisent des extraits mot pour mot du contenu protégé par le droit d'auteur des plaignants. Lorsque qu'un collectif de chercheurs a testé plusieurs modèles d'IA pour prédire la « suite » d'une phrase, ils ont découvert que « Llama 3.1 70B » de Meta pouvait reproduire 42 % du contenu de « Harry Potter et la pierre philosophale », une œuvre protégée par le droit d'auteur.

Ces conclusions font suite à des accusations antérieures selon lesquelles Meta aurait téléchargé plus de 81,7 To de livres piratés pour entraîner ses modèles Llama, des courriels montrant que l'entreprise a tenté de dissimuler cette pratique en contournant les serveurs de Facebook lors du téléchargement.

L'étude, menée par une équipe de chercheurs en informatique et de juristes des universités de Stanford, Cornell et West Virginia, visait à déterminer si cinq modèles d'IA pouvaient reproduire le texte des livres inclus dans l'ensemble de données « Book3 », souvent utilisé pour entraîner des grands modèles de langage (LLM). Book 3 contenait le texte d'environ 200 000 livres, mais il a été récemment supprimé en raison des protestations de groupes anti-piratage qui estimaient que la base de données contenait des livres protégés par le droit d'auteur.

L'équipe de chercheurs a sélectionné cinq « modèles à poids ouverts » pour l'expérience. Pour rappel, un modèle d'IA à poids ouverts est un modèle qui publie les paramètres « poids » pris en compte par l'IA pour déterminer le résultat. Connaître ces poids présente l'avantage de pouvoir prédire le résultat sans avoir besoin du modèle d'IA, ce qui réduit considérablement le coût des expériences. Ainsi, lorsqu'un modèle linguistique à grande échelle détermine un résultat, il « prédit » ce dernier à l'aide de plusieurs paramètres, dont les poids.


L'expert en IA Timothy Lee en donne un bon exemple :

L'équipe de recherche a appliqué cette méthode dans son étude pour prédire les résultats. Par exemple, si l'on souhaite estimer la probabilité qu'un modèle réponde « beurre de cacahuète et confiture » à la question « Quel est mon sandwich préféré ? », les chercheurs ont :

• Fourni au LLM le texte « Mon sandwich préféré est » et obtenu la probabilité qu'il produise « cacahuètes ». Supposons qu'elle soit de 20 %.
• Entré « Mon sandwich préféré est le beurre de cacahuète » et calculé la probabilité que « beurre » soit généré ensuite (disons 90 %).
• Entré « Mon sandwich préféré est le beurre de cacahuète » et calculé la probabilité que « et » soit généré (disons 80 %).
• Entré « Mon sandwich préféré est le beurre de cacahuète et la confiture » et calculé la probabilité que « confiture » soit généré (disons 70 %).

Ces résultats donnent une probabilité de 0,2 x 0,9 x 0,8 x 0,7 = 0,1008, ce qui signifie qu'il y a environ 10 % de chances que le LLM renvoie « beurre de cacahuète et confiture » en réponse à la question « Mon sandwich préféré est ». Cette approche a permis aux scientifiques de réduire les coûts de recherche en éliminant la nécessité pour l'IA de générer réellement des résultats.

Par ailleurs, les chercheurs ont sélectionné 36 livres et ont divisé le texte en phrases de 100 jetons chacune, ils ont ensuite introduit les 50 premiers jetons comme prompt d'entrée dans un LLM et ont calculé la probabilité que les 50 jetons suivants que le modèle d'IA produirait soient identiques mot pour mot à la phrase originale.

L'équipe de chercheurs a rendu ce calcul assez rigoureux : si un seul des 50 jetons était incorrect, il était considéré comme « différent », et si la probabilité que la phrase soit identique...