Il pourrait bientôt être légal de « jailbreaker » l'IA pour en révéler le fonctionnement,

Ce qui pourrait potentiellement ouvrir la porte à des abus et des utilisations malveillantes

Une proposition d'exemption au Digital Millennium Copyright Act (DMCA) permettrait aux chercheurs de contourner les conditions d'utilisation des outils d'IA pour examiner les biais, les données d'entraînement et les résultats potentiellement nuisibles. Cette exemption, soutenue par le ministère de la Justice américain, vise à permettre des recherches de bonne foi sans crainte de poursuites judiciaires. Les chercheurs, universitaires et hackers impliqués souhaitent rendre plus transparent le fonctionnement des IA, souvent entravé par des conditions de service restrictives.

La section 1201 du DMCA, qui inclut déjà des exemptions pour la réparation d'équipements et la recherche en sécurité, pourrait être modifiée pour inclure les systèmes d'IA. La proposition d'exemption rencontre l'opposition de certaines entreprises et associations, qui estiment que les chercheurs devraient obtenir un consentement préalable pour mener leurs recherches.

Le gouvernement américain envisage actuellement une dérogation à la loi américaine sur le droit d'auteur qui permettrait d'enfreindre les mesures de protection technique et la gestion des droits numériques (DRM) des systèmes d'IA afin d'en savoir plus sur leur fonctionnement, de les sonder pour détecter les biais, la discrimination, les résultats nuisibles et inexacts, et d'en savoir plus sur les données à partir desquelles ils ont été formés. L'exemption permettrait de mener de « bonne foi » des recherches sur la sécurité et des recherches universitaires, ainsi que de « red-teamer » des produits d'IA, même si le chercheur doit contourner des systèmes conçus pour empêcher cette recherche. Le métier de Red teamer consiste à simuler des attaques en grandeur réelle, de manière à connaître le degré d’efficacité des défenses cyber d’une structure donnée. Il s’agit, principalement, de conduire des tests d’intrusion à l’encontre de la structure elle-même.


L'exemption proposée est soutenue par le ministère de la Justice, qui a déclaré que « la recherche de "bonne foi" peut aider à révéler la collecte ou l'exposition non intentionnelle ou non divulguée de données personnelles sensibles, ou à identifier les systèmes dont les opérations ou les résultats sont dangereux, inexacts ou inefficaces pour les utilisations auxquelles ils sont destinés ou commercialisés par les développeurs, ou employés par les utilisateurs finaux. Ces recherches peuvent être particulièrement importantes lorsque les plateformes d'IA sont utilisées à des fins particulièrement importantes, où les résultats involontaires, inexacts ou imprévisibles de l'IA peuvent causer de graves préjudices aux individus ».

Les enjeux de l'Exemption DMCA pour les chercheurs en sécurité informatique

La Computer Crime and Intellectual Property Section (CCIPS) de la division criminelle du ministère américain de la Justice apprécie cette opportunité. Le ministère de la Justice est chargé de l'application pénale de plusieurs lois protégeant la propriété intellectuelle, applicable aux violations délibérées des dispositions anti-contournement de la section 1201 à des fins de gain commercial ou financier. Le ministère de la Justice s'intéresse également à l'usage de l'intelligence artificielle et à son impact sur la vie privée et les droits civils.

Au sein de la division criminelle, la CCIPS conseille d'autres procureurs fédéraux sur l'application du DMCA et a engagé des poursuites pénales dans diverses affaires de contournement de mesures de protection technologique et de trafic de dispositifs de contournement. La CCIPS est également responsable de la poursuite des délits fédéraux impliquant l'accès non autorisé aux ordinateurs et d'autres infractions en vertu de la loi sur la fraude et l'abus informatiques (CFAA). Lors des précédentes étapes d'élaboration des règles, la CCIPS a insisté sur l'importance de la recherche en sécurité pour détecter les vulnérabilités des systèmes informatiques et a soutenu l'extension de l'exemption du DMCA pour la recherche en sécurité informatique de bonne foi. La CCIPS recommande à nouveau le renouvellement de cette exemption.

« Il y a beaucoup d'inquiétude concernant ces modèles, leur conception, leurs biais, leur utilisation à des fins discriminatoires et leur fiabilité générale », déclare Shayne Longpre, chercheur au MIT, membre de l'équipe ayant initié l'exemption. « L'écosystème des chercheurs travaillant sur ce sujet n'est pas très sain. Certains font le travail, mais beaucoup voient leur compte suspendu pour des recherches de bonne foi, ou craignent les implications légales potentielles de la violation des conditions de service », ajoute-t-il.

Il existe de nombreux exemples d'articles académiques, de reportages journalistiques et de travaux exploratoires de « red teaming » utilisant des outils d'IA, nécessitant parfois de contourner ou de tromper ces outils pour révéler les données sur lesquelles ils sont entraînés, leurs biais ou leur manque de fiabilité. En mars, Longpre et ses collègues ont publié une analyse citant une version antérieure des conditions d'utilisation de Midjourney, stipulant : « Si vous violez sciemment la propriété intellectuelle de quelqu'un d'autre et que cela nous coûte de l'argent, nous vous réclamerons cet argent. Nous pourrions également prendre d'autres mesures, comme demander à un tribunal de vous faire payer nos frais de justice. Ne le faites pas ». L'article...