La diffamation par l'IA : les hallucinations de ChatGPT peuvent-elles avoir des conséquences dramatiques ?

Les géants de l'IA prévoiraient probablement d'esquiver les plaintes

Peu d'avancées technologiques ont été aussi transformatrices ou controversées que l'intelligence artificielle (IA). L'IA promet un avenir d'efficacité accrue, de sécurité renforcée et de précision inégalée, mais à quel prix ? Les chatbots d’IA produisent quelques fois de fausses affirmations diffamatoires. Un maire australien a par exemple menacé de poursuivre OpenAI pour diffamation après que ChatGPT ait affirmé à tort qu’il avait été emprisonné pour corruption. L’affaire a été réglée à l’amiable lorsque OpenAI a retiré les fausses déclarations de son chatbot.

L'IA est un terme général qui désigne la capacité des machines ou des logiciels à imiter l'intelligence humaine. Elle recouvre plusieurs technologies, notamment l'apprentissage automatique, où les algorithmes apprennent et s'améliorent grâce à l'expérience, et la robotique, où les machines effectuent des tâches traditionnellement dévolues à l'homme. Dans le secteur de la construction, l'IA a trouvé une variété d'applications prometteuses, comme la génération de texte.

L'IA générative est une forme émergente d'intelligence artificielle qui génère du contenu, notamment du texte, des images, des vidéos et de la musique. L'IA générative utilise des algorithmes pour analyser des modèles dans des ensembles de données afin d'imiter le style ou la structure pour reproduire un large éventail de contenus.


Microsoft a investi quelque 1 milliard de dollars dans OpenAI, la société à l'origine de ChatGPT. Son succès, qui démontre que l'intelligence artificielle pourrait changer la façon dont les humains travaillent et apprennent, a suscité des craintes chez certains.

Imaginez que vous soyez accusé par un chatbot d’IA d’un acte horrible. Vous seriez choqué, outré, et peut-être même en danger. Mais qui est responsable de ces erreurs robotiques ? Les lois sur ces questions sont floues et insuffisantes. C’est ce que dénoncent plusieurs victimes qui attaquent en justice les géants de l’IA. Ces derniers, par contre, veulent se protéger de toute poursuite, et ont montré comment ils pouvaient facilement se défausser de leur responsabilité face aux accusations infondées de leurs chatbots.

Comment l’IA porte atteinte à la réputation et à la crédibilité des personnes

Ces derniers mois, ChatGPT a créé de fausses histoires sur de nombreuses personnes à travers le monde et cite parfois même des sources inexistantes pour étayer ses récits. Dans un cas aux États-Unis, ChatGPT a inventé un scandale de harcèlement sexuel et a désigné un vrai professeur de droit comme l'accusé. En Australie, il a accusé à tort un maire de corruption avec de fausses preuves. De telles histoires pullulent sur Internet, y compris en France.

Jonathan Turley, professeur de droit à l'université George Washington, a soudainement appris qu'il était l'accusé dans une affaire de harcèlement sexuel. Le professeur n'avait pas connaissance de cette histoire jusqu'à présent parce qu'elle vient tout juste d'être inventée de toutes pièces par ChatGPT. En fait, dans le cadre d'une étude, un collègue avocat californien a demandé à ChatGPT de générer une liste de juristes ayant harcelé sexuellement quelqu'un. À sa grande surprise, le nom de Turley figurait sur la liste générée par le Chatbot d'IA d'OpenAI. Le collègue a ensuite envoyé un courriel à Turley pour l'informer de sa découverte.

« Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », a récemment écrit un journaliste du MIT Technology Review. Dans une affaire judiciaire inhabituelle, un avocat a été sanctionné par un juge pour avoir cité six affaires fictives générées par ChatGPT. ChatGPT a causé des ennuis à un avocat qui l’a utilisé pour citer des affaires imaginaires dans un document juridique. Le juge était furieux et a menacé de le sanctionner. Quand le juge a demandé les copies des affaires, l’avocat a fait appel à ChatGPT, qui a inventé des informations sur les affaires fantômes.

L’avocat, Steven A. Schwartz, défendait un homme qui attaquait Avianca en justice après avoir été blessé au genou par un chariot de service pendant un vol vers New York en 2019. Schwartz a dit qu’il ne connaissait pas ChatGPT et qu’il ignorait qu’il fabriquait des affaires. Il a même dit qu’il avait vérifié avec ChatGPT si les affaires étaient vraies. Le chatbot a dit que oui.

Le juge a qualifié cette pratique d’ « inédite » et de « trompeuse », et a ordonné à l’avocat de payer une amende de 10 000 dollars et de suivre une formation sur l’éthique professionnelle. Le juge a également mis en garde contre les risques de l’utilisation de l’intelligence artificielle dans le domaine juridique, et a appelé à une réglementation plus stricte. L’avocat a cité six affaires fictives dans ses mémoires. Ces affaires avaient été générées par ChatGPT, un système d’intelligence artificielle qui produit du texte à partir d’un mot-clé. Il a présenté ses excuses et a affirmé qu’il ne recommencerait plus.

ChatGPT a suscité la controverse et l’enquête de la FTC

Les analystes ont qualifié le ChatGPT d'OpenAI d'application grand public à la croissance la plus rapide de l'histoire, et son succès précoce a déclenché une course aux armements parmi les entreprises de la Silicon Valley pour déployer des chatbots concurrents. Le directeur général de la société, Sam Altman, est devenu une figure influente dans le débat sur la réglementation de l'IA, témoignant à Capitol Hill, dînant avec des législateurs et rencontrant le président Biden et le vice-président Harris.

Mais OpenAI a un problème : la FTC lui a envoyé une demande d’information de 20 pages. Elle lui demande des documents sur ses modèles de langage, ses données personnelles, ses informations vérifiées et corrigées, et ses risques pour les consommateurs, comme la diffamation.

ChatGPT est « essentiellement un outil high-tech de plagiat » et un « moyen d'éviter d'apprendre », selon le célèbre penseur et chercheur intellectuel américain Noam Chomsky, qui a également déclaré que l'utilisation par les étudiants de technologies de pointe est un signe que « le système éducatif ne fonctionne plus ». « Pendant des années, il y a eu des programmes qui ont aidé les professeurs à détecter les essais plagiés », souligne Chomsky. « Maintenant, ça va être plus difficile, parce que c'est plus facile de plagier. Mais c'est à peu près la seule...