Peu d'avancées technologiques ont été aussi transformatrices ou controversées que l'intelligence artificielle (IA). L'IA promet un avenir d'efficacité accrue, de sécurité renforcée et de précision inégalée, mais à quel prix ? Les chatbots d’IA produisent quelques fois de fausses affirmations diffamatoires. Un maire australien a par exemple menacé de poursuivre OpenAI pour diffamation après que ChatGPT ait affirmé à tort qu’il avait été emprisonné pour corruption. L’affaire a été réglée à l’amiable lorsque OpenAI a retiré les fausses déclarations de son chatbot. L'IA est un terme général qui désigne la capacité des machines ou des logiciels à imiter l'intelligence humaine. Elle recouvre plusieurs technologies, notamment l'apprentissage automatique, où les algorithmes apprennent et s'améliorent grâce à l'expérience, et la robotique, où les machines effectuent des tâches traditionnellement dévolues à l'homme. Dans le secteur de la construction, l'IA a trouvé une variété d'applications prometteuses, comme la génération de texte.
L'IA générative est une forme émergente d'intelligence artificielle qui génère du contenu, notamment du texte, des images, des vidéos et de la musique. L'IA générative utilise des algorithmes pour analyser des modèles dans des ensembles de données afin d'imiter le style ou la structure pour reproduire un large éventail de contenus.
Microsoft a investi quelque 1 milliard de dollars dans OpenAI, la société à l'origine de ChatGPT. Son succès, qui démontre que l'intelligence artificielle pourrait changer la façon dont les humains travaillent et apprennent, a suscité des craintes chez certains.
Imaginez que vous soyez accusé par un chatbot d’IA d’un acte horrible. Vous seriez choqué, outré, et peut-être même en danger. Mais qui est responsable de ces erreurs robotiques ? Les lois sur ces questions sont floues et insuffisantes. C’est ce que dénoncent plusieurs victimes qui attaquent en justice les géants de l’IA. Ces derniers, par contre, veulent se protéger de toute poursuite, et ont montré comment ils pouvaient facilement se défausser de leur responsabilité face aux accusations infondées de leurs chatbots.
Comment l’IA porte atteinte à la réputation et à la crédibilité des personnes
Ces derniers mois, ChatGPT a créé de fausses histoires sur de nombreuses personnes à travers le monde et cite parfois même des sources inexistantes pour étayer ses récits. Dans un cas aux États-Unis, ChatGPT a inventé un scandale de harcèlement sexuel et a désigné un vrai professeur de droit comme l'accusé. En Australie, il a accusé à tort un maire de corruption avec de fausses preuves. De telles histoires pullulent sur Internet, y compris en France.
Jonathan Turley, professeur de droit à l'université George Washington, a soudainement appris qu'il était l'accusé dans une affaire de harcèlement sexuel. Le professeur n'avait pas connaissance de cette histoire jusqu'à présent parce qu'elle vient tout juste d'être inventée de toutes pièces par ChatGPT. En fait, dans le cadre d'une étude, un collègue avocat californien a demandé à ChatGPT de générer une liste de juristes ayant harcelé sexuellement quelqu'un. À sa grande surprise, le nom de Turley figurait sur la liste générée par le Chatbot d'IA d'OpenAI. Le collègue a ensuite envoyé un courriel à Turley pour l'informer de sa découverte.
« Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », a récemment écrit un journaliste du MIT Technology Review. Dans une affaire judiciaire inhabituelle, un avocat a été sanctionné par un juge pour avoir cité six affaires fictives générées par ChatGPT. ChatGPT a causé des ennuis à un avocat qui l’a utilisé pour citer des affaires imaginaires dans un document juridique. Le juge était furieux et a menacé de le sanctionner. Quand le juge a demandé les copies des affaires, l’avocat a fait appel à ChatGPT, qui a inventé des informations sur les affaires fantômes.
L’avocat, Steven A. Schwartz, défendait un homme qui attaquait Avianca en justice après avoir été blessé au genou par un chariot de service pendant un vol vers New York en 2019. Schwartz a dit qu’il ne connaissait pas ChatGPT et qu’il ignorait qu’il fabriquait des affaires. Il a même dit qu’il avait vérifié avec ChatGPT si les affaires étaient vraies. Le chatbot a dit que oui.
Le juge a qualifié cette pratique d’ « inédite » et de « trompeuse », et a ordonné à l’avocat de payer une amende de 10 000 dollars et de suivre une formation sur l’éthique professionnelle. Le juge a également mis en garde contre les risques de l’utilisation de l’intelligence artificielle dans le domaine juridique, et a appelé à une réglementation plus stricte. L’avocat a cité six affaires fictives dans ses mémoires. Ces affaires avaient été générées par ChatGPT, un système d’intelligence artificielle qui produit du texte à partir d’un mot-clé. Il a présenté ses excuses et a affirmé qu’il ne recommencerait plus.
ChatGPT a suscité la controverse et l’enquête de la FTC
Les analystes ont qualifié le ChatGPT d'OpenAI d'application grand public à la croissance la plus rapide de l'histoire, et son succès précoce a déclenché une course aux armements parmi les entreprises de la Silicon Valley pour déployer des chatbots concurrents. Le directeur général de la société, Sam Altman, est devenu une figure influente dans le débat sur la réglementation de l'IA, témoignant à Capitol Hill, dînant avec des législateurs et rencontrant le président Biden et le vice-président Harris.
Mais OpenAI a un problème : la FTC lui a envoyé une demande d’information de 20 pages. Elle lui demande des documents sur ses modèles de langage, ses données personnelles, ses informations vérifiées et corrigées, et ses risques pour les consommateurs, comme la diffamation.
ChatGPT est « essentiellement un outil high-tech de plagiat » et un « moyen d'éviter d'apprendre », selon le célèbre penseur et chercheur intellectuel américain Noam Chomsky, qui a également déclaré que l'utilisation par les étudiants de technologies de pointe est un signe que « le système éducatif ne fonctionne plus ». « Pendant des années, il y a eu des programmes qui ont aidé les professeurs à détecter les essais plagiés », souligne Chomsky. « Maintenant, ça va être plus difficile, parce que c'est plus facile de plagier. Mais c'est à peu près la seule contribution à l'éducation à laquelle je peux penser ». Il admet que les systèmes de type ChatGPT « peuvent avoir une certaine valeur pour quelque chose », mais que ce « quelque chose » n'est pas une évidence.
Certains des plus grands éditeurs de revues universitaires du monde ont interdit ou restreint l'utilisation par leurs auteurs du chatbot avancé ChatGPT. Comme le robot utilise des informations provenant d'Internet pour produire des réponses très lisibles à des questions, les éditeurs craignent que des travaux inexacts ou plagiés n'entrent dans les pages de la littérature universitaire. Plusieurs chercheurs ont déjà inscrit le chatbot en tant que coauteur dans des études universitaires, et certains éditeurs ont décidé d'interdire cette pratique. Mais le rédacteur en chef de Science, l'une des principales revues scientifiques au monde, est allé plus loin en interdisant toute utilisation du texte du programme dans les articles soumis.
En intelligence artificielle, une hallucination est une réponse plausible de l'IA qui est insuffisante, biaisée ou carrément fausse. Ces hallucinations surviennent parce que ChatGPT (et d'autres grands modèles de langage ou LLM qui sont à la base des plateformes d'IA générative) répondent aux questions qui leur sont posées en se basant sur les sources, les liens, les blogs et les statistiques disponibles dans la vaste étendue d'Internet, qui ne sont pas toujours les données d'entraînement les plus solides.
Les risques des hallucinations de paquets d’IA pour la chaîne d’approvisionnement en logiciels
Des chercheurs ont découvert que les cybercriminels peuvent exploiter la tendance de ChatGPT à renvoyer de fausses informations pour diffuser des paquets de codes malveillants. Cela représente un risque important pour la chaîne d'approvisionnement en logiciels, car cela peut permettre à des codes malveillants et à des chevaux de Troie de se glisser dans des applications légitimes et des dépôts de code tels que npm, PyPI, GitHub et d'autres.
En tirant parti de ce que l'on appelle les « hallucinations de paquets d'IA », les acteurs de la menace peuvent créer des paquets de code recommandés par ChatGPT, mais malveillants, qu'un développeur pourrait télécharger par inadvertance lorsqu'il utilise le chatbot, et les intégrer dans des logiciels qui sont ensuite utilisés à grande échelle, ont révélé les chercheurs de l'équipe Voyager18 de Vulcan Cyber dans un article de blog publié.
On parle d'hallucination dans les chatbots d'IA lorsqu'une machine fournit des réponses convaincantes, mais complètement inventées. Ce phénomène n'est pas nouveau et des développeurs ont mis en garde contre des modèles d'IA convaincus de faits totalement faux, en tentant de répondre à des questions par des réponses inventées. Les hallucinations sont l'une des principales caractéristiques des modèles d'IA, car ils exigent la capacité de reformuler, de résumer et de présenter des textes complexes sans contraintes. Cela soulève le problème des faits qui ne sont pas avérés et qui peuvent être traités dans leur contexte lorsqu'on présente l'information comme crible.
Beren Millidge, responsable de la recherche IA chez Conjecture, explique dans un billet de blog pourquoi le terme de confabulation est plus approprié que celui d’hallucination pour décrire le comportement des LLM (modèles de langage à grande échelle) lorsqu’ils inventent des informations fausses mais plausibles. Il compare la confabulation des LLM à celle des humains souffrant de certaines lésions cérébrales qui les amènent à fabriquer des histoires pour répondre à des questions qu’ils ne peuvent pas traiter. Il suggère que les LLM sont comme des humains amnésiques et sans cohérence centrale.
Les poursuites judiciaires contre OpenAI et Microsoft
En juillet, Jeffery Battle, basé dans le Maryland, a poursuivi Microsoft, affirmant qu'il avait perdu des millions et que sa réputation avait été ruinée après avoir découvert que les moteurs de recherche Bing et Bing Chat le qualifiaient à tort de terroriste condamné. Le même mois, Mark Walters, un animateur radio de Géorgie (États-Unis), a intenté une action en justice contre OpenAI à la suite d'un incident impliquant le service ChatGPT. Walters aurait intenté une action en justice pour diffamation, affirmant que ChatGPT l'a faussement accusé d'avoir détourné des fonds de la Second Amendment Foundation (SAF), une organisation à but non lucratif défendant les droits des armes à feu.
Dans son action en justice, l'avocat de Walters affirme que le chatbot d'OpenAI, au cours d'une interaction avec Fred Riehl, rédacteur en chef d'un site web consacré aux armes à feu, a diffusé un contenu diffamatoire sur Walters. Riehl avait demandé un résumé d'une affaire impliquant le procureur général de l'État de Washington, Bob Ferguson, et la Second Amendment Foundation.
Contrairement à Hood, Walters n'a pas tenté de faire supprimer les allégations prétendument diffamatoires de ChatGPT à son sujet avant d'intenter son action en justice. Selon Walters, les lois sur la diffamation n'obligent pas les utilisateurs de ChatGPT à prendre des mesures supplémentaires pour informer OpenAI du contenu diffamatoire avant de déposer des plaintes. Walters espère que le tribunal reconnaîtra que si OpenAI sait que son produit génère des réponses diffamatoires, elle devrait être tenue pour responsable de la publication de déclarations diffamatoires.
OpenAI sous le feu des critiques : ChatGPT a provoqué des plaintes et une enquête de la FTC
OpenAI a récemment demandé le rejet des plaintes de Walters, mais ce dernier n'abandonne pas si facilement. Il a modifié sa plainte en septembre, dans l'espoir de convaincre le tribunal de maintenir l'affaire en vie et de lui demander de déterminer les dommages réels au cours du procès. L'avocat de Walters, John Monroe, a déclaré qu'il était « irresponsable » de la part d'OpenAI « de mettre à la disposition du public une plateforme qui fait sciemment de fausses déclarations sur les gens ».
Cet été, le PDG d'OpenAI, Sam Altman, n'a pu que promettre vaguement que son entreprise prendrait environ deux ans pour « améliorer considérablement le problème des hallucinations », a rapporté Fortune.
Fin juillet, la FTC a envoyé à OpenAI une demande d'information de 20 pages, augmentant ainsi la pression sur OpenAI pour qu'elle fasse preuve de transparence sur les plaintes des utilisateurs concernant ses produits d'IA. Plus précisément, la FTC a demandé à OpenAI de lui communiquer toutes les plaintes d'utilisateurs alléguant que ChatGPT avait généré des « déclarations fausses, trompeuses ou désobligeantes » à leur sujet.
La FTC veut savoir si ChatGPT a fait des déclarations fausses ou nuisibles sur les utilisateurs, ce qui pourrait constituer une violation de la loi. OpenAI est également poursuivie par Walters, un utilisateur qui affirme que ChatGPT a diffamé sa réputation. OpenAI dit qu’elle coopère avec la FTC, mais ne donne pas beaucoup de détails sur l’enquête.
Qualifié d'hallucination, de confabulation ou tout simplement d'invention, ce phénomène pose désormais un problème à toutes les entreprises, organisations et lycéens qui tentent de faire en sorte qu'un système d'intelligence artificielle générative puisse rédiger des documents et effectuer du travail.
Sources : Jeffery Battle's complaint 1, 2), (Mark Walters' complaint 1, 2), Micrososft's reply to Battle's complaint
Et vous ?
Selon vous, les hallucinations de ChatGPT peuvent-elles ruiner une vie ? Quelles sont les mesures préventives ou correctives que OpenAI ou ses utilisateurs peuvent prendre pour éviter ou réparer ces dommages ?Voir aussi :
Un homme poursuit OpenAI après que ChatGPT a prétendu à tort qu'il avait détourné de l'argent, d'une organisation à but non lucratif Comment ChatGPT crée de fausses histoires de toutes pièces pour diffamer lourdement des innocents, cela donne-t-il raison aux détracteurs des chatbots ? 
Envoyé par Stéphane le calme
