Un juge de la Cour d’appel britannique a révélé qu’il avait utilisé ChatGPT, un chatbot basé sur l’intelligence artificielle, pour l’aider à rédiger une partie d’une décision de justice. Le juge Birss, spécialiste du droit de la propriété intellectuelle, a qualifié l’outil de génération de texte de « très utile » et a déclaré que la technologie a un « réel potentiel ».Lord Justice Birss, spécialisé dans le droit de la propriété intellectuelle, a déclaré qu'il avait demandé à l'outil d'IA de fournir un résumé d'un domaine du droit et qu'il avait reçu un paragraphe qu'il jugeait acceptable comme réponse. Lors d’une conférence organisée par le Barreau, il a déclaré que les grands modèles linguistiques génératifs avaient un « réel potentiel ».
« Je pense que ce qui est le plus intéressant, c'est que vous pouvez demander à ces grands modèles linguistiques de résumer des informations. C’est utile et ce sera utilisé, d'ailleurs je peux vous dire que je l’ai utilisé », a-t-il déclaré. « J’assume l’entière responsabilité personnelle de ce que j’ai mis dans mon jugement, je n’essaie pas de confier la responsabilité à quelqu’un d’autre. Tout ce que cela faisait, c’était une tâche que j’étais sur le point d’accomplir et dont je connaissais la réponse et que je pouvais reconnaître comme acceptable ».
Il s’agit du premier cas connu d’utilisation de ChatGPT par un juge britannique pour écrire une partie d’un jugement. Cette pratique est controversée, car ChatGPT peut commettre de nombreuses erreurs.
Les scientifiques, les écrivains et d’autres professionnels ont déjà trouvé l’exactitude de ChatGPT peu fiable depuis son lancement l’année dernière, et il est devenu connu pour avoir un « problème d’hallucination » dans lequel de fausses informations sont générées.
Plus tôt cette année, ChatGPT a faussement accusé un professeur de droit américain en l'incluant dans une liste générée de juristes qui avaient harcelé sexuellement quelqu'un, citant un rapport inexistant du Washington Post.
ChatGPT a déjà induit en erreur des professionnels du droit
Il y a quelques mois, un avocat a utilisé ChatGPT pour générer et citer des affaires fictives dans un mémoire juridique, provoquant la fureur du juge et des sanctions potentielles. Lorsqu’on lui a demandé de fournir des copies des affaires citées, l’avocat s’est tourné à nouveau vers ChatGPT, qui a produit des détails complets sur les affaires inexistantes.
Le procès a commencé comme tant d'autres : un homme du nom de Roberto Mata a poursuivi la compagnie aérienne Avianca, affirmant qu'il avait été blessé lorsqu'un chariot de service en métal lui avait heurté le genou lors d'un vol vers l'aéroport international Kennedy de New York.
Quand Avianca a demandé à un juge fédéral de Manhattan de rejeter l'affaire, les avocats de Mata se sont opposés avec véhémence, soumettant un mémoire de 10 pages citant plus d'une demi-douzaine de décisions de justice pertinentes. Il y a eu Martinez c. Delta Air Lines, Zicherman c. Korean Air Lines et, bien sûr, Varghese c. China Southern Airlines, avec sa savante discussion sur la loi fédérale et « l'effet de péage de la suspension automatique d'un délai de prescription ».
Il y avait juste un hic : personne (ni les avocats de la compagnie aérienne ni le juge lui-même) n'a pu trouver les décisions ou les citations citées et résumées dans le mémoire.
C'était parce que ChatGPT avait tout inventé, tout en assurant à l'avocat que ces affaires étaient réelles.
En fait, ce n’est qu’après que les avocats de la compagnie aérienne ont souligné dans un nouveau mémoire que les affaires n’existaient pas que Schwartz a découvert son erreur (ou, l’erreur de l’ordinateur, selon le point de vue).
Les avocats ont été condamnés à payer une amende de 5 000 dollars.
Les régulateurs et les tribunaux doivent contrôler l'utilisation de ChatGPT dans les litiges
Les régulateurs juridiques et les tribunaux devront peut-être contrôler « si, dans quelles circonstances et à quelles fins » les avocats peuvent utiliser des systèmes d’intelligence artificielle (IA) comme ChatGPT dans les litiges, a déclaré le Master of the Rolls. Il s'agit du troisième plus important juge du Royaume-Uni, après le Président de la Cour Suprême du Royaume-Uni et le Lord Chief Justice. À ce titre, il préside la section civile de la Cour d'appel.
Sir Geoffrey Vos (puisqu'il s'agit de lui) a déclaré qu'il faudrait des mécanismes pour gérer l'utilisation de l'IA générative au sein du système juridique.
« Nous pourrions même, espérons-le, en faire profiter l’accès à la justice, ainsi que des conseils juridiques et une résolution des litiges efficaces et économiques. »
S'adressant à la conférence sur le droit et la technologie de la Law Society of Scotland en juin, Sir Geoffrey a souligné le cas de l'avocat new-yorkais Steven Schwartz, qui a utilisé ChatGPT pour préparer ses arguments dans une affaire de préjudice corporel. Six des cas cités étaient, selon les termes du juge, « de fausses décisions avec de fausses citations ». Et ce malgré le fait que Schwartz ait demandé au système de confirmer leur exactitude.
« M. Schwartz n'a pas été découvert en raison du langage utilisé dans son mémoire, mais parce que le juge chargé de cette affaire a pris la peine de rechercher les cas cités. Sans doute que cela n’arrive pas toujours », a déclaré le Sir Geoffrey Vos. « Les risques que courent les justiciables utilisant ChatGPT en personne pour créer des soumissions plausibles doivent être encore plus palpables. Et en effet, un tel événement aurait eu lieu à Manchester il y a seulement quelques jours ».
L’affaire a montré que les avocats ne pouvaient pas utiliser l’IA générative pour rogner sur les coûts. « Je soupçonne que les outils d’IA non spécialisés n’aideront pas les avocats professionnels autant qu’ils le pensent, même si je suis convaincu que les IA juridiques spécialisées seront une autre histoire. »
Il a déclaré que Spellbook affirmait déjà avoir adapté « GPT-4 pour réviser et suggérer le langage de vos contrats et documents juridiques ».
« Il est peu probable que les clients paient pour des choses qu'ils peuvent obtenir gratuitement », a déclaré Sir Geoffrey, faisant écho aux commentaires qu'il avait faits en avril. « M. Schwartz aurait bien fait de lire l’article d’Enyo Law, qui souligne que le grand modèle linguistique est là pour "aider" les avocats et doit être soigneusement vérifié ». « Néanmoins, si les mémoires peuvent être rédigés par ChatGPT et Spellbook, vérifiés par des avocats, les clients feront probablement pression pour que cela se produise si cela est moins cher et permet d'économiser du temps aux salariés coûteux ».
Dans les litiges du moins, a poursuivi Sir Geoffrey, « le facteur limitant peut être la cour ou le tribunal qui statue sur le différend ».
Un juge en Colombie a également utilisé ChatGPT
En Colombie, un juge a admis avoir utilisé ChatGPT pour décider si l’assurance d’un enfant autiste devait couvrir tous les frais de son traitement médical.
Le juge de la ville caribéenne de Carthagène, Juan Manuel Padilla, a conclu que les frais médicaux et les frais de transport de l’enfant devaient être pris en charge par son assurance maladie, car ses parents ne pouvaient pas les payer.
Padilla pose à l'outil d'IA des questions spécifiques sur la question juridique, telles que : « Un mineur autiste est-il exonéré du paiement des frais pour ses thérapies ?
La réponse de ChatGPT était en accord avec la décision finale du juge.
Conclusion
ChatGPT est un outil basé sur un modèle de langage artificiel qui peut générer du texte à partir d’une entrée donnée. Il peut être utilisé pour diverses applications, telles que la rédaction de résumés, de poèmes, de dialogues, etc. Il peut également répondre à des questions spécifiques sur un sujet donné 5.
ChatGPT n’est pas le seul outil d’intelligence artificielle utilisé dans le domaine juridique. D’autres logiciels peuvent aider les avocats à analyser des documents, à rechercher des précédents, à prédire des résultats ou à automatiser des tâches administratives. L’utilisation de l’intelligence artificielle dans le système judiciaire soulève toutefois des questions éthiques et juridiques,
Pour un professionnel de l'informatique : « ChatGPT n'est pas une source vraiment fiable. Il est indéniable qu’il s’agit de l’un des meilleurs outils de génération de contenu d’intelligence artificielle, mais la précision sur de nombreux sujets n’est toujours pas aussi bonne qu’on le souhaiterait ».
Rosie Burbidge, associée en propriété intellectuelle chez Gunnercooke LLP, a déclaré : « L'IA, y compris les chatbots, représente une énorme opportunité pour la profession juridique, y compris les juges. Cependant, les avocats doivent être conscients des nombreux risques, notamment le partage d’informations confidentielles, la renonciation à des privilèges et le risque de perte de propriété d’actifs de propriété intellectuelle clés tels que les précédents standards. »
Source : Law Society Gazette
Et vous ?
Quel pourrait être l’impact de l’utilisation de ChatGPT sur la confiance du public dans le système judiciaire ? Quels sont les avantages et les inconvénients de l’utilisation de ChatGPT par les juges pour rédiger des décisions de justice ? Quels sont les risques liés à l’utilisation de ChatGPT dans ce milieu ? Peut-on définir des critères de qualité et de fiabilité que ChatGPT pour une utilisation dans le domaine juridique ? Si oui, lesquels ? Quelles sont les garanties de transparence et de responsabilité que les juges doivent offrir lorsqu’ils utilisent ChatGPT ?