Dans une affaire opposant une compagnie d’assurance maladie et l’un de ses clients, un juge, Juan Manuel Padilla Garcia, déclare s’être fait aider par le célèbre outil d’OpenAI, ChatGPT, pour prendre sa décision de justice. Padilla, qui a statué contre la compagnie d’assurance, a déclaré avoir posé à ChatGPT, entre autres, la question suivante : « Un mineur autiste est-il exonéré du paiement des frais de ses thérapies ? ». La réponse de ChatGPT correspondait à la décision préalable du juge : « Oui, c'est exact. Selon la réglementation en vigueur en Colombie, les mineurs diagnostiqués autistes sont exonérés de frais pour leurs thérapies. »L'affaire concernait un différend avec une compagnie d'assurance maladie sur la question de savoir si un enfant autiste devait bénéficier d'une couverture pour un traitement médical. Selon le document du tribunal, les questions juridiques entrées dans l'outil d'IA comprenaient « Un mineur autiste est-il exonéré du paiement des frais pour ses thérapies ? » et « La jurisprudence de la cour constitutionnelle a-t-elle rendu des décisions favorables dans des cas similaires ? »
Padilla a fait valoir que le ChatGPT effectue des services qui étaient auparavant assurés par une secrétaire « de manière organisée, simple et structurée », ce qui pourrait « améliorer les temps de réponse » dans le système judiciaire. Il a ajouté que l'IA pourrait être utile pour « faciliter la rédaction de textes ».
Qu'est-ce que ChatGPT et qui l’a créé ?
ChatGPT est un robot à grand modèle de langage (ils permettent de prédire le mot suivant dans une série de mots) développé par OpenAI et basé sur GPT-3.5. Il a une capacité remarquable à interagir sous forme de dialogue conversationnel et à fournir des réponses qui peuvent sembler étonnamment humaines.
L'apprentissage par renforcement avec retour d'information humain (RLHF) est une couche supplémentaire de formation qui utilise le retour d'information humain pour aider ChatGPT à apprendre à suivre des instructions et à générer des réponses satisfaisantes pour les humains. ChatGPT a été créé par OpenAI, une société d'intelligence artificielle basée à San Francisco, connue pour son célèbre DALL-E, un modèle d'apprentissage profond qui génère des images à partir d'instructions textuelles appelées "prompts".
ChatGPT a pris le monde d'assaut depuis son lancement en novembre, avec son habileté à écrire des essais, des articles, des poèmes et du code informatique en quelques secondes seulement. Ce qui n’a pas manqué de soulever quelques inquiétudes, y compris dans les écoles, où les enseignants craignent que la plateforme d'OpenAI ne soit utilisée par les élèves pour faire du plagiat.
À Lyon, un professeur a remarqué de curieuses similitudes dans les copies rendues par la moitié de ses étudiants; il leur avait donné une semaine pour rédiger leurs devoirs. Si les mots différaient, leurs structures démonstratives et leurs exemples sont restés constamment les mêmes. C’est en se renseignant auprès de ses élèves que l’un d’eux a fini par avouer l’utilisation de ChatGPT dans la rédaction.
À en croire des témoignages de professeurs d'université, les étudiants confient à ChatGPT la résolution de leurs devoirs de maison, notamment en dissertation. « Le monde universitaire n'a rien vu venir. Nous sommes donc pris au dépourvu », explique Darren Hudson Hick, professeur adjoint de philosophie à l'université Furman.
« Je l'ai signalé sur Facebook, et mes amis [professeurs] ont dit : "ouais ! J'en ai attrapé un aussi" », a-t-il ajouté. Au début du mois, Hick aurait demandé à sa classe d'écrire un essai de 500 mots sur le philosophe écossais du 18e siècle David Hume et le paradoxe de l'horreur, qui examine comment les gens peuvent tirer du plaisir de quelque chose qu'ils craignent, pour un test à la maison. Mais selon le professeur de philosophie, l'une des dissertations qui lui sont parvenus présentait quelques caractéristiques qui ont "signalé" l'utilisation de l'IA dans la réponse "rudimentaire" de l'étudiant. Hick explique que cela peut être détecté par un œil avisé.
ChatGPT n'a « pas pour but de remplacer » les juges, a précisé le juge. Padilla a insisté sur le fait qu' « en posant des questions à l'application, nous ne cessons pas d'être des juges, des êtres pensants. » « Je soupçonne que beaucoup de mes collègues vont se joindre à cela et commencer à construire leurs décisions de manière éthique avec l'aide de l'intelligence artificielle », a déclaré Padilla.
ChatGPT et la concurrence
« Nous avons formé notre partenariat avec OpenAI autour d'une ambition commune de faire progresser de manière responsable la recherche de pointe sur l'IA et de démocratiser l'IA en tant que nouvelle plateforme technologique », a déclaré Satya Nadella, président et CEO de Microsoft. « Dans cette nouvelle phase de notre partenariat, les développeurs et les organisations de tous les secteurs d'activité auront accès aux meilleures infrastructures, modèles et chaînes d'outils d'IA avec Azure pour créer et exécuter leurs applications. »
Alors que Microsoft entretient des liens très étroits avec OpenAI, le créateur de ChatGPT, Google pourrait s'être tourné vers une entreprise moins connue du nom d'Anthropic et fondée par d'anciens employés d'OpenAI. Le géant de Mountain View a investi environ 300 millions de dollars dans la startup d'intelligence artificielle Anthropic, ce qui en fait le dernier géant de la technologie à mettre son argent et sa puissance de calcul au service d'une nouvelle génération d'entreprises qui tentent de se faire une place dans le domaine en plein essor de l'"IA générative".
Anthropic développe également son propre chatbot polyvalent : un rival potentiel de ChatGPT nommé Claude. Toutefois, il n'est pas certain que Google envisage d'intégrer Claude dans ses services, comme Microsoft le fait avec ChatGPT. Google dispose déjà d'une grande expertise interne dans le développement de systèmes linguistiques d'IA, et le FT suggère que l'une des motivations de l'accord est simplement de développer l'activité de cloud computing de Google.
Claude donne peu de détails techniques sur sa mise en œuvre, mais le document de recherche d'Anthropic sur l'IA constitutionnelle décrit AnthropicLM v4-s3, un modèle pré-entraîné de 52 milliards de paramètres. Ce modèle autorégressif a été entraîné de manière non supervisée sur un grand corpus de textes, un peu comme le GPT-3 d'OpenAI. Anthropic indique que Claude est un nouveau modèle, plus grand, avec des choix architecturaux similaires à ceux de la recherche publiée.
Claude et ChatGPT s'appuient tous deux sur l'apprentissage par renforcement (RL) pour former un modèle de préférence sur leurs résultats, et les générations préférées sont utilisées pour des ajustements ultérieurs. Cependant, la méthode utilisée pour développer ces modèles de préférence diffère, Anthropic privilégiant une approche qu'il appelle l'IA constitutionnelle.
Les systèmes comme ChatGPT sont connus pour donner des réponses biaisées, discriminatoires ou tout simplement fausses. Cela pourrait s'expliquer par le fait que le modèle linguistique ne possède aucune "compréhension" réelle du texte : il se contente de synthétiser des phrases en se basant sur les probabilités des millions d'exemples utilisés pour former le système.
Les créateurs de ChatGPT, OpenAI, ont mis en place des filtres pour éliminer certaines des réponses les plus problématiques. Mais les développeurs préviennent que l'outil présente encore des limites importantes et qu'il ne doit pas être utilisé pour prendre des décisions conséquentes.
Bien que cette affaire soit apparemment la première fois qu'un juge admette utiliser un générateur de texte IA tel que ChatGPT, certains tribunaux ont - de manière contradictoire - déjà commencé à utiliser des outils de prise de décision automatisés pour déterminer la peine ou la libération sous caution d'accusés criminels.
L'utilisation de ces systèmes dans les tribunaux a été fortement critiquée par les éthiciens de l'IA, qui soulignent qu'ils renforcent régulièrement les stéréotypes racistes et sexistes et amplifient les formes préexistantes d'inégalité.
Certains gouvernements n’interdisent pas l'utilisation de l'IA dans les décisions de justice. La Chine a par exemple créé un « procureur » doté d'une intelligence artificielle, capable d'inculper des personnes pour des crimes avec une précision de 97 %. Des chercheurs chinois affirment avoir réalisé une première mondiale en mettant au point une machine capable d'inculper des personnes pour des crimes grâce à l'intelligence artificielle. Le programme a été construit et testé par le parquet populaire de Shanghai, le plus grand et le plus actif des parquets de district du pays.
L'équipe aurait construit la machine à partir d'un outil d'IA existant appelé System 206. Selon une certaine source, les procureurs chinois utilisaient déjà ce système pour évaluer les preuves et déterminer si un criminel présumé était ou non dangereux pour le grand public.
Cependant, elle était assez limitée puisqu'elle ne pouvait pas participer au processus de décision concernant le dépôt des accusations et la suggestion des peines. L'IA doit être capable d'identifier et de supprimer les informations non pertinentes dans un dossier, et de traiter le langage humain dans son réseau neuronal.
La nouvelle IA développée à Shanghai serait donc capable d'évaluer les dossiers de cette manière. En fait, la machine peut identifier et inculper les criminels pour les huit délits les plus courants du district : fraude à la carte de crédit, jeux d'argent, conduite dangereuse, agression intentionnelle, obstruction à un agent, vol, fraude et même dissidence politique.
ChatGPT est peut-être devenu l'application à la croissance la plus rapide de l'histoire après avoir atteint 100 millions d'utilisateurs actifs mensuels, ou MAU, fin janvier, selon un rapport du géant bancaire suisse UBS. Le chatbot appartenant à OpenAI a dépassé les 100 millions de MAU un peu plus de deux mois après son lancement – battant confortablement les vitesses de croissance des principales applications comme TikTok et Instagram, selon la note d'UBS.
« En vingt ans après l'espace Internet, nous ne pouvons pas nous souvenir d'une montée en puissance plus rapide dans une application Internet grand public », ont écrit les analystes d'UBS dans le rapport.
Source : Cour suprême de Colombie
Et vous ?
Que pensez-vous de cet acte d'un juge qui utilise ChatGPT pour prendre une décision de justice ? Accepteriez-vous une décision de justice donnée par ChatGPT ?Voir aussi :
ChatGPT est peut-être l'application grand public à la croissance la plus rapide de l'histoire d'Internet, atteignant 100 millions d'utilisateurs en un peu plus de 2 mois, selon un rapport d'UBS La justice par apprentissage automatique : la Chine a créé un « procureur » doté d'une intelligence artificielle, capable d'inculper des personnes pour des crimes avec une précision de 97 % Google investit 300 M$ dans la start-up d'IA Anthropic, fondée par d'anciens chercheurs d'OpenAI, la société a construit son propre chatbot généraliste, un rival de ChatGPT nommé Claude 
Envoyé par Stéphane le calme
