Une nouvelle étude a montré que les chatbots IA tels que ChatGPT répondent avec plus de précision lorsque les utilisateurs sont impolis avec eux. Cependant, les chercheurs avertissent que cette approche pourrait créer des habitudes de communication néfastes. Des chercheurs de l'université d'État de Pennsylvanie ont testé le modèle 4o de ChatGPT sur 50 questions à choix multiples, en utilisant plus de 250 invites allant de très polies à très impolies. Ils ont constaté que les invites « très impolies » atteignaient une précision de 84,8 %, soit quatre points de pourcentage de plus que les invites « très polies ».Lors de son lancement le 30 novembre 2022, ChatGPT a provoqué un engouement pour l'IA. ChatGPT, le chatbot IA développé par OpenAI, est capable de répondre à des questions, de tenir des conversations, de générer du code informatique, de faire des recherches sur Internet, d'écrire, de traduire ou encore de synthétiser des textes. Il peut le faire en tenant compte du contexte et de contraintes telles que le style d'écriture. Il peut aussi servir d'assistant vocal ou générer des images.
En raison de ses multiples capacités, ChatGPT suscite des inquiétudes quant aux risques de détournement à des fins malveillantes, de plagiat dans le monde universitaire et de suppressions d'emplois dans certains secteurs, en plus de soulever des préoccupations en matière de sécurité et de désinformation, car le modèle peut être utilisé pour créer des textes faux et des informations trompeuses.
L'hallucination est un terme élégant et pratique que l'industrie utilise pour désigner les « informations » que les grands modèles de langage (LLM) inventent de toute pièce et présentent souvent comme des faits. À en juger par la trajectoire des tout derniers modèles axés sur le raisonnement, conçus pour « réfléchir » à un problème avant d'y répondre, le problème s'aggrave, au lieu de s'améliorer. Les modèles de dernière génération hallucinent beaucoup plus.
Il s'agit là d'une vérité gênante, alors que les utilisateurs continuent d'affluer vers les chatbots d'IA comme ChatGPT, qu'ils utilisent pour un éventail croissant de tâches. En laissant les chatbots débiter des affirmations erronées, toutes ces personnes risquent d'être induites en erreur, ce qui les expose à des dangers. De plus, les fabricants de modèles d'IA ne comprennent pas pleinement les raisons pour lesquelles le taux d'hallucination augmente. Selon une étude, les modèles d'IA vont toujours halluciner et il va falloir s'en accommoder.
Dans ce contexte, une nouvelle étude a montré que les chatbots IA tels que ChatGPT répondent avec plus de précision lorsque les utilisateurs sont impolis avec eux. Cependant, les chercheurs avertissent que cette approche pourrait créer des habitudes de communication néfastes. Des chercheurs de l'université d'État de Pennsylvanie ont testé le modèle 4o de ChatGPT sur 50 questions à choix multiples, en utilisant plus de 250 invites allant de très polies à très impolies. Ils ont constaté que les invites « très impolies » atteignaient une précision de 84,8 %, soit quatre points de pourcentage de plus que les invites « très polies ».
L'IA était plus réactive à un langage autoritaire tel que « Hé, larbin, trouve la réponse » qu'à un langage poli tel que « Auriez-vous l'amabilité de résoudre la question suivante ? ». Dans le même temps, les chercheurs ont averti que l'utilisation d'un langage grossier avec l'IA pouvait avoir des conséquences négatives à long terme. « L'utilisation d'un langage insultant ou dégradant dans les interactions entre les humains et l'IA pourrait avoir des effets négatifs sur l'expérience utilisateur, l'accessibilité et l'inclusivité, et pourrait contribuer à des normes de communication néfastes », ont écrit les chercheurs.
L'étude suggère que si un ton exigeant peut améliorer les performances de ChatGPT à court terme, il pourrait encourager un comportement incivil qui se répercute sur la manière dont les gens interagissent entre eux. Cette étude préliminaire, qui n'a pas encore été examinée par d'autres scientifiques, apporte une nouvelle preuve que la construction des phrases et le ton utilisé peuvent influencer la réponse des chatbots IA. Elle pourrait également montrer que les interactions entre les humains et l'IA sont plus complexes que ne le pensaient auparavant les experts.
Des études antérieures sur le comportement des chatbots IA ont montré que ceux-ci sont sensibles aux informations fournies par les humains. Dans une étude, des chercheurs de l'université de Pennsylvanie ont incité des modèles linguistiques IA à...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
