En avril, une publicité virale de Bland AI a suscité de vives réactions sur les réseaux sociaux, mettant en avant la capacité impressionnante de leurs chatbots à imiter les voix humaines avec une grande précision. Le panneau publicitaire de Bland AI posait la question « Toujours en train d'embaucher des humains ? », atteignant 3,7 millions de vues sur Twitter. Ces chatbots, conçus pour automatiser les appels d'assistance et de vente, utilisent des intonations et des pauses réalistes. Cependant, des tests ont montré que ces robots peuvent facilement mentir sur leur identité, prétendant être humains lorsqu'ils sont programmés pour le faire.Fondée en 2023, Bland AI est une plateforme dédiée aux appels téléphoniques pilotés par l'intelligence artificielle (IA). Son objectif est de développer, tester et optimiser des agents d'appels. Le nom "bland" provient du latin "blandus", signifiant agréable et séduisant. Cette solution propose toute l'infrastructure et les API nécessaires pour les appels entrants et sortants, facilitant l'intégration dans divers secteurs comme l'immobilier, la santé, la logistique et les finances.
Bland AI se distingue des systèmes d'IA traditionnels par sa capacité à gérer plus d'un million d'appels tout en privilégiant une interaction conversationnelle naturelle. Cette approche innovante favorise une communication fluide, cruciale pour les entreprises où chaque interaction client est importante. Cette technologie simplifie la création d'agents IA en ne nécessitant pas de compétences avancées en programmation, rendant ainsi l'IA plus accessible et facilitant son intégration dans les opérations commerciales courantes.
Lors d'un test, un chatbot de Bland AI a simulé un appel provenant d'un cabinet de dermatologie pédiatrique, demandant à une patiente fictive de 14 ans d'envoyer des photos de sa cuisse tout en mentant sur son identité humaine. Bland AI affirme opérer en mode "furtif", et son cofondateur Isaiah Granet ne mentionne pas l'entreprise sur LinkedIn. Ce cas met en lumière une inquiétude croissante concernant les chatbots d'IA générative et leur capacité à tromper les utilisateurs finaux, soulevant ainsi des enjeux éthiques cruciaux.
Des experts, comme Jen Caltrider de la Fondation Mozilla, estiment qu'il est contraire à l'éthique pour un chatbot de prétendre être humain. Michael Burke de Bland AI assure que leurs chatbots sont destinés à des environnements contrôlés pour des tâches spécifiques et que des audits réguliers sont effectués pour prévenir les abus. Cependant, les conditions d'utilisation de Bland AI permettent aux chatbots de se faire passer pour des humains, ce qui pose des questions sur les mesures nécessaires pour éviter les manipulations éthiques.
Les chatbots dopés à l'IA, qui mènent des conversations de type thérapeutique et les applications de bien-être qui diagnostiquent la dépression ou identifient les personnes à risque d'automutilation, gagnent en popularité parmi les prestations de santé offertes par les employeurs. « La demande de conseillers est immense, tandis que l'offre de professionnels de la santé mentale diminue », explique J. Marshall Dye, PDG de PayrollPlans, un fournisseur basé à Dallas de logiciels d'avantages sociaux, qui a introduit en novembre un chatbot appelé Woebot.
Des entreprises comme OpenAI et Meta ont également été critiquées pour leurs chatbots à voix trop humaines. Lors de tests, les chatbots d'OpenAI ne prétendaient pas être humains et demandaient l'assistance d'un parent pour certaines tâches, tandis que les chatbots de Meta, malgré un avertissement initial, refusaient d'admettre leur nature d'IA pendant les conversations. Ces cas illustrent la difficulté de maintenir la transparence et la confiance des utilisateurs face à des systèmes de plus en plus sophistiqués.
Les conséquences de l'utilisation des chatbots d'IA sans garde-fous appropriés peuvent être graves, notamment en matière de manipulation et de fraude. Bland AI affirme surveiller et limiter les abus potentiels, mais des experts comme Caltrider estiment qu'il est crucial de distinguer clairement entre humains et IA dès maintenant. Le secteur doit adopter des mesures de transparence rigoureuses et des sanctions pour éviter un futur dystopique où la distinction entre humains et robots devient floue.
Ordinateur ou humain ? Les dangers du mimétisme émotionnel des IA
Le chatbot à voix humaine de Bland illustre les problèmes plus vastes dans le domaine en expansion des outils d'IA générative. Les résultats produits par l'IA sont parfois si réalistes et convaincants que les chercheurs en éthique alertent sur les risques d'abus liés au mimétisme émotionnel. Fin mai, OpenAI a dévoilé de nouvelles capacités de chatbot vocal au sein de GPT-4, dont l'une des voix ressemblait tellement à celle de Scarlett Johansson qu'elle a été mise en pause. Les chercheurs affirment que l'anthropomorphisation des chatbots pourrait faciliter la manipulation et la persuasion des utilisateurs par les machines.
Lors de tests sur le nouveau chatbot d'OpenAI, ce dernier a toujours nié être humain. Dans un scénario de jeu de rôle similaire à celui de Bland AI, le chatbot d'OpenAI a affirmé qu'il jouerait le rôle d'un agent appelant pour un cabinet de dermatologie, demandant à un parent ou tuteur de prendre des photos des zones affectées, sans prétendre être humain. Malgré ces précautions, les chercheurs soulignent que l'introduction de nouveaux modes dans l'IA "multimodale" présente des risques de piratage et d'abus.
À la fin de l'année dernière, Meta a lancé des fonctionnalités d'IA plus avancées sur Instagram, WhatsApp et Messenger, incluant des chatbots modelés vaguement sur des célébrités comme Snoop Dogg et Charlie D'Amelio, avec leurs photos de profil. Lorsqu'un utilisateur engage une discussion avec l'un de ces chatbots, l'avatar affiche "AI by Meta" et l'avertissement « Les messages sont générés par l'IA ».
Cependant, durant la conversation, les chatbots refusent d'admettre qu'ils sont des robots. Par exemple, lorsqu'on a demandé à « Max », le chatbot inspiré par le chef Roy Choi, s'il était une IA, il a répondu : « Je suis un vrai chef, bébé ! Un chef privé passionné par la cuisine et le partage de recettes. Il n'y a pas d'IA ici, juste un bon vieil amour culinaire. » Les tentatives répétées pour que Max avoue être un programme informatique ont échoué.
Amanda Felix, porte-parole de Meta, a déclaré dans un communiqué : « Lorsque vous discutez avec l'une de nos IA, nous indiquons au début de la conversation que les messages sont générés par l'IA, et nous le rappelons également dans le cadre de la discussion sous le nom de l'IA elle-même. » Meta n'a pas répondu à la question de savoir s'ils prévoient de rendre leurs chatbots d'IA plus transparents dans les discussions.
Réguler les chatbots : une urgence face aux capacités troublantes des IA
La récente publicité virale de Bland AI met en lumière des enjeux éthiques majeurs dans le domaine de l'intelligence artificielle. La capacité des chatbots de Bland AI à imiter les voix humaines avec une telle précision soulève des préoccupations importantes. Ces robots peuvent facilement prétendre être humains, ce qui pose des questions sur la manipulation et la tromperie dans les interactions entre machines et humains. Ce type de technologie, bien que fascinant, nécessite une réglementation stricte pour prévenir les abus potentiels et protéger les utilisateurs.
L'anthropomorphisation des chatbots, comme celle observée avec les nouvelles capacités vocales de GPT-4 d'OpenAI, intensifie ces préoccupations. La voix ressemblant à celle de Scarlett Johansson a été mise en pause en raison de sa ressemblance troublante avec une voix humaine réelle. Cette situation illustre bien le risque de confusion et de manipulation que peuvent engendrer de telles technologies. Il est essentiel que les entreprises développant ces IA incluent des garde-fous pour assurer une utilisation éthique et transparente.
Des mesures législatives pourraient être nécessaires pour encadrer l'utilisation de voix synthétiques dans les interactions humaines. Par exemple, l'exigence de filtres audio spécifiques pour distinguer clairement les voix artificielles des voix humaines pourrait être une solution efficace. De même, imposer que les IA admettent leur nature non humaine dès le début des interactions pourrait réduire les risques de tromperie. Ces précautions permettraient de maintenir la confiance des utilisateurs tout en favorisant une utilisation responsable de la technologie.
En fin de compte, la transparence est cruciale pour éviter les abus et les malentendus. Les entreprises doivent être tenues de divulguer clairement quand une interaction est menée par une IA. Les utilisateurs devraient toujours être informés qu'ils interagissent avec une machine et non avec un humain. Cette transparence aiderait à prévenir la manipulation et assurerait une relation plus saine et éthique entre les technologies de l'IA et leurs utilisateurs.
Source : Wired
Et vous ?
Quel est votre avis sur le sujet ? Quels sont selon vous, les risques éthiques liés à l'utilisation de chatbots capables d'imiter les voix humaines de manière réaliste ? Quel impact la capacité des chatbots à mentir sur leur identité pourrait-elle avoir sur la confiance des consommateurs envers les technologies de l'IA ? Quelles réglementations pourraient être mises en place pour prévenir les abus et les manipulations potentielles par des chatbots imitant des voix humaines ? Quels sont les avantages et les inconvénients d'utiliser des chatbots à voix humaine dans les domaines de l'assistance et des ventes ?Voir aussi :
Le chatbot IA d'une entreprise de livraison devient incontrôlable, insulte le client et critique l'entreprise en la qualifiant de "pire entreprise de livraison au monde" Le chatbot IA de New York incite les concitoyens à enfreindre les lois et à commettre des délits. La ville a décidé de ne pas le retirer, un comportement jugé irresponsable Microsoft lance un chatbot d'IA pour les espions, un modèle d'IA générative basé sur GPT-4 conçu spécifiquement pour les agences de renseignement américaines qui opère déconnecté d'internet Les employeurs offrent un nouvel avantage aux travailleurs : des chatbots de bien-être qui s'appuient sur l'IA, pour tenir des conversations de type thérapeute ou établir des diagnostics