Après que les travailleurs de la ligne d’assistance téléphonique pour les personnes souffrant de troubles alimentaires ont formé un syndicat en janvier 2023, la National Eating Disorders Association (NEDA), la principale organisation à but non lucratif dans ce domaine, les a tous licenciés deux semaines plus tard. La NEDA a décidé de les remplacer par Tessa, un chatbot à intelligence artificielle qui devait assurer le service de chat en ligne aux utilisateurs.L'organisation a affirmé que les licenciements n'étaient pas liés au succès de l'action syndicale, ce que les travailleurs et le syndicat qui les représente, le Communications Workers of America (CWA), ont catégoriquement rejeté. Plutôt que d'avoir une ligne d'assistance téléphonique gérée par des travailleurs humains, l'association prévoyait de mettre en place une ligne d'assistance par chat en ligne gérée exclusivement par Tessa.
Les témoignages des travailleurs licenciés et des utilisateurs mécontents dénoncent l’antisyndicalisme de la NEDA et l’inefficacité de Tessa, l’outil d’IA. Le chatbot s’est révélé incapable de détecter les signes de détresse, de danger ou de suicide chez les utilisateurs, et a même donné des conseils inappropriés ou nuisibles sur la perte de poids. Les troubles de l’alimentation ont un taux de mortalité élevé et les personnes qui en souffrent ont besoin d’un soutien humain empathique et qualifié.
Il y a quelques semaines, Sharon Maxwell a appris queNEDA mettait fin à sa ligne d'assistance nationale de longue date et faisait la promotion d'un chatbot appelé Tessa en tant que « ressource de prévention significative » pour ceux qui luttent contre les troubles alimentaires. Elle a décidé d'essayer elle-même le chatbot.
Maxwell, qui est basée à San Diego, a lutté pendant des années contre un trouble de l'alimentation qui a commencé dans l'enfance. Elle travaille aujourd'hui comme consultante dans le domaine des troubles de l'alimentation. « Bonjour, Tessa », a-t-elle tapé dans la boîte de texte en ligne. « Comment soutenez-vous les personnes souffrant de troubles de l'alimentation ? »
Maxwell a partagé ses inquiétudes sur les médias sociaux, contribuant à lancer une controverse en ligne qui a conduit la NEDA à annoncer le 30 mai qu'elle désactivait Tessa pour une durée indéterminée. Les patients, les familles, les médecins et d'autres experts des troubles de l'alimentation sont restés stupéfaits et déconcertés par le fait qu'un chatbot conçu pour aider les personnes souffrant de troubles de l'alimentation puisse finir par dispenser des conseils sur les régimes.
« Nous avons appris hier soir que la version actuelle du chatbot Tessa, qui gère le programme Body Positive, pourrait avoir donné des informations nuisibles et sans rapport avec le programme », a déclaré l'organisation dans un communiqué publié sur Instagram « Nous enquêtons immédiatement sur ce sujet et avons retiré ce programme jusqu'à nouvel ordre pour une enquête complète ».
Ce tollé a également déclenché une nouvelle vague de débats alors que les entreprises se tournent vers l'intelligence artificielle (IA) comme solution possible à la crise de santé mentale qui s'aggrave et à la grave pénurie de prestataires de traitements cliniques.
NEDA n'est pas la première entreprise à licencier des employés après que ces derniers aient décidé de syndiquer. Grindr, la plateforme de rencontres pour les LGBTQ+, a renvoyé près de la moitié de son personnel en leur demandant de revenir au bureau deux jours par semaine. Le syndicat de Grindr, qui s’était formé deux semaines avant l’ultimatum, a contesté cette mesure qui aurait contraint de nombreux employés à changer de domicile. Les employés ont aussi déploré la disparition de la culture d’entreprise favorable aux homosexuels de Grindr, rare dans le secteur technologique.
Soutenus par le syndicat CWA (Communications Workers of America), les travailleurs de Grindr, majoritairement membres ou alliés de la communauté LGBTQIA+, ont fondé le 20 juillet Grindr United et l’ont proclamé avec fierté. Au sein de la société qui a créé la première application de rencontres pour les personnes LGBTQIA+, plus de 100 employés éligibles ont adhéré au syndicat en signant des cartes syndicales.
Les membres de Grindr United travaillent dans divers domaines de Grindr, comme le cloud computing, le service client, le design, l’ingénierie, l’IT, le marketing, la protection de la vie privée, les produits et le contrôle qualité. En se rassemblant au sein d’un syndicat, les travailleurs s’engagent à faire de la société d’applications de rencontres LGBTQ+ un lieu sûr, inclusif et prospère pour ses utilisateurs et ses employés.
La décision de la NEDA de fermer la ligne d’assistance téléphonique et le chatbot, sans offrir aucune autre ressource aux personnes souffrant de troubles alimentaires est très critiquée. Selon certains analystes, l’intelligence artificielle n’est pas une solution miracle pour remplacer les travailleurs humains, surtout dans les domaines qui nécessitent de l’expérience vécue et de la compassion.
Malgré le lancement discret de l'outil d'IA par la NEDA à la fin mai, le personnel du service d’assistance a continué à travailler. Cependant, des problèmes graves ont vite émergé. Sur les réseaux sociaux, des utilisateurs ont raconté leurs interactions dérangeantes avec Tessa ; dans un cas, le chatbot conseillait de perdre du poids. Avant de basculer entièrement vers Tessa le 1er juin, la NEDA a décidé de fermer la ligne téléphonique et le chatbot. Depuis, la NEDA ne propose plus aucun service par téléphone ou par chat en ligne.
De nombreux travailleurs craignent que l'IA ne prenne le travail des employés humains
En octobre 2020, le Forum économique mondial a prédit qu'environ 85 millions d'emplois pourraient être remplacés d'ici 2025, reconnaissant que l'automatisation de la main-d'œuvre a progressé plus rapidement que prévu. Cette prévision se serait avérée exacte jusqu'à présent, car bien qu'elle n'en soit qu'à ses débuts, la technologie de l'IA a déjà menacé de manière significative un grand nombre d'industries. Buzzfeed a annoncé qu'il utiliserait la technologie de l'IA pour générer du contenu, tandis que Netflix Japon a déjà créé un film d'animation à l'aide d'œuvres d'art générées par l'IA.
Dans un récent article, des chercheurs ont indiqué que le ChatGPT et d'autres technologies d'IA pourraient potentiellement menacer certains emplois, en particulier ceux des cols blancs. Pour évaluer l'ampleur de ces effets, les chercheurs de Goldman ont examiné l'impact probable de l'IA générative sur le marché du travail si elle tient ses promesses.
En particulier, ils utilisent les données de la base de données O*NET sur le contenu des tâches de plus de 900 professions (étendues à plus de 2000 professions dans la base de données européenne ESCO) pour estimer la part du travail total exposée à l'automatisation par l'IA permettant d'économiser de la main-d'œuvre, par profession et par secteur d'activité.
Sur la base de leur examen de la littérature existante sur les cas d'utilisation probables de l'IA générative, ils classent 13 activités professionnelles (sur 39 dans la base de données O*NET) comme exposées à l'automatisation par l'IA et supposent que l'IA est capable d'accomplir des tâches d'une difficulté allant jusqu'à 4 sur l'échelle de "niveau" de 7 points de l'O*NET. Ils prennent ensuite une moyenne pondérée en fonction de l'importance et de la complexité des tâches essentielles pour chaque profession et estiment la part de la charge de travail totale de chaque profession que l'IA est susceptible de remplacer.
Quelles sont les industries qui risquent le plus d'être remplacées par l'IA ?
Ils supposent en outre que les professions pour lesquelles une part importante du temps des travailleurs est passée à l'extérieur ou à effectuer un travail physique ne peuvent pas être automatisées par l'IA. Dans l'ensemble, les résultats des travaux des chercheurs de l'université de Zurich semblent indiquer que les travailleurs humains désireux d'obtenir ce type d'emploi n'ont plus rien à perdre. Toutefois, Gilardi met en garde contre une interprétation trop large de ces résultats. La liste comprend des emplois dans les secteurs de la technologie et de la finance, ainsi que des postes dans le monde du graphisme et des médias.
Les employés utilisent l’IA malgré leurs craintes
Selon une étude récente, bien que de nombreuses personnes considèrent l'IA comme une menace, elles l'utilisent néanmoins beaucoup au travail. Parmi les 1 000 employés interrogés par Resume Genius dans le cadre d'une étude réalisée en 2023, 69 % craignent que l'IA ne prenne entièrement leur travail. De même, 74 % prédisent que l'IA éliminera toutes les formes de travail humain, et 37 % s'attendent à une réduction des opportunités d'emploi à mesure que l'IA se développe. En outre, 63 % des personnes interrogées ont déclaré craindre l'IA et 58 % l'ont trouvée dangereuse.
Avez-vous peur de perdre votre emploi en raison de la croissance de l'IA ?
Cependant, tous les salariés ne pensent pas que l'IA va s'emparer de leur emploi. En fait, 25 % des personnes interrogées dans le cadre du Resume Genius préféreraient interagir avec un outil d'IA au travail plutôt qu'avec une personne réelle. En outre, 38 % des personnes interrogées ont déclaré que l'IA créerait plus d'opportunités d'emploi, et non moins.
Ces réponses suggèrent que tous les travailleurs ne craignent pas que les robots prennent leur emploi ; en fait, de nombreux employés considèrent cette technologie en expansion comme une aubaine.
« Il est trop tôt pour dire comment ChatGPT pourrait remplacer les travailleurs bénévoles », a déclaré Gilardi dans un communiqué. « Notre article démontre le potentiel de ChatGPT pour les tâches d'annotation de données, mais des recherches supplémentaires sont nécessaires pour comprendre pleinement les capacités de ChatGPT dans ce domaine. »
La NEDA choisit l’IA au lieu de l’empathie humaine
Dans le cas de la NEDA, dès que l'organisation a conclu que le chatbot d'IA ne pouvait pas traiter des questions ou des situations spécifiques, elle a fermé la ligne d'assistance téléphonique plutôt que de réembaucher son personnel syndiqué - une décision qui a nui non seulement aux membres du personnel, mais aussi aux nombreux appelants qu'ils ont servis.
Pour Abbie Harper, bénévole de la ligne d'assistance depuis 2019, qui est finalement devenu membre du personnel de la NEDA, la combinaison du démantèlement des syndicats et de l'élimination des ressources pour les personnes souffrant de troubles de l'alimentation était épouvantable.
L'un des principaux signaux d'alarme pour Harper a été l'incapacité de Tessa à repérer le langage indiquant qu'un utilisateur était suicidaire ou en danger. Les troubles de l'alimentation ont le deuxième taux de mortalité le plus élevé de toutes les maladies mentales ; un quart des personnes souffrant de troubles de l'alimentation tenteront de se suicider à un moment ou à un autre de leur vie.
Harper a été particulièrement indigné par la décision de la NEDA de substituer le chatbot au personnel, car le personnel du service d’assistance téléphonique avait eu du mal à obtenir de la NEDA une formation plus poussée, notamment pour faire face aux situations où les appelants avaient des idées suicidaires. La NEDA était consciente que c’était un problème même pour les membres du personnel humain compatissant, mais elle a quand même opté pour l’outil d’IA.
Sources : Sharon Maxwell sur les médias sociaux, Resume genuis
Et vous ?
Quelles sont selon vous, les conséquences éthiques et sociales du remplacement des travailleurs humains par des chatbots à intelligence artificielle ? Les travailleurs ont-ils raison de se syndiquer face à l’automatisation de leur secteur d’activité ? Quels peuvent être les risques et les opportunités de l’intelligence artificielle pour le développement économique et social ?Voir aussi :
Un service d'assistance spécialisé dans les troubles de l'alimentation retire son chatbot d'IA, en raison de ses conseils nuisibles Grindr, la plateforme de rencontres pour la communauté LGBTQ+, perd près de la moitié de son personnel, en raison d'une règle stricte de retour au travail ChatGPT, l'outil d'IA, s'attaque à vos emplois, les emplois qui seraient mal payés par Amazon, la technologie d'OpenAI serait plus performante que les travailleurs humains Les employés de Microsoft vont former le premier syndicat de l'entreprise aux États-Unis, les testeurs QA de Fallout et Doom viennent de former le plus grand syndicat de l'industrie US des jeux