
L'automatisation : une facilité met en péril la pensée critique des utilisateurs ?
L'étude en question a été réalisée par des chercheurs de Microsoft et de l'université Carnegie Mellon. Elle porte sur « l'impact de l'utilisation prolongée de l'IA générative au travail sur la pensée critique et les capacités cognitives ». Elle révèle qu'à mesure que les humains s'appuient sur l'IA générative dans le cadre de leur travail, ils font moins appel à la pensée critique, ce qui peut « entraîner la détérioration de facultés cognitives qui devraient être préservées ».
Lorsque les gens s'appuient sur l'IA générative au travail, ils s'efforcent de vérifier que la réponse fournie par l'IA est suffisamment bonne pour être utilisée, au lieu d'utiliser des compétences de pensée critique d'ordre supérieur telles que la création, l'évaluation et l'analyse d'informations.
Selon l'article, si les humains n'interviennent que lorsque les réponses de l'IA sont insuffisantes, les travailleurs sont privés « d'occasions régulières d'exercer leur jugement et de renforcer leur musculature cognitive, ce qui les atrophie et les rend mal préparés lorsque les exceptions se présentent ».

Selon les chercheurs, les problèmes étaient plus prononcés chez les travailleurs qui avaient davantage confiance en l'IA. « Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA », a déclaré l'équipe de recherche dans son rapport d'étude.
En réponse à ce problème, les chercheurs ont suggéré que Microsoft et d'autres entreprises travaillant dans le domaine de l'IA se concentrent sur « le développement d'outils d'IA en tenant compte de ce problème et en les concevant de manière à motiver les utilisateurs à faire preuve d'esprit critique ».
L'approche utilisée par l'équipe de recherche dans le cadre de son évaluation
L'équipe a recruté 319 personnes qui utilisent l'IA générative au moins une fois par semaine au travail. Ils ont été invités à donner trois exemples de la manière dont ils utilisent l'IA au travail, qui se répartissent en trois catégories principales : création (rédaction d'un courriel à l'intention d'un collègue, par exemple) ; information (recherche sur un sujet ou résumé d'un long article) ; et conseil (établissement d'un tableau à partir de données existantes).
Ensuite, l'équipe a demandé aux participants s'ils pratiquaient des compétences de pensée critique lors de l'exécution de la tâche, et si l'utilisation de l'IA générative les incitait à faire plus ou moins d'efforts pour penser de manière critique. Pour chaque tâche mentionnée, les répondants ont également été invités à indiquer dans quelle mesure ils avaient confiance en eux-mêmes, en l'IA générative et en leur capacité à évaluer les résultats de la machine.
Dans l'ensemble, ces travailleurs ont déclaré que plus ils faisaient confiance à l'IA pour accomplir la tâche, plus ils observaient « la façon dont ils percevaient la pensée critique ». Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA.

Les chercheurs ont mis en garde contre cette évolution. L'étude a également permis aux chercheurs de relever un certain nombre de conditions peu surprenantes qui incitent les travailleurs à faire preuve de plus ou moins d'esprit critique et à prêter attention à la qualité des résultats de l'IA.
Par exemple, les travailleurs qui se sentaient pressés par le temps utilisaient moins la pensée critique, tandis que les travailleurs dans des « scénarios et lieux de travail à enjeux élevés » qui s'inquiétaient des dommages causés par des résultats défectueux utilisaient davantage la pensée critique.
Cela signifie-t-il que l'utilisation de l'IA générative rend les humains stupides ?
Les résultats de l'étude ont soulevé plusieurs questions. L'utilisation de l'IA est-elle intrinsèquement mauvaise ? Doit-elle être abolie pour empêcher l'atrophie de l'intelligence collective de l'humanité ? C'est une réponse compréhensible aux preuves suggérant que les outils d'IA réduisent l'esprit critique chez les infirmières, les enseignants et les négociants en marchandises, mais le point de vue de l'équipe de recherche n'est pas aussi simple.
Comme ils le soulignent à juste titre, l'humanité a depuis longtemps « l'habitude de décharger les tâches cognitives sur les nouvelles technologies au fur et à mesure de leur apparition, et les gens craignent toujours que ces technologies ne détruisent l'intelligence humaine ».

Aujourd'hui, votre téléphone conserve toutes ces informations pour vous, et il n'est donc plus nécessaire d'y consacrer de la matière grise. De même, les humains externalisent une plus grande partie de leur matière grise vers les ordinateurs avec la généralisation des outils d'IA générative.
Il est peu probable que vous vous sentiez « stupide » d'avoir externalisé le répertoire tél...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.