Microsoft publie une étude sur la manière dont l'utilisation de l'IA générative au travail affecte les capacités de réflexion critique. Et voici la conclusion : « utilisées de manière inappropriée, les technologies peuvent entraîner, et entraînent effectivement, la détérioration de facultés cognitives qui devraient être préservées ». En d'autres termes, l'équipe de recherche de Microsoft a constaté que plus les gens utilisent l'IA dans leur travail, moins ils font preuve d'esprit critique. Cette conclusion fait écho à des études précédentes selon lesquelles l'IA a un impact négatif sur l'esprit critique et un obstacle à l'apprentissage de la programmation informatique.L'automatisation : une facilité met en péril la pensée critique des utilisateurs ?
L'étude en question a été réalisée par des chercheurs de Microsoft et de l'université Carnegie Mellon. Elle porte sur « l'impact de l'utilisation prolongée de l'IA générative au travail sur la pensée critique et les capacités cognitives ». Elle révèle qu'à mesure que les humains s'appuient sur l'IA générative dans le cadre de leur travail, ils font moins appel à la pensée critique, ce qui peut « entraîner la détérioration de facultés cognitives qui devraient être préservées ».
Lorsque les gens s'appuient sur l'IA générative au travail, ils s'efforcent de vérifier que la réponse fournie par l'IA est suffisamment bonne pour être utilisée, au lieu d'utiliser des compétences de pensée critique d'ordre supérieur telles que la création, l'évaluation et l'analyse d'informations.
Selon l'article, si les humains n'interviennent que lorsque les réponses de l'IA sont insuffisantes, les travailleurs sont privés « d'occasions régulières d'exercer leur jugement et de renforcer leur musculature cognitive, ce qui les atrophie et les rend mal préparés lorsque les exceptions se présentent ».
Envoyé par L'équipe de recherche
L'une des principales ironies de l'automatisation est qu'en mécanisant les tâches routinières et en laissant le traitement des exceptions à l'utilisateur humain, on prive ce dernier des occasions habituelles d'exercer son jugement et de renforcer sa musculature cognitive, ce qui le laisse atrophié et mal préparé lorsque les exceptions se présentent.
Selon les chercheurs, les problèmes étaient plus prononcés chez les travailleurs qui avaient davantage confiance en l'IA. « Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA », a déclaré l'équipe de recherche dans son rapport d'étude.
En réponse à ce problème, les chercheurs ont suggéré que Microsoft et d'autres entreprises travaillant dans le domaine de l'IA se concentrent sur « le développement d'outils d'IA en tenant compte de ce problème et en les concevant de manière à motiver les utilisateurs à faire preuve d'esprit critique ».
L'approche utilisée par l'équipe de recherche dans le cadre de son évaluation
L'équipe a recruté 319 personnes qui utilisent l'IA générative au moins une fois par semaine au travail. Ils ont été invités à donner trois exemples de la manière dont ils utilisent l'IA au travail, qui se répartissent en trois catégories principales : création (rédaction d'un courriel à l'intention d'un collègue, par exemple) ; information (recherche sur un sujet ou résumé d'un long article) ; et conseil (établissement d'un tableau à partir de données existantes).
Ensuite, l'équipe a demandé aux participants s'ils pratiquaient des compétences de pensée critique lors de l'exécution de la tâche, et si l'utilisation de l'IA générative les incitait à faire plus ou moins d'efforts pour penser de manière critique. Pour chaque tâche mentionnée, les répondants ont également été invités à indiquer dans quelle mesure ils avaient confiance en eux-mêmes, en l'IA générative et en leur capacité à évaluer les résultats de la machine.
Dans l'ensemble, ces travailleurs ont déclaré que plus ils faisaient confiance à l'IA pour accomplir la tâche, plus ils observaient « la façon dont ils percevaient la pensée critique ». Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA.
Envoyé par L'équipe de recherche
Les données montrent un changement dans l'effort cognitif, les travailleurs du savoir passant de plus en plus de l'exécution des tâches à la supervision lorsqu'ils utilisent l'IA générique. Il est surprenant de constater que si l'IA peut améliorer l'efficacité, elle peut également réduire l'engagement critique, en particulier dans les tâches routinières ou à faible enjeu pour lesquelles les utilisateurs s'en remettent simplement à l'IA, ce qui soulève des inquiétudes quant à la dépendance à long terme et à la diminution de la résolution indépendante des problèmes.
Les chercheurs ont mis en garde contre cette évolution. L'étude a également permis aux chercheurs de relever un certain nombre de conditions peu surprenantes qui incitent les travailleurs à faire preuve de plus ou moins d'esprit critique et à prêter attention à la qualité des résultats de l'IA.
Par exemple, les travailleurs qui se sentaient pressés par le temps utilisaient moins la pensée critique, tandis que les travailleurs dans des « scénarios et lieux de travail à enjeux élevés » qui s'inquiétaient des dommages causés par des résultats défectueux utilisaient davantage la pensée critique.
Cela signifie-t-il que l'utilisation de l'IA générative rend les humains stupides ?
Les résultats de l'étude ont soulevé plusieurs questions. L'utilisation de l'IA est-elle intrinsèquement mauvaise ? Doit-elle être abolie pour empêcher l'atrophie de l'intelligence collective de l'humanité ? C'est une réponse compréhensible aux preuves suggérant que les outils d'IA réduisent l'esprit critique chez les infirmières, les enseignants et les négociants en marchandises, mais le point de vue de l'équipe de recherche n'est pas aussi simple.
Comme ils le soulignent à juste titre, l'humanité a depuis longtemps « l'habitude de décharger les tâches cognitives sur les nouvelles technologies au fur et à mesure de leur apparition, et les gens craignent toujours que ces technologies ne détruisent l'intelligence humaine ».
Envoyé par L'équipe de recherche
Les outils d'IA générative sont les derniers d'une longue lignée de technologies qui soulèvent des questions quant à leur impact sur la qualité de la pensée humaine, une lignée qui comprend l'écriture (à laquelle Socrate s'opposait), l'imprimerie (à laquelle Trithemius s'opposait), les calculatrices (auxquelles les professeurs d'arithmétique s'opposaient) et Internet.
Cette consternation n'est pas sans fondement. Utilisées à mauvais escient, les technologies peuvent entraîner et entraînent la détérioration de facultés cognitives qui devraient être préservées.
Aujourd'hui, votre téléphone conserve toutes ces informations pour vous, et il n'est donc plus nécessaire d'y consacrer de la matière grise. De même, les humains externalisent une plus grande partie de leur matière grise vers les ordinateurs avec la généralisation des outils d'IA générative.
Il est peu probable que vous vous sentiez « stupide » d'avoir externalisé le répertoire tél...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
