Une étude de Microsoft révèle que plus les gens utilisent l'IA dans leur travail, moins ils font preuve d'esprit critique,

L'étude suggère que l'IA rend la cognition humaine « atrophiée et non préparée »

Microsoft publie une étude sur la manière dont l'utilisation de l'IA générative au travail affecte les capacités de réflexion critique. Et voici la conclusion : « utilisées de manière inappropriée, les technologies peuvent entraîner, et entraînent effectivement, la détérioration de facultés cognitives qui devraient être préservées ». En d'autres termes, l'équipe de recherche de Microsoft a constaté que plus les gens utilisent l'IA dans leur travail, moins ils font preuve d'esprit critique. Cette conclusion fait écho à des études précédentes selon lesquelles l'IA a un impact négatif sur l'esprit critique et un obstacle à l'apprentissage de la programmation informatique.

L'automatisation : une facilité met en péril la pensée critique des utilisateurs ?

L'étude en question a été réalisée par des chercheurs de Microsoft et de l'université Carnegie Mellon. Elle porte sur « l'impact de l'utilisation prolongée de l'IA générative au travail sur la pensée critique et les capacités cognitives ». Elle révèle qu'à mesure que les humains s'appuient sur l'IA générative dans le cadre de leur travail, ils font moins appel à la pensée critique, ce qui peut « entraîner la détérioration de facultés cognitives qui devraient être préservées ».

Lorsque les gens s'appuient sur l'IA générative au travail, ils s'efforcent de vérifier que la réponse fournie par l'IA est suffisamment bonne pour être utilisée, au lieu d'utiliser des compétences de pensée critique d'ordre supérieur telles que la création, l'évaluation et l'analyse d'informations.


Selon l'article, si les humains n'interviennent que lorsque les réponses de l'IA sont insuffisantes, les travailleurs sont privés « d'occasions régulières d'exercer leur jugement et de renforcer leur musculature cognitive, ce qui les atrophie et les rend mal préparés lorsque les exceptions se présentent ».

Plus précisément, lorsque nous comptons trop sur l'IA pour penser à notre place, nous sommes de moins en moins capables de résoudre les problèmes nous-mêmes lorsque l'IA échoue, ce qui soulève des inquiétudes quant à la dépendance à long terme et à la diminution de la résolution indépendante des problèmes.

Selon les chercheurs, les problèmes étaient plus prononcés chez les travailleurs qui avaient davantage confiance en l'IA. « Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA », a déclaré l'équipe de recherche dans son rapport d'étude.

En réponse à ce problème, les chercheurs ont suggéré que Microsoft et d'autres entreprises travaillant dans le domaine de l'IA se concentrent sur « le développement d'outils d'IA en tenant compte de ce problème et en les concevant de manière à motiver les utilisateurs à faire preuve d'esprit critique ».

L'approche utilisée par l'équipe de recherche dans le cadre de son évaluation

L'équipe a recruté 319 personnes qui utilisent l'IA générative au moins une fois par semaine au travail. Ils ont été invités à donner trois exemples de la manière dont ils utilisent l'IA au travail, qui se répartissent en trois catégories principales : création (rédaction d'un courriel à l'intention d'un collègue, par exemple) ; information (recherche sur un sujet ou résumé d'un long article) ; et conseil (établissement d'un tableau à partir de données existantes).

Ensuite, l'équipe a demandé aux participants s'ils pratiquaient des compétences de pensée critique lors de l'exécution de la tâche, et si l'utilisation de l'IA générative les incitait à faire plus ou moins d'efforts pour penser de manière critique. Pour chaque tâche mentionnée, les répondants ont également été invités à indiquer dans quelle mesure ils avaient confiance en eux-mêmes, en l'IA générative et en leur capacité à évaluer les résultats de la machine.

Dans l'ensemble, ces travailleurs ont déclaré que plus ils faisaient confiance à l'IA pour accomplir la tâche, plus ils observaient « la façon dont ils percevaient la pensée critique ». Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA.

Les chercheurs ont également constaté que « les utilisateurs ayant accès aux outils d'IA générative produisent un ensemble moins diversifié de résultats pour la même tâche, par rapport aux utilisateurs qui n'y ont pas accès. Selon les chercheurs, « cette tendance à la convergence reflète un manque de jugement personnel, contextualisé, critique et réfléchi des résultats de l'IA et peut donc être interprétée comme une détérioration de la pensée critique ».

Les chercheurs ont mis en garde contre cette évolution. L'étude a également permis aux chercheurs de relever un certain nombre de conditions peu surprenantes qui incitent les travailleurs à faire preuve de plus ou moins d'esprit critique et à prêter attention à la qualité des résultats de l'IA.

Par exemple, les travailleurs qui se sentaient pressés par le temps utilisaient moins la pensée critique, tandis que les travailleurs dans des « scénarios et lieux de travail à enjeux élevés » qui s'inquiétaient des dommages causés par des résultats défectueux utilisaient davantage la pensée critique.

Cela signifie-t-il que l'utilisation de l'IA générative rend les humains stupides ?

Les résultats de l'étude ont soulevé plusieurs questions. L'utilisation de l'IA est-elle intrinsèquement mauvaise ? Doit-elle être abolie pour empêcher l'atrophie de l'intelligence collective de l'humanité ? C'est une réponse compréhensible aux preuves suggérant que les outils d'IA réduisent l'esprit critique chez les infirmières, les enseignants et les négociants en marchandises, mais le point de vue de l'équipe de recherche n'est pas aussi simple.

Comme ils le soulignent à juste titre, l'humanité a depuis longtemps « l'habitude de décharger les tâches cognitives sur les nouvelles technologies au fur et à mesure de leur apparition, et les gens craignent toujours que ces technologies ne détruisent l'intelligence humaine ».

Par exemple, il y a de fortes chances que vous ne connaissiez par cœur que quelques-uns des numéros de téléphone de votre conjoint, vos parents, vos enfants, vos frères et sœurs ou votre meilleur ami, alors qu'il y a quelques décennies à peine, vous les connaissiez tous et probablement bien plus encore.

Aujourd'hui, votre téléphone conserve toutes ces informations pour vous, et il n'est donc plus nécessaire d'y consacrer de la matière grise. De même, les humains externalisent une plus grande partie de leur matière grise vers les ordinateurs avec la généralisation des outils d'IA générative.

Il est peu probable que vous vous sentiez « stupide » d'avoir externalisé le répertoire téléphonique de votre cerveau vers une liste de contacts numérique, mais le même type d'externalisation pourrait s'avérer dangereux dans un emploi critique où quelqu'un se fie trop aux systèmes d'IA. Cette confiance aveugle pourrait amener l'utilisateur à cesser de faire preuve d'esprit critique et à incorporer de mauvais résultats dans son travail, ce qui est dangereux.

Pour éviter cette situation, les chercheurs suggèrent de développer des outils d'IA en gardant ce problème à l'esprit et de les concevoir de manière à inciter les utilisateurs à faire preuve d'esprit critique. Des études ont précédemment montré que l'engouement pour l'IA conduit à des recherches erronées.

Les chercheurs mettent en garde contre une confiance aveugle dans les outils d'IA

Dans une étude publiée en 2024, des chercheurs de l'université de Princeton suggèrent que l'IA pourrait nuire à l'avenir de la recherche scientifique et limiter l'esprit critique. L'équipe affirme que l'engouement pour l'IA conduit à des recherches erronées qui suscitent un engouement encore plus grand.

Les chercheurs ne comprennent pas toujours comment l'IA obtient ses résultats, mais les publient sans une évaluation approfondie, ce qui participe au battage médiatique sur l'IA. L'équipe dénonce la façon dont certains scientifiques utilisent aujourd'hui l'IA générative dans le cadre de leurs recherches.

Par ailleurs, la question de l'impact de l'IA dans un secteur comme l'éducation revient désormais en boucle. Selon des experts du secteur de l'éducation, l'IA générative a un impact négatif sur les capacités cognitives des étudiants, en faisant tout le travail à leur place. Ils ajoutent que l'IA encourage la tricherie.

Le responsable en ingénierie de développement de JumboCode déclare : « l'intelligence artificielle est un obstacle à l’apprentissage du développement Web ». Cette déclaration intervient après des propos selon lesquels cet apprentissage est même inutile compte tenu de l’accès aux outils d'IA.

Sources : Microsoft, rapport de l'étude (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des conclusions de l'étude ? Sont-elles pertinentes ?
Selon vous, l'avènement de l'IA générative met-il en péril la pensée critique de l'homme ?
L'IA générative peut entraîner la détérioration de facultés cognitives qui devraient être préservées. Qu'en pensez-vous ?

Voir aussi

« Les scientifiques doivent utiliser l'IA comme un outil et non comme un oracle », affirment des chercheurs de l'université de Princeton, selon lesquels l'engouement pour l'IA conduit à des recherches erronées

« L'IA est un obstacle à l'apprentissage du développement Web », d'après un responsable d'équipe opposé à des tiers selon lesquels apprendre à programmer est inutile à cause de l'accès à l'IA

L'IA est pire que l'homme pour résumer l'information dans tous les domaines, selon un essai gouvernemental