Le scandale de la fausse science chez Wiley a récemment fait les gros titres, mettant en lumière une crise de confiance plus large que les universités doivent affronter. Wiley, un éditeur de revues académiques, a fermé 19 revues scientifiques et retiré plus de 11 000 articles douteux. Cette affaire révèle un marché noir florissant de la fausse science, de la recherche corrompue et de l’auteur fictif.John Wiley & Sons Inc. est un éditeur de revues universitaires. La société, mieux connue sous le nom de Wiley, est cotée à la Bourse de New York (NYSE) et produit chaque année plus de 1 400 publications scientifiques et autres dans le monde entier. L'année dernière, elle a réalisé un chiffre d'affaires de plus de 2 milliards de dollars américains.
Wiley évolue sur le marché circulaire de l'édition scientifique. Les chercheurs qui écrivent pour ces revues, et les universitaires qui les éditent, font ce travail en grande partie gratuitement. Ils sont subventionnés par les mêmes universités qui paient également des sommes importantes pour acheter les revues en question. Cette industrie, dont la valeur est estimée à 45 milliards de dollars, est soutenue par d'énormes quantités d'argent du contribuable.
De fait, les éditeurs de revues scientifiques ne financent pas l’activité de recherche, pas plus qu’ils ne rétribuent les auteurs. Les scientifiques sont payés par les structures qui les emploient et le budget de la recherche est principalement supporté par l’État. Même l’étape de la « relecture par les pairs », phase essentielle au cours de laquelle des scientifiques contrôlent la pertinence et la rigueur d’une recherche avant publication, ne coûte rien aux éditeurs : les « pairs » travaillent pour les revues sur la base du volontariat.
Les universités produisent la recherche… et paient ensuite des sommes colossales pour accéder aux publications. Les dépenses pour les publications scientifiques ont augmenté de 48 % entre 2018 et 2020 en France, selon une étude réalisée par la coopérative Datactivist, spécialisée dans l’étude des données publiques, et commandée par le ministère de la recherche. Ainsi, en 2020, le montant pour frais de publication atteignait 30,1 millions d’euros. Si l’on y ajoute le prix des abonnements aux revues scientifiques, la somme atteint 117,6 millions d’euros.
Les ravages de l'IA générative
En décembre 2023, Wiley a annoncé qu'il cesserait d'utiliser la marque Hindawi, acquise en 2021, à la suite de sa décision, en mai 2023, de fermer quatre de ses revues « pour atténuer la manipulation systématique du processus de publication ».
Il s'est avéré que les revues d'Hindawi publiaient des articles provenant d'usines à articles, c'est-à-dire d'organisations ou de groupes d'individus qui tentent de subvertir le processus de publication universitaire à des fins de gain financier. Au cours des deux dernières années, un porte-parole de Wiley a déclaré que l'éditeur avait retiré plus de 11 300 articles de son portefeuille Hindawi.
« Dans le cadre de la lutte contre la manipulation systématique du processus de publication, Hindawi a fermé aujourd'hui quatre revues qui ont été fortement compromises par des usines à articles. Il s'agit de Computational and Mathematical Methods in Medicine, Journal of Healthcare Engineering, Journal of Environmental and Public Health et Computational Intelligence and Neuroscience. En outre, nous nous engageons à poursuivre notre travail de rétractation du contenu compromis de ces revues malgré leur fermeture.
« L'abandon de ces revues n'est pas une décision que nous avons prise à la légère. Ces revues ont publié des numéros spéciaux qui ont été tellement affectés que nous pensons qu'il est dans l'intérêt de la communauté scientifique de les supprimer. Nous savons que ces revues ont fait l'objet d'efforts considérables et nous apprécions tous les rédacteurs en chef et les pairs évaluateurs qui ont consacré du temps et de l'expertise à l'évaluation de recherches légitimes au fil des ans. Nous reconnaissons également l'impact sur les auteurs qui ont publié des recherches légitimes dans ces revues. Tous les articles hébergés dans Web of Science resteront entièrement indexés et nous nous engageons à continuer d'héberger tout le contenu publié sur les sites web des revues archivées ».
Comme le décrit un livre blanc rédigé par Wiley et publié en décembre dernier, Tackling publication manipulation at scale : Hindawi's journey and lessons for academic publishing, les usines à articles s'appuient sur diverses pratiques contraires à l'éthique, telles que l'utilisation de l'IA dans la fabrication de manuscrits et la manipulation d'images, ainsi que le détournement du processus d'évaluation par les pairs.
L'affaire Hindawi a coïncidé avec le départ du président-directeur général de Wiley, Brian Napack, en octobre 2023. Dans son rapport sur les résultats du deuxième trimestre 2024 en décembre dernier, Wiley a admis que la baisse de 18 millions de dollars de son chiffre d'affaires dans le domaine de l'édition de recherche était « principalement due à l'interruption de l'édition de Hindawi ».
En janvier, Wiley a adhéré à United2Act, une initiative de l'industrie visant à lutter contre les usines à articles.
Mais l'inquiétude concernant l'intégrité de la recherche universitaire ne se limite pas aux publications de Wiley
Une étude publiée dans Nature en juillet dernier suggère qu'un quart des essais cliniques sont problématiques ou entièrement fabriqués.
Toutefois, les éditeurs universitaires semblent vouloir bénéficier des avantages de l'assistance à la rédaction par l'IA sans en subir les inconvénients. Springer Nature, par exemple, a lancé en octobre dernier Curie, un assistant d'écriture doté d'IA destiné à aider les scientifiques dont la langue maternelle n'est pas l'anglais. D'où les appels à de meilleurs outils pour détecter les résultats génératifs de l'IA - un appel auquel répondent les efforts récents pour améliorer le filigrane du contenu de l'IA - qui, selon certains chercheurs, ne fonctionnera pas.
Un porte-parole de Wiley a expliqué que la décision de fermer les 19 revues s'inscrivait dans le cadre du plan déjà annoncé d'intégration des portefeuilles de Hindawi et de Wiley, et qu'elle était distincte de la question de l'usine à articles. « Dans le cadre de cette intégration, et conformément à la pratique habituelle, nous avons examiné notre portefeuille de revues et décidé de fermer 19 revues Hindawi qui n'étaient plus utiles à leurs communautés », a déclaré le porte-parole.
« Il est important de faire la distinction entre les fermetures de revues qui ont lieu actuellement dans le cadre de l'intégration de notre portefeuille et les quatre revues fermées en mai 2023. Les revues fermées en mai 2023 ont été fortement touchées par les usines à articles, à tel point qu'il était dans le meilleur intérêt de la communauté scientifique de les arrêter immédiatement. »
Parallèlement, dans le rapport sur les résultats de Wiley pour le troisième trimestre fiscal 2024, l'éditeur a noté que les revenus de sa division d'apprentissage devraient se situer vers le haut des projections en raison des « accords de droits de contenu du quatrième trimestre pour la formation des modèles d'IA. »
La disponibilité et la sophistication croissantes de l'IA générative n'est pas le seul facteur contribuant à la crise de l'édition universitaire, mais les outils d'IA facilitent la falsification.
« L'industrie reconnaît que l'IA est utilisée par les usines à articles pour générer du contenu frauduleux », nous a dit le porte-parole de Wiley. « Nous avons récemment introduit une nouvelle technologie de filtrage qui permet d'identifier les articles susceptibles de faire un usage abusif de l'IA générative avant le stade de la publication.
Selon un document de prépublication publié en février, le volume d'articles soumis à ArXiv a considérablement augmenté dans les trois principales catégories entre 2019 et 2023 - une période qui coïncide à peu près avec les débuts d'outils tels que ChatGPT. Les articles sur l'informatique ont augmenté de 200 % au cours de ces quatre années, suivis par les articles sur la physique (45 %) et les mathématiques (22 %).
L'IA à toutes les sauces : les chercheurs en IA ont commencé à évaluer leurs pairs avec l'aide de l'IA
Les chercheurs en intelligence artificielle ont commencé à utiliser l'assistance de l'IA pour évaluer le travail de leurs pairs. C'est le constat qui ressort d'une étude menée par un groupe de chercheurs provenant de plusieurs institutions de renom. Ces derniers ont analysé les évaluations par les pairs d'articles soumis à des conférences importantes en intelligence artificielle. Leur étude, motivée par l'essor des grands modèles de langage et la difficulté croissante à distinguer le texte généré par des humains de celui généré par des machines, souligne l'importance de développer des moyens d'évaluer le contenu rédigé par l'IA.
Ils ont constaté que l'utilisation d'adjectifs dans les évaluations peut permettre de distinguer le travail assisté par l'IA de celui rédigé entièrement par des humains. Environ 6,5 % à 16,9 % des évaluations par les pairs pourraient avoir été substantiellement modifiées par des modèles de langage, selon leurs résultats. Les chercheurs mettent en garde contre le manque de transparence dans l'utilisation de l'IA pour la rédaction scientifique et soulignent les risques d'homogénéisation des retours d'IA, qui pourraient éloigner les évaluations significatives des experts.
Un comportement potentiel dangereux
Les chercheurs sont avertis de ne pas recourir à l'intelligence artificielle pour évaluer les articles universitaires, mettant ainsi en péril l'intégrité du processus d'évaluation par les pairs. Bien que les progrès des grands modèles de langage rendent tentante l'utilisation de l'IA pour rédiger des évaluations, cela compromettrait le contrôle de qualité inhérent à l'évaluation par les pairs. Pour remédier à cette situation, les principales conférences sur l'IA envisagent de mettre à jour leurs politiques pour interdire explicitement l'utilisation de l'IA dans ce contexte.
Les éditeurs universitaires soulignent que l'évaluation par les pairs doit rester une tâche humaine, car les connaissances et l'expertise des pairs sont irremplaçables pour garantir l'intégrité et la qualité de la recherche. Cependant, malgré les avertissements, de plus en plus de chercheurs ont recours à l'IA pour réviser leurs articles, sous la pression des délais et de la charge de travail. Certains soutiennent que l'IA pourrait améliorer la productivité des chercheurs, mais d'autres soulignent le risque de dégradation du processus de recherche et de la confiance du public dans le monde universitaire.
Conclusion
Ce scandale met en évidence la nécessité pour les universités et les éditeurs de revues scientifiques de renforcer la confiance dans le processus de publication. La vigilance contre la fausse science et la recherche corrompue reste essentielle pour préserver l’intégrité de la recherche scientifique.
Sources : étude réalisée par la coopérative Datactivist, Wiley (1, 2, 3, 4), Hindawi, Analyse quantitative des textes générés par l'IA dans la recherche universitaire : une étude de la présence de l'IA dans les soumissions Arxiv à l'aide d'un outil de détection de l'IA, La médecine est en proie à des essais cliniques peu fiables. Combien d'études sont fausses ou erronées ?
Et vous ?
Quelle est la responsabilité des éditeurs de revues scientifiques dans la détection et la prévention de la fausse science ? Les éditeurs ont-ils suffisamment de mécanismes en place pour vérifier l’intégrité des articles soumis ? Comment pourraient-ils améliorer leurs processus de sélection et de révision ? Quelles sont les conséquences pour la confiance dans la recherche scientifique ? Comment ce scandale affecte-t-il la perception du grand public vis-à-vis de la science ? Quelles mesures peuvent être prises pour restaurer la confiance ? Quel rôle jouent les universités dans la prévention de la fausse science ? Devraient-elles revoir leurs politiques de publication et de financement ? Comment peuvent-elles sensibiliser leurs chercheurs à l’importance de l’intégrité scientifique ? Quelles sont les implications pour les chercheurs et les étudiants ? Comment les chercheurs peuvent-ils se protéger contre la publication dans des revues douteuses ? Quelles compétences en littératie scientifique devraient être enseignées aux étudiants ? 
