Les articles scientifiques frauduleux sont en forte augmentation : les "usines à articles" permettant la fraude scientifique à grande échelle sont des entités importantes, résistantes et en pleine expansion

Les articles scientifiques frauduleux sont en forte augmentation : les "usines à articles" permettant la fraude scientifique à grande échelle sont des entités importantes, résistantes et en pleine expansion

Selon une nouvelle étude publiée dans les Proceedings of the National Academy of Sciences (PNAS), des recherches scientifiques frauduleuses sont désormais produites et publiées à grande échelle, certains chercheurs et éditeurs peu scrupuleux s'associant pour obtenir le prestige associé à la publication. De nombreux groupes d'éditeurs et d'auteurs semblent ainsi avoir coopéré dans ce que l'étude qualifie de « vague de science frauduleuse ».

Cette recrudescence des travaux frauduleux coïncide avec une prolifération des articles scientifiques falsifiés générés par l'intelligence artificielle (IA) sur des plateformes telles que Google Scholar. Les chercheurs spécialisés dans la désinformation signalent que des modèles de langage tels que GPT sont utilisés pour créer des recherches falsifiées qui imitent de manière convaincante des études légitimes. Facilement accessibles via les moteurs de recherche universitaires, ces articles fabriqués de toutes pièces menacent l'intégrité et la fiabilité de la recherche académique.

Dans le cadre de leurs récents travaux, les chercheurs qui ont mené l'étude publiée dans PNAS ont obtenu environ 47 000 articles rétractés. Ils ont recueilli des rapports sur la même image utilisée dans plusieurs publications. Ils ont compilé 33 000 articles d'origine suspecte. Tirant parti du fait que les noms des rédacteurs en chef sont publics chez certains éditeurs scientifiques, ils ont cherché à savoir si certains rédacteurs en chef traitaient un nombre disproportionné d'articles scientifiques problématiques, qui ont ensuite été rétractés ou signalés négativement par d'autres scientifiques.

Dans la revue PLOS One, les chercheurs ont pu relier 30,2 % des articles rétractés à 45 éditeurs. Parmi ces éditeurs, 25 ont vu leurs propres articles rétractés. Les 45 éditeurs représentaient 0,25 % du nombre total d'éditeurs de la revue.

David Knutson, responsable de la communication chez PLOS, a déclaré dans un communiqué que, comme d'autres éditeurs, PLOS avait constaté une augmentation des cas de fabrication de publications et d'atteinte à l'intégrité de l'évaluation par les pairs depuis 2021. En ce qui concerne les rédacteurs en chef, il a déclaré : « Dès qu'un comportement éditorial préoccupant est détecté, tous les articles qu'ils ont traités précédemment ou qu'ils traitent actuellement font l'objet d'une enquête de notre part. »


Les chercheurs ont également découvert des groupes d'articles acceptés en moins d'un mois, impliquant souvent les mêmes rédacteurs en chef et auteurs.

« Ils ont découvert des cas où des personnes avaient soumis des articles qui avaient été acceptés extrêmement rapidement, et quand on regardait les éditeurs, on voyait qu'ils se les envoyaient simplement entre eux », a déclaré Luís Amaral, biologiste des systèmes à l'université Northwestern et auteur senior de l'étude.

« Certaines personnes pensent qu'il s'agit d'une fraude généralisée », a déclaré Reese Richardson, chercheur postdoctoral au laboratoire Amaral de Northwestern et auteur principal de l'étude. « Cet article propose une méthode, un point de départ et des données qui montrent que ce phénomène existe bel et bien, et que les mécanismes actuels ne sont pas en mesure de l'empêcher. »

Les conclusions de l'étude confirment les soupçons de nombreux chercheurs, dont Elisabeth Bik, microbiologiste et consultante indépendante en intégrité scientifique qui a passé des années à identifier les recherches frauduleuses.

Dans un cas, la chercheuse a trouvé 125 articles qui réutilisaient des parties de la même image. « C'était la même photo, mais avec des recadrages différents », a-t-elle déclaré. « Ils n'ont pas généré les photos eux-mêmes. Ils les ont obtenues auprès d'un tiers, un courtier, une usine à articles scientifiques. »

Les chercheurs utilisent le terme « usine à articles » pour décrire les organisations qui vendent des articles de recherche fabriqués en série, de mauvaise qualité et inventés de toutes pièces.

Selon Elisabeth Bik, bon nombre de ces articles frauduleux semblent provenir de médecins ou de chercheurs issus de pays où les promotions sont liées aux indicateurs de publication. Ils considèrent cela comme un investissement, explique-t-elle : quelques milliers de dollars leur permettent d'obtenir un article et de gravir rapidement les échelons de la promotion.

Cette pression institutionnelle est particulièrement courante en Inde et en Chine, où les promotions, les licences médicales ou l'obtention du diplôme sont liées par la politique au nombre de publications, ont déclaré plusieurs experts. Dans une enquête menée il y a trois ans auprès de médecins résidents en Chine, 47 % ont admis avoir acheté et vendu des articles, laissé d'autres personnes rédiger des articles ou rédigé des articles pour d'autres. Lorsque les auteurs de l'étude ont analysé les archives d'articles d'une entreprise proposant des services aux « professionnels de la recherche désespérés » de publier, ils ont constaté que 26 % des auteurs étaient originaires d'Inde.

Bien que la culture du « publier ou périr » soit également courante aux États-Unis, elle se manifeste davantage par des attentes en matière de prestige, de financement et de titularisation, plutôt que par des quotas fixes.

L'Inde et la Chine sont les pays les plus peuplés au monde et tous deux sont des puissances scientifiques. L'article souligne que la fraude scientifique peut se produire partout.

L'accumulation de publications frauduleuses a transformé certains domaines scientifiques, comme la biologie de l'ARN, en ce que Reese Richardson appelle un « champ de mines » académique, rendant difficile pour les chercheurs d'identifier les études fiables. Certaines études frauduleuses ont même été intégrées dans des méta-analyses qui influencent la manière dont les médecins traitent leurs patients. Ils ont trouvé des preuves que ce domaine de recherche a été la cible d'acteurs malveillants.

Les experts affirment que la prise de conscience croissante de la fraude pourrait alimenter un scepticisme plus général à l'égard de la science, en particulier si les institutions ne prennent pas les mesures qui s'imposent.

« Plus les archives sont polluées, plus il est difficile de les nettoyer et plus il est difficile de rétablir la confiance au sein et en dehors de la communauté scientifique », a déclaré Stephanie Kinnan, membre de longue date du Comité sur l'éthique de la publication (COPE).

La communauté scientifique dispose d'outils pour riposter. Elle inflige des amendes et exclut les chercheurs et les universités. Les revues retirent les articles. Les agrégateurs peuvent mettre à l'écart les revues problématiques. Mais les auteurs de l'article ont constaté que le nombre de « recherches » provenant de fabriques à articles suspectes doublait environ tous les 18 mois. Les mesures prises ne suivent pas le rythme.

Pour Luís Amaral, comme pour de nombreux autres scientifiques, les implications sont profondément personnelles. « Je rêvais d'être scientifique depuis l'âge de 12 ans », a-t-il déclaré. « Voir ce dont j'ai rêvé de faire partie, ce que je chéris, potentiellement détruit, est vraiment révoltant. »

Toute recherche s'appuie sur des recherches antérieures, a expliqué Luís Amaral. Sans confiance, tout cela s'effondre. « C'est la grande crainte : que toute l'entreprise scientifique qui nous a donné les vaccins, les médicaments contre le cancer, les appareils à rayons X, les scanners informatiques, disparaisse tout simplement », a-t-il déclaré.


Selon les auteurs de l'étude, la concurrence pour obtenir des financements et des emplois limités pousse les scientifiques et les organisations qui les emploient à s'efforcer continuellement d'accroître leur envergure, leur efficacité, leur impact et la croissance des indicateurs qui servent à les évaluer. Cependant, si un groupe restreint de nations, d'organisations et d'individus au sommet de l'entreprise scientifique ont accès aux ressources nécessaires à une telle croissance extraordinaire, ce n'est pas le cas de la plupart d'entre eux, selon les chercheurs.

L'étude indique que le sentiment d'injustice est associé à des comportements répréhensibles dans le domaine de la recherche et que le manque d'opportunités et de formation est souvent cité comme facteur de mauvaise conduite. Ainsi, l'inégalité croissante dans l'accès aux ressources pourrait contribuer à l'augmentation de l'ampleur de la fraude scientifique.

Cependant, comme le soulignent les auteurs, même lorsqu'on dispose de ressources, la recherche reste une activité à haut risque : « on ne sait pas a priori si une étude sera couronnée de succès ou non. Pourquoi risquer l'échec, compromettre sa carrière, alors que pour un coût relativement faible, on peut facilement acquérir les publications et les citations qui, autrement, nécessiteraient une quantité immense de travail ? »

Selon les chercheurs qui ont mené l'étude, les discussions avec différentes parties prenantes suggèrent que beaucoup considèrent actuellement la fraude scientifique systématique comme un phénomène qui ne touche que la périphérie de la « véritable » entreprise scientifique, c'est-à-dire en dehors des pays de l'OCDE. Cependant, des preuves de plus en plus nombreuses montrent que la production systématique de science frauduleuse et de mauvaise qualité peut se produire partout. De plus, comme le notent les chercheurs, les grands éditeurs nord-américains et européens et les rédacteurs en chef qu'ils nomment confèrent une crédibilité à ces pratiques. L'impact de ces pratiques est donc susceptible d'être ressenti de manière beaucoup plus immédiate et forte dans les pays où l'activité scientifique est encore balbutiante, mais il ne se limite en aucun cas à ces pays.

Les auteurs indiquent que les tendances qu'ils ont exposé laissent présager de graves risques pour l'entreprise scientifique. Selon eux :

• De grands groupes d'éditeurs et d'auteurs semblent avoir coopéré pour faciliter la fraude à la publication.
• Les réseaux d'articles frauduleux liés entre eux suggèrent une production à l'échelle industrielle.
• Les organisations qui vendent des services de tricherie contractuelle anticipent et contrent la désindexation et d'autres interventions des agrégateurs de littérature.
• La littérature dans certains domaines pourrait déjà avoir été irrémédiablement endommagée par la fraude.
• L'ampleur des activités de fraude scientifique dépasse déjà la portée des mesures punitives actuelles destinées à prévenir la fraude.

L'étude révèle en outre que les mesures punitives actuellement mises en œuvre ne permettent pas de lutter contre la vague de fraude scientifique. Selon les chercheurs, d'une part, les articles publiés dans des revues désindexées continuent de faire partie des archives de la littérature scientifique dans certains agrégateurs de littérature. D'autre part, les rétractations sont encore relativement rares, bien en deçà de ce que l'on pourrait raisonnablement attendre pour des articles clairement frauduleux.

La recherche montre que seuls 8 589 des 29 956 articles suspects du corpus de l'étude qui ont une entrée correspondante dans OpenAlex ont été rétractés (28,7 %). En extrapolant à partir des tendances actuelles, « seulement environ 25 % des articles suspects provenant d'usines à articles seront retirés et seulement environ 10 % des articles suspects provenant d'usines à articles seront publiés dans une revue désindexée. » Collectivement, ces résultats montrent que l'intégrité des données scientifiques existantes et futures est compromise par les lacunes des systèmes mêmes grâce auxquels les scientifiques évaluent la fiabilité des travaux de leurs pairs.

Changer la culture et les incitations dans le domaine scientifique est un processus lent. Bon nombre des parties prenantes dont l'engagement est nécessaire pour opérer ce changement sont celles qui bénéficient du statu quo. Cependant, selon les chercheurs qui ont mené l'étude, la gravité de la situation exige une action urgente. « Les efforts de responsabilisation visant à identifier les défections (sur lesquels repose l'étude) ont été menés par des individus courageux mais isolés. Certaines ont été accusées d'autodéfense et écartées, d'autres ont été menacées de poursuites judiciaires. » Les chercheurs appellent ainsi à créer un système plus robuste et plus systématique, dans lequel il serait plus difficile d'écarter ou d'intimider ceux qui fournissent des preuves de fraude.

Avant tout, « il est nécessaire de séparer les différentes tâches requises par un système de responsabilisation équitable : détection, enquête et sanction », selon les auteurs. « Chacune de ces tâches doit être retirée des mains des parties susceptibles d'être en situation de conflit d'intérêts. »

L'étude montre que les rédacteurs en chef de revues ont reçu des paiements substantiels pour la publication rapide de manuscrits sélectionnés, et une action éditoriale coordonnée a été mise en place dans le but d'augmenter le facteur d'impact des revues. De même, les instituts de recherche se trouvent en situation de conflit d'intérêts lorsqu'ils enquêtent sur leurs propres scientifiques. De plus, les chercheurs estiment que la détection à l'échelle requise par le problème ne peut être laissée à un petit nombre de bénévoles isolés. Elle nécessite des ressources, tant humaines que technologiques, à la mesure de la menace. À tout le moins, des recherches beaucoup plus approfondies sont nécessaires pour caractériser les diverses entités qui régissent la fraude scientifique systématique et pour développer un vocabulaire unifié et complet permettant de les décrire.

Selon les auteurs, l'un des principaux défis réside dans l'absence d'un cadre complet pour les types de comportements que ont été signalés dans l'étude. Les comportements contraires à l'éthique dans le domaine scientifique sont souvent considérés comme un défaut de caractère individuel, et non comme quelque chose qui est perpétré, facilité et encouragé par un groupe d'individus et d'entités. Même la définition d'un terme désormais courant tel que « usine à articles » reste floue, précisent les auteurs. « Certaines des organisations que nous décrivons pourraient être mieux caractérisées comme des « courtiers » plutôt que comme des usines à articles. Nous ne pouvons pas non plus déterminer si nos observations sont dues à l'implication de fabriques à articles commerciaux ou si elles résultent de réseaux de pairs moins formels fonctionnant sur une base non commerciale (comme cela pourrait être le cas parmi certains des rédacteurs en chef que nous signalons). »

Cette complexité est la raison pour laquelle les chercheurs proposent d'utiliser le concept de défection issu de la théorie des jeux. « Nous pensons que cette perspective est utile, car elle permet d'appréhender certains comportements non pas en termes d'éthique, mais en termes de rationalité. Cependant, le terme « défection » implique un passage d'un comportement normatif à un comportement non normatif. Pour de nombreux médecins en formation et scientifiques en herbe, adopter un comportement de défection peut être la nouvelle norme. »

Les chercheurs qui ont mené l'étude précisent finalement l'importance de souligner explicitement le risque que représente la fraude scientifique à grande échelle pour les approches de pointe émergentes. « Les « scientifiques automatiques » et les grands modèles de langage promettent tous deux d'aider à synthétiser les connaissances contenues dans la littérature scientifique à l'intention des scientifiques et du grand public. Cependant, ces approches ne sont pas encore en mesure de distinguer la science de qualité de la science de mauvaise qualité ou frauduleuse, et cette tâche devient d'autant plus difficile que le nombre de publications scientifiques frauduleuses augmente. »

La vague croissante de science frauduleuse dénoncée par l'étude n'est pas une tendance isolée. Un rapport de l'université du Surrey a averti que les « usines à articles » alimentées par l'IA exploitent des ensembles de données ouverts tels que NHANES pour produire en masse des études biaisées sur des questions de santé complexes. Depuis 2021, cette pratique a connu une forte augmentation, submergeant même les revues à comité de lecture et mettant en péril l'intégrité du processus d'évaluation par les pairs.

Le cas de l'éditeur de revues académiques Wiley illustre l'ampleur du problème. Dans un geste décisif, Wiley a fermé 19 revues et retiré plus de 11 000 articles suspects, dont beaucoup avaient été produits à l'aide de l'IA. Ces révélations ont mis au jour un marché noir florissant de la fausse science, de la recherche corrompue et de l’auteur fictif. Pour les universités et la communauté scientifique au sens large, cette affaire souligne la nécessité urgente de renforcer l'éthique et la transparence de la recherche avant que la confiance du public ne s'érode davantage.

Source : Etude publiée dans Proceedings of the National Academy of Sciences (PNAS)

Et vous ?

Quelle lecture faites-vous de cette situation ?
Trouvez-vous les conclusions de cette étude crédibles ou pertinentes ?

Voir aussi :

Une vaste étude détecte les empreintes de l'IA dans des millions d'articles scientifiques, avec un risque accru de biais, en fonction des instructions génératives que les auteurs ont fourni aux chatbots

L'IA est-elle le nouveau chercheur scientifique ? Ce n'est pas le cas, selon une étude où l'IA générative ne s'est montrée compétente qu'à certaines étapes de la rédaction d'article de recherche

Les chercheurs sont mis en garde contre l'utilisation de l'IA pour l'évaluation par les pairs des articles universitaires, mettant ainsi en péril l'intégrité du processus d'évaluation par les pairs