Un chercheur français repère l'utilisation illégitime de ChatGPT dans des articles

Des revues du réseau Springer et Elsevier ne liraient absolument pas les articles qu'elles publient

Des articles scientifiques rédigés avec l’aide d’un outil d’intelligence artificielle appelé ChatGPT ont été publiés dans des revues à comité de lecture sans que les auteurs ne déclarent leur utilisation de cet outil. Un chercheur français, Guillaume Cabanac, a repéré des indices laissés par ChatGPT dans les manuscrits, tels que l’expression « Régénérer la réponse ». Il a alerté les éditeurs sur PubPeer, un site web où les scientifiques discutent des recherches publiées. Plusieurs revues ont décidé de rétracter ces articles pour violation de leurs politiques éthiques. Ce phénomène soulève des questions sur la qualité et l’originalité des articles assistés par l’IA, ainsi que sur la capacité des évaluateurs et des logiciels anti-plagiat à les détecter.

Pour de nombreux experts du secteur de la technologie, ChatGPT pourrait changer à jamais l'édition et le journalisme. Ainsi, certains types de journalisme, comme les simples articles de sport et d'affaires, seraient particulièrement sensibles à l'automatisation. ChatGPT pourrait être la technologie numérique la plus importante à avoir un impact sur les éditeurs depuis les années 1980. Le chatbot créé par le laboratoire d'intelligence artificielle (IA) OpenAI peut répondre à des questions complexes et s'appuyer sur des recherches secondaires pour rédiger des textes « originaux ». Si l'information se trouve sur Internet, ChatGPT peut produire du contenu avec.

Le 9 août, la revue Physica Scripta a publié un article qui présentait de nouvelles solutions à une équation mathématique complexe. Mais l’article n’était pas aussi original qu’il semblait, car il contenait une phrase étrange à la troisième page du manuscrit : « Régénérer la réponse ». La phrase étrange correspond à l’étiquette d’un bouton de ChatGPT. Guillaume Cabanac, un chercheur en informatique à l’université de Toulouse, en France, a rapidement détecté cette anomalie et a partagé une capture d’écran de la page sur PubPeer, un site web où les scientifiques discutent des recherches publiées. L’auteur principal de l’article, Abdullahi Yusuf, est affilié à la fois à l’université Biruni d’Istanbul et à la Lebanese American University de Beyrouth.


Kim Eggleton, qui dirige l’évaluation par les pairs et l’intégrité de la recherche chez IOP Publishing, l’éditeur de Physica Scripta à Bristol, au Royaume-Uni, indique que les auteurs ont admis avoir utilisé ChatGPT pour écrire leur manuscrit. L’outil n’a pas été repéré pendant les deux mois de révision par les pairs (l’article a été envoyé en mai et une version corrigée en juillet) ni pendant la mise en page. L’éditeur a choisi de retirer l’article, car les auteurs n’ont pas signalé leur recours à l’outil lors de la soumission. « C’est contraire à nos règles éthiques », a affirmé Eggleton.

Ce n'est pas le seul cas d'un manuscrit assisté par ChatGPT qui se retrouve dans une revue à comité de lecture sans avoir été déclaré. Depuis avril, Cabanac a repéré plus d'une douzaine d'articles de revues contenant les phrases révélatrices de ChatGPT « Régénérer la réponse » ou « En tant que modèle linguistique de l'IA, je... » et les a publiés sur PubPeer.

De nombreux éditeurs, dont Elsevier et Springer Nature, ont déclaré que les auteurs pouvaient utiliser ChatGPT et d'autres grands modèles de langage (LLM) pour les aider à rédiger leurs manuscrits, à condition qu'ils le déclarent. Toutefois, Springer Nature a annoncé en début d’année que ChatGPT, ou tout système similaire de génération de texte, ne peut pas être crédité en tant qu'auteur dans les articles publiés dans ses revues. L'éditeur ne voit aucun problème au fait que l'IA soit utilisée pour aider à rédiger des recherches, mais elle exige que son utilisation soit correctement divulguée.

Un défi pour l’intégrité de la recherche

« Nous nous sommes sentis obligés de clarifier notre position pour nos auteurs, pour nos éditeurs et pour nous-mêmes. Cette nouvelle génération d'outils LLM - y compris ChatGPT - a vraiment explosé dans la communauté, qui est à juste titre enthousiaste et joue avec eux, mais également les utilise d'une façon qui va au-delà de la manière dont ils peuvent véritablement être utilisés à l'heure actuelle », explique à The Verge Magdalena Skipper, rédactrice en chef de la publication phare de Springer Nature, Nature. ChatGPT et les grands modèles de langage précédents ont déjà été cités comme auteurs dans un petit nombre d'articles publiés.

Il faut préciser que la qualité et l’ampleur de l’apport de ces outils dépendent des situations. ChatGPT n’est pas infaillible, et il commet encore de nombreuses fautes élémentaires. Dans un article d’opinion paru dans la revue Oncoscience, ChatGPT a été employé pour défendre l’usage d’un certain médicament en se basant sur le pari de Pascal, le texte produit par l’IA étant clairement signalé.

L'Office britannique de la propriété intellectuelle a annoncé en juin de l'année dernière que les IA ne peuvent pas être mentionnées comme inventeurs sur les brevets. « Pour les inventions conçues par l'IA, nous ne prévoyons aucun changement dans la législation britannique sur les brevets. La plupart des répondants estiment que l'intelligence artificielle n'est pas encore assez avancée pour inventer sans intervention humaine. Mais nous garderons ce domaine du droit à l'étude pour nous assurer que le système de brevets britannique soutient l'innovation en matière d'intelligence artificielle et l'utilisation de l'IA au Royaume-Uni », a déclaré Magdalena Skipper.

La recherche de phrases clés ne révèle que des utilisations naïves et non déclarées de ChatGPT - dans lesquelles les auteurs ont oublié de supprimer les signes révélateurs - de sorte que le nombre d'articles non divulgués évalués par les pairs et générés avec l'aide...