Wikipédia a interdit les textes générés par l'IA, après avoir été confrontée à des faits erronés, des citations invérifiables, des perturbations dans la collaboration et des exemples d'échecs liés à l'IA

Wikipédia, l'encyclopédie en ligne tant appréciée, débat depuis un certain temps sur la manière de gérer l'utilisation des grands modèles de langage (LLM) dans ses articles. Désormais, cette pratique est officiellement interdite, à l'exception de quelques cas particuliers dans le cadre de la révision et de la traduction. Après de longs débats, la nouvelle politique est entrée en vigueur : les auteurs de Wikipédia ne sont pas autorisés à utiliser les LLM pour générer ou réécrire le contenu des articles. Il existe toutefois deux exceptions principales. Premièrement, les contributeurs peuvent utiliser les LLM pour suggérer des améliorations à leurs propres textes, à condition que l'exactitude des modifications soit vérifiée. La deuxième exception concernant les LLM concerne l’aide à la traduction.

Wikipédia est une encyclopédie en ligne gratuite rédigée et mise à jour par une communauté de bénévoles grâce à une collaboration ouverte et au logiciel wiki MediaWiki. Fondée par Jimmy Wales et Larry Sanger en 2001, Wikipédia est hébergée depuis 2003 par la Fondation Wikimedia, une organisation américaine à but non lucratif financée principalement par les dons des lecteurs. Wikipédia est l'ouvrage de référence le plus volumineux et le plus lu de l'histoire.

En mai 2025, la Fondation Wikimedia a annoncé utiliser l'IA pour rationaliser les opérations et améliorer l'expérience de l'utilisateur sur Wikipédia. « Nous utiliserons l'IA pour créer des fonctionnalités qui éliminent les obstacles techniques afin de permettre aux personnes qui sont au cœur de Wikipédia de consacrer leur temps précieux à ce qu'ils veulent accomplir, et non à la manière d'y parvenir techniquement. » La Fondation Wikimedia prévoyait d'utiliser l'IA pour automatiser les tâches fastidieuses, améliorer la recherche d'informations, faciliter les traductions et aider à l'intégration des nouveaux bénévoles.

Cependant, dans une annonce récente, la Fondation Wikimedia semble changer d'avis. Wikipédia, l'encyclopédie en ligne tant appréciée, débat depuis un certain temps sur la manière de gérer l'utilisation des grands modèles de langage (LLM) dans ses articles. Désormais, cette pratique est officiellement interdite, à l'exception de quelques cas particuliers dans le cadre de la révision et de la traduction.

L'administrateur de Wikipédia Chaotic Enby a expliqué dans la proposition initiale : « Les propositions antérieures visant à établir une ligne directrice communautaire immédiate et exhaustive sur les LLM ont échoué en raison des difficultés habituelles liées au traitement simultané de problèmes complexes et de grande envergure : les contributeurs, même ceux qui approuvaient globalement les objectifs de ces propositions, ont relevé des problèmes spécifiques dans certaines parties et ont critiqué le fait qu'elles étaient trop vagues ou trop précises. Un consensus existait sur l'idée du changement, mais pas sur sa mise en œuvre. »


Après de longs débats, la nouvelle politique est entrée en vigueur : les auteurs de Wikipédia ne sont pas autorisés à utiliser les LLM pour générer ou réécrire le contenu des articles. Il existe toutefois deux exceptions principales.

Premièrement, les contributeurs peuvent utiliser les LLM pour suggérer des améliorations à leurs propres textes, à condition que l'exactitude des modifications soit vérifiée. En d'autres termes, ces outils sont traités comme n'importe quel autre correcteur grammatical ou outil d'aide à la rédaction. La politique stipule : « Les LLM peuvent aller au-delà de ce que vous leur demandez et modifier le sens du texte de telle sorte qu’il ne soit plus étayé par les sources citées. »

La deuxième exception concernant les LLM concerne l’aide à la traduction. Les contributeurs peuvent utiliser des outils d’IA pour une première traduction du texte, mais ils doivent tout de même maîtriser suffisamment les deux langues pour repérer les erreurs. Comme pour les améliorations rédactionnelles habituelles, toute personne utilisant des LLM doit également vérifier qu’aucune information erronée n’a été introduite.

Il est important de noter que cette politique s'applique uniquement à Wikipédia en anglais (en.wikipedia.org). Chaque site Wikipédia dispose de ses propres règles et équipes de rédaction indépendantes, et d'autres sites peuvent décider d'adopter des règles différentes. Par exemple, Wikipédia en espagnol (es.wikipedia.org) interdit actuellement l'utilisation des LLM pour créer de nouveaux articles Wikipédia à partir de zéro ou pour développer des entrées existantes, sans exception spécifique pour la traduction ou l'aide à la rédaction.

Malheureusement, l'identification des textes rédigés à l'aide de LLM reste une science imparfaite, de sorte que certains textes de mauvaise qualité générés par l'IA peuvent encore apparaître sur des pages moins fréquemment modérées. Wikipédia propose quelques conseils pour repérer les textes générés par des LLM, mais la page de la politique précise également que « certains contributeurs peuvent avoir des styles d'écriture similaires à ceux des LLM ».

Ces problèmes représentent une partie des défis posés par l'IA. En avril 2025, la Fondation Wikimedia avait soulevé un autre problème. La fondation a annoncé que le scraping incessant de l'IA mettait à rude épreuve les serveurs de Wikipédia. Des robots automatisés à la recherche de données d'entraînement de modèles d'IA pour des LLM ont aspiré des téraoctets de données, augmentant de 50 % la bande passante utilisée par la fondation pour télécharger des contenus multimédias depuis janvier 2024. Cette croissance exponentielle du trafic non humain a imposé des coûts techniques et financiers considérables, souvent sans l'attribution qui aide à soutenir l'écosystème bénévole de Wikimedia.

Puis en octobre 2025, Wikipédia a alerté sur l'impact de l'IA sur la plateforme : l'encyclopédie en ligne est confrontée à une baisse significative du trafic humain. De plus en plus d'internautes obtiennent les informations contenues dans Wikipédia via des chatbots d'IA générative tels que ChatGPT et Gemini. Les chatbots répondent directement, en s’appuyant sur les contenus existants, sans rediriger vers les créateurs. L'IA ruine le trafic et le modèle économique des sites Web, tout en transformant la toile en une immense base de contenus recyclés par des bots, sans originalité. La Fondation Wikimédia affirme que cela représente un risque pour la viabilité à long terme de Wikipédia.

Source : Wikipedia:Writing articles with large language models

Voici la traduction d'un essai humoristique qui montre la justesse de cette décision :

Wikipédia : Arguments contre les articles générés par les grands modèles de langage (LLM)

À l'ère des grands modèles de langage (LLM) tels que ChatGPT, il peut être tentant d'utiliser ces outils pour générer rapidement des articles Wikipédia. Leur style fluide et leur rapidité de production constituent un raccourci séduisant. Cependant, la communauté des contributeurs de Wikipédia s'oppose massivement à ce que les LLM rédigent notre contenu. La raison est simple : ces textes générés par l'IA menacent les principes fondamentaux qui font la fiabilité de Wikipédia. Nous avons constaté que demander à un LLM d’« écrire un article Wikipédia » peut aboutir à de pures inventions, accompagnées de références fictives. Des inexactitudes factuelles que les lecteurs pourraient ne jamais repérer aux citations qui ne mènent nulle part, le contenu créé par les LLM présente des risques que Wikipédia ne peut se permettre. Cet essai expose les préoccupations profondes de la communauté – inexactitudes factuelles et hallucinations, sources invérifiables et fausses citations, atteinte au modèle d'édition collaborative et érosion à long terme de l'intégrité du contenu – et soutient que Wikipédia doit rester un projet mené par des humains et fondé sur une vérité vérifiable.


Études de cas et défaillances hypothétiques

Les risques abstraits liés au contenu généré par l'IA apparaissent clairement lorsqu'on examine des exemples concrets. Ces dernières années, les contributeurs de Wikipédia ont mis au jour de nombreux cas où du contenu rédigé par l'IA s'était glissé sur le site, avec des conséquences problématiques. Voici quelques exemples illustrant comment un texte généré par un modèle de langage (LLM) peut se révéler désastreux :

- La forteresse imaginaire : un article de 2 000 mots sur une forteresse ottomane qui n’a jamais existé est apparu sur Wikipédia, accompagné de détails historiques et de citations élaborés. Ils étaient presque aussi détaillés que, peut-être, cet essai. Il s'est avéré qu'il s'agissait d'un canular généré par l'IA. Les références citées semblaient savantes mais étaient frauduleuses, étayant un récit entièrement inventé par un modèle linguistique. Il a fallu des contributeurs expérimentés pour se rendre compte que tout le sujet était inventé. Cet article canular, resté en ligne sans être vérifié, aurait pu induire les lecteurs en erreur et même être cité ailleurs comme un fait avéré. Il n'a été repéré que lorsque l'équipe du WikiProject AI Cleanup a remarqué la cohérence artificielle du texte et l'absence de sources authentiques.

- La confusion autour du coléoptère : dans un autre cas, un éditeur a ajouté un paragraphe en apparence anodin sur une espèce de coléoptère, Estola albosignata, accompagné de quelques citations en ligne – rien d’inhabituel à première vue. Pourtant, l’une de ces citations renvoyait à un article sans rapport, traitant d’un sujet totalement différent. Après enquête, il est apparu clairement que ce paragraphe était une fausse information générée par l'IA. L'IA avait probablement trouvé une source traitant d'un autre sujet et l'avait erronément associée à l'article sur le coléoptère. Ici, le contenu était subtilement erroné (les caractéristiques du coléoptère étaient incorrectes) et la source ne correspondait pas – une erreur plus subtile qu’un canular flagrant, mais potentiellement encore plus difficile à détecter. Cela nous rappelle que les résultats générés par l’IA peuvent s’écarter de la réalité de manière insidieuse, et sans une vérification minutieuse des faits par des humains, de telles erreurs pourraient persister pendant des mois.

- Brouillons promotionnels et biaisés : Des études ont montré que certains articles générés par l'IA ont été utilisés pour promouvoir des agendas. Par exemple, une analyse réalisée en 2024 par l'université de Princeton a révélé qu'environ 5 % des nouveaux articles publiés au cours d'un mois donné présentaient des signes de création par l'IA, certains d'entre eux ayant été rédigés pour promouvoir des entreprises ou d'autres intérêts. Lors de discussions communautaires, les contributeurs ont noté que ces brouillons ressemblaient souvent à des publireportages ou à des discours partisans – des textes qui respectaient superficiellement les directives de Wikipédia dans la forme, mais pas dans l'esprit. Un scénario hypothétique que nous redoutons est celui d'un LLM produisant en masse des articles élogieux pour une entreprise ou une idéologie, chacun mélangeant des faits à un langage promotionnel subtil. Les réviseurs bénévoles doivent alors les identifier et les supprimer, un jeu fastidieux de « tape-la-tête » pour préserver la neutralité. La communauté a en effet constaté des cas d’utilisateurs bannis employant l’IA pour mener des guerres d’édition ou insérer des biais (par exemple, une tentative de fausser des articles sur l’histoire nationale). Avec l’IA, un seul acteur malveillant pourrait générer des centaines d’entrées biaisées de ce type en peu de temps, dépassant de loin la capacité humaine à réagir.

- La fausse biographie : imaginez un scénario (tout à fait plausible) où un brouillon généré par l'IA est créé pour une personnalité publique relativement obscure – disons un politicien local ou un universitaire. L'article pourrait sembler bien structuré et même inclure des références pour étayer ses affirmations. Cependant, après un examen plus approfondi, il pourrait énumérer des récompenses que la personne n'a jamais reçues ou citer des déclarations qu'elle n'a jamais faites. Les citations fournies pourraient sembler fiables mais être totalement inexistantes – par exemple, une fausse « interview du Smithsonian Magazine, 2022 » et un « profil du Journal of Urban Politics, 2021 » inventé de toutes pièces. Dans un élan de bonne foi, un autre contributeur pourrait initialement accepter l'article, en supposant que les citations sont vérifiées. Cette biographie fictive pourrait rester en ligne pendant des jours, voire des semaines, diffusant de fausses informations sur une personne réelle, ce qui est absolument inacceptable. Ce n'est que plus tard, lorsque quelqu'un tenterait de vérifier une affirmation, que le château de cartes s'effondrerait. Cette hypothèse illustre le cauchemar que Wikipédia veut éviter à tout prix : un mélange des faits et de la fiction sous le vernis d'un article correctement référencé.


Ces cas et ces expériences de pensée mettent en évidence les raisons pour lesquelles la communauté a réagi si vivement contre les contenus générés par l'IA. Le canular de la « forteresse » a été supprimé selon les critères de suppression rapide dès qu'il a été identifié, ce qui a suscité des appels à un renforcement des contrôles. En effet, en 2025, Wikipédia en anglais a mis à jour sa politique de suppression pour permettre la suppression immédiate des pages générées par des modèles de langage (LLM) n'ayant pas fait l'objet d'une révision humaine. De même, la détection d'articles biaisés rédigés par l'IA a conduit à des patrouilles plus rigoureuses des nouveaux articles et à un examen minutieux des sources. Lorsque la Fondation Wikimedia a testé un outil d'IA appelé « Simple Article Summaries » (Résumés d'articles simples), qui faisait exactement ce que son nom suggérait, la réaction de la communauté a été rapide et négative : les contributeurs ont qualifié cette initiative d'« idée épouvantable » susceptible d'éroder la confiance, compte tenu de la tendance de l'IA à se tromper et à produire des hallucinations. Un article d'Ars Technica a cité la réaction...