Publier de fausses statistiques pour être cité dans les LLM, Google supprime rapidement le site, mais ChatGPT continue d'en extraire de fausses données

Qui deviennent de véritables citations

Un article a été publié sur LinkedIn le 7 octobre 2026 décrivant une expérience GEO qui s'est déroulée sur sept mois. En mars, l'auteur a généré plus de 50 000 pages à l'aide de GPT-4.1 pour un coût d'environ 50 dollars, remplies de statistiques inventées, et les a mises en ligne sur un site qui ne représente aucune organisation réelle. Le site a attiré plus de 330 domaines référents, des milliers de citations, ainsi que des liens provenant de Shopify, DHL, Bluehost, de banques et de recherches universitaires. Google a désindexé la quasi-totalité de ce contenu au cours du premier mois, mais ChatGPT et d'autres modèles de langage de grande envergure ont continué à le citer pendant sept mois. Il apparaît que ce résultat met en évidence les corpus d'entraînement et de recherche eux-mêmes.

En septembre 2025, le dernier papier scientifique d’OpenAI, Why Language Models Hallucinate, actait une vérité dérangeante : les « hallucinations » des modèles de langage n'étaient pas une anomalie, mais une conséquence incontournable de leur conception. Il convenait alors de revoir les attentes vis-à-vis de ChatGPT et de l’IA générative en général, tout en s'interrogeant sur la possibilité de bâtir des usages critiques sur une technologie structurellement vouée à produire des erreurs.

Un article a été publié sur LinkedIn le 7 octobre 2026 décrivant une expérience GEO qui s’est déroulée sur sept mois. En mars, l'auteur a généré plus de 50 000 pages à l’aide de GPT-4.1 pour un coût d’environ 50 dollars, remplies de statistiques inventées, et les a mises en ligne sur un site qui ne représente aucune organisation réelle. Le site a attiré plus de 330 domaines référents, des milliers de citations, ainsi que des liens provenant de Shopify, DHL, Bluehost, de banques, de publications de grandes entreprises et de recherches universitaires. Il a généré plus de 10 000 sessions ChatGPT vers ses pages. Google a désindexé la quasi-totalité de ce contenu au cours du premier mois. ChatGPT et d’autres modèles de langage de grande envergure (LLM) ont continué à le citer pendant sept mois.

Ce que cela indique au sujet du corpus

Il apparaît que ce résultat met en évidence les corpus d’entraînement et de recherche eux-mêmes. Le classificateur de spam de Google a rapidement traité ce site. Les LLM ont continué à faire apparaître ses chiffres dans les réponses à de vraies questions pendant sept mois, et les publications qui y renvoyaient ont diffusé ces chiffres vers des sources auxquelles un modèle est susceptible de se fier par la suite.

Le même sujet a été abordé dans le podcast « You are what you EEAT », en soulignant l’apparition, dans les résultats de recherche générés par l’IA, de sites de mauvaise qualité contenant du contenu paraphrasé généré par l’IA ; ainsi, un modèle interrogé sur le référencement naturel (SEO) ou la géolocalisation (GEO) renvoie parfois des informations qui ne correspondent pas à la réalité. Cette expérience est un cas documenté illustrant comment ce phénomène se produit à grande échelle.

Avant de tirer des conclusions pour son propre travail

Il convient de vérifier quelles statistiques tierces les pages citent, et si ces sources renvoient à une étude nommée et dotée d’une méthodologie. La même vérification s'impose sur les pages qui les citent, car un modèle suivant une chaîne de citations à deux maillons de distance ne se soucie pas de savoir quel maillon a inventé le chiffre.

Dans le domaine de la recherche par IA, la position durable revient aux sources auxquelles un lecteur attentif ferait confiance : les données primaires collectées, des auteurs nommés, des méthodes qu’un lecteur peut vérifier. Le schéma, la structure de recherche et la distribution ont leur importance, mais aucun de ces éléments ne peut se substituer à cela. Un corpus rempli de chiffres inventés est l’environnement dans lequel chaque professionnel travaille désormais, et la solution consiste à être vérifiablement meilleur que ce corpus plutôt que de se faire entendre plus fort en son sein.

En septembre 2024, une nouvelle étude révélait que les hallucinations de LLM découlaient de leurs structures mathématiques et logiques fondamentales. En augmentant la complexité et la capacité des modèles, il était possible de réduire la fréquence de ces hallucinations, mais il restait impossible de les éliminer complètement. Les chercheurs démontraient dans l'étude que les hallucinations découlaient de la structure mathématique et logique fondamentale des LLM. Leurs analyses s'appuyaient sur la théorie informatique et le premier théorème d'incomplétude de Gödel. En établissant la certitude mathématique des hallucinations, cette étude remettait en question l'idée dominante selon laquelle elles pouvaient être totalement atténuées. Les chercheurs concluaient que les modèles d'IA avaient le potentiel de contribuer grandement au progrès de l'humanité, à condition qu'ils fussent utilisés de manière responsable.

Voici la publication de Peec AI sur l'art de publier des données pour obtenir des citations sur le Web :

Contrairement à Google, ChatGPT n’a jamais cessé de puiser dans ce site

Et quand je dis « n’a jamais cessé », je veux dire que ChatGPT n’a vraiment jamais cessé. Au bout de 7 mois, le site compte désormais plus de 330 domaines référents. Selon Ahrefs et Semrush, le site bénéficie de liens provenant de plus de 330 autres sites. Parmi ceux-ci figurent des marques renommées telles que Shopify, DHL et Bluehost. Avec de meilleures performances sur Google, ces chiffres auraient pu être encore plus impressionnants.


ChatGPT continue de le citer encore aujourd’hui

Google a peut-être oublié ce site, mais ce n’est clairement pas le cas de ChatGPT. Plus de sept mois après son lancement, le site continue de générer des citations et du trafic. Si vous avez lu l’étude de Tomek sur l’index ChatGPT, vous avez de la chance, car c’est une excellente introduction au fonctionnement de la recherche sur ChatGPT. Si ce n’est pas le cas, ajoutez-la dès maintenant à votre liste de lecture, car elle aide à expliquer pourquoi mon site web figure depuis si longtemps dans l’index ChatGPT/OpenAI. Il est surprenant qu’un site web entièrement fictif continue d’afficher d’aussi bons résultats. Depuis mars, GA4 recense plus de 10 000 sessions provenant uniquement de ChatGPT, et Cloudflare indique que le site obtient d’excellents résultats en matière de récupération.


Je n’ai pas inclus les sessions directes dans le nombre total de visites, car il s’agit principalement de trafic généré par des bots. N’oubliez pas la théorie de l’Internet « mort » ! Juste après avoir rejoint Peec en juin 2026, j’ai également mis en place un tableau de bord de visibilité dans notre outil pour suivre quelques requêtes. Leurs performances restent solides. Le 7 octobre, stateglobe.com occupait la deuxième place en termes de visibilité sur ces requêtes, juste derrière Statista, le géant des données.


La recherche n'est pas le classement

Cette recherche constante est la première grande leçon : le classement sur Google et le fait d'être trouvable par un LLM sont deux problèmes distincts. Lorsque ChatGPT effectue une recherche, il ne se contente pas de copier le top 10 de Google. Il réécrit votre requête sous forme de sous-requêtes (appelées « fanout queries »), extrait des résultats de ses sources de recherche et de son propre cache, les reclasse, puis ouvre quelques pages pour étayer la réponse. Une page peut être invisible sur Google et pourtant obtenir de bons résultats à chacune de ces étapes du LLM. StateGlobe en est un bon exemple. Alors que Google l’avait écarté, les robots de recherche de l’IA continuaient de le proposer. Pour GEO, cela signifie que les classements Google ne constituent qu’un indicateur parmi d’autres, et non une vision d’ensemble.

Des données fictives transformées en véritables citations

On pourrait s’attendre à ce que, si un site donne de bons résultats avec des outils de recherche d’informations, ses informations commencent à apparaître un peu partout. Et on aurait raison. StateGlobe a été entièrement construit à partir de données fictives, en utilisant le modèle le moins cher disponible et une consigne qui n’était rien de plus qu’une liste de pays et de thèmes, accompagnée de deux phrases. Néanmoins, le résultat a été cité dans un article universitaire utilisé dans le cadre de l'analyse financière par le plus grand groupe financier du Qatar cité par une publication économique en Inde et a servi de source dans un rapport de recherche rédigé par une communauté d'influenceurs canadiens.


Une conséquence dérangeante : le « blanchiment de citations »

Au départ, un chiffre fantaisiste publié sur StateGlobe n’avait aucune crédibilité. Il s’agissait d’une statistique aléatoire sur un tout nouveau domaine. Puis un article universitaire l’a cité. Ensuite, une banque. Désormais, la prochaine personne, ou le prochain modèle, qui tombe sur ce chiffre voit une statistique accompagnée d’une source. Et cette source est citée par des institutions sérieuses. Ces fausses données ne sont certes pas devenues vraies, mais chaque citation les a rendues plus crédibles.

La situation risque de s’aggraver : après tant de consultations et de citations, ces pages se retrouvent dans les indexations web, et celles-ci finissent dans les données d’entraînement (j’espère que ce n’est pas le cas !). Un chiffre qui n’était au départ qu’une supposition de GPT-4.1 peut devenir quelque chose que le prochain modèle « sait ». Cela met en évidence le risque plus large que suggère cette expérience, et c’est pourquoi je partage ces résultats à titre de recherche, et non comme un guide pratique pour créer du contenu factice. La vérification des sources devrait devenir une étape essentielle du processus de travail des rédacteurs et des chercheurs.

Source : Peec AI, sur son blog

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Détecter les hallucinations dans les grands modèles de langage à l'aide de l'entropie sémantique, les LLM tels que ChatGPT peuvent raisonner et répondre aux questions, mais "hallucinent" souvent

L'hallucination est inévitable et serait une limitation innée des grands modèles de langage en intelligence artificielle, selon une étude sur la possibilité d'éliminer les hallucinations des LLM

Les grands modèles de langage confabulent, ils n'hallucinent pas, d'après Beren Millidge, responsable de la recherche IA chez Conjecture