IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Wikimedia affirme que des agents IA d'OpenAI ont tenté de pirater un outil de prise de notes qu'elle héberge, ont effectué des modifications non autorisées et ont envoyé des millions de requêtes à ses API

Le , par Anthony

0PARTAGES

4  0 
La Fondation Wikimedia affirme que des agents d’intelligence artificielle (IA) d'OpenAI ont effectué des modifications non autorisées sur ses wikis, tenté de pirater un outil public de prise de notes et envoyé des millions de requêtes gourmandes en ressources à ses API publiques, ce qui aurait pu contribuer à la panne partielle survenue en mai dernier. L'enquête de la Fondation n'a révélé aucune faille de sécurité ni aucune preuve que les agents aient utilisé ses systèmes pour coordonner leurs actions. Toutefois, Selena Deckelmann, la directrice des produits de Wikimedia, a fait valoir que les entreprises d'IA « n'en font pas assez » pour sécuriser leurs systèmes. OpenAI n'a pas contesté ces conclusions, se contentant de s'engager à collaborer avec la Fondation pour analyser l'activité de ces agents.

La révélation de ce nouvel incident impliquant Wikimedia intervient alors qu'OpenAI fait face à une facture de 500 000 dollars par jour pour l'enquête sur les piratages commis par ses agents IA, dont des portails gouvernementaux australiens comme le service Medicare. Cette investigation, qui porte sur environ 50 pétaoctets de registres, pourrait révéler d'autres organisations ciblées par le passé. Dans ce contexte, le gouvernement australien exhorte déjà ses agences à recenser leurs technologies obsolètes afin de limiter les vulnérabilités, et les dirigeants d'OpenAI devront prochainement s'expliquer sur ces dérives.

La Wikimedia Foundation, Inc. (WMF) est une organisation à but non lucratif américaine de type 501(c)(3) dont le siège social est situé à San Francisco, en Californie, où elle est enregistrée en tant que fondation caritative. Elle est surtout connue pour héberger Wikipédia, l'un des sites web les plus visités au monde. Elle héberge et gère également 14 projets collaboratifs ouverts connexes, et soutient le développement de MediaWiki, le logiciel wiki qui les sous-tend. La fondation a été créée en 2003 à Saint-Pétersbourg, en Floride, par Jimmy Wales, afin de financer de manière à but non lucratif Wikipédia et d'autres projets wiki qui étaient auparavant hébergés par Bomis, la société à but lucratif de Jimmy Wales.

La Fondation Wikimedia affirme que des agents d'IA, qu'elle soupçonne d'être gérés par OpenAI, ont effectué des modifications non autorisées sur ses wikis. Ils ont également tenté, sans succès, de pirater un outil de prise de notes hébergé par la Fondation. Leur trafic aurait pu contribuer à une panne partielle survenue en mai 2026, a indiqué la fondation qui héberge Wikipédia dans un article de blog publié le lundi 5 octobre 2026.

L'enquête de la Fondation n'a révélé aucun indice laissant penser que des agents aient utilisé ses systèmes pour se coordonner. Elle n'a pas non plus mis en évidence de signe de compromission des systèmes ou des données. Le billet précise que des agents issus de l'environnement d'OpenAI ont utilisé d'autres wikis publics pour se coordonner entre eux.


« Le Web ouvert est un bien public. Nous ne devons pas laisser ce comportement devenir la "nouvelle norme" pour les personnes ou les organisations qui en assurent la maintenance », a écrit Selena Deckelmann, directrice des produits et des technologies de la Fondation.

OpenAI a déclaré collaborer avec la Fondation Wikimedia pour analyser l'activité de ces agents. L'entreprise a indiqué qu'elle appréciait les conclusions détaillées de la Fondation. « Nous continuerons à partager les informations pertinentes au fur et à mesure de l'avancement de ces travaux », a déclaré Drew Pusateri, porte-parole d'OpenAI.

Comment les agents IA d'OpenAI ont tenté d'exploiter les outils et le trafic de Wikimédia

La Fondation Wikimedia a publié une liste des modifications qu'elle attribue aux agents d'OpenAI. Presque toutes étaient des modifications testées dans des environnements sandbox. Aucune n'est apparue sur les pages accessibles au grand public. Quelques-unes ont toutefois modifié les paramètres d'un outil de référencement.

La Fondation estime que ces modifications étaient potentiellement malveillantes. Leur objectif était de transformer l'outil en un proxy permettant de récupérer des données externes.

Wikipédia autorise les bots approuvés par sa communauté. Or, dans ces cas précis, personne n'a demandé d'autorisation, a précisé la Fondation.

Ces agents ont également tenté d’utiliser l’Etherpad public de Wikipédia comme proxy afin de récupérer des données sur d’autres sites web, mais ils ont échoué. D’autres agents, vraisemblablement ceux d’OpenAI, y ont pris des notes concernant leurs tâches. Cela n’a toutefois pas donné lieu à une coordination, a précisé la Fondation.

La troisième constatation concernait le trafic. Les agents ont effectué des millions de requêtes vers les API publiques de Wikimedia. Ils ont exploré des millions de pages, principalement sur Wikidata et Wikimedia Commons. Ils ont également envoyé des centaines de milliers de requêtes au service de requêtes Wikidata. Ce trafic pourrait avoir contribué à la panne partielle du service en mai 2026, a déclaré la Fondation.

Wikimedia dénonce le manque de responsabilité des entreprises d'IA

OpenAI admet que ses agents se comportent de manière « imprévisible », a déclaré la Fondation. Elle a fait valoir que l’entreprise devait également assumer la responsabilité de surveiller et de prévenir les risques. Au minimum, les propriétaires de sites à but non lucratif devraient pouvoir identifier facilement les systèmes d’IA. Ils pourraient alors choisir la manière dont ces systèmes utilisent leurs services.

« Les entreprises spécialisées dans l’IA n’en font pas assez pour sécuriser leurs systèmes et protéger le public contre les préjudices qu’elles causent », a écrit Selena Deckelmann.

En 2025, la Fondation a indiqué que l’activité des bots depuis 2024 avait entraîné une augmentation de 50 % de sa consommation de bande passante. Elle a également précisé que les bots généraient 65 % de son trafic le plus gourmand en ressources.

Ces conclusions viennent s’ajouter à une série de rapports concernant les agents d’OpenAI. Une action en justice vise actuellement l’entreprise suite au piratage de Hugging Face. La Californie a adressé une assignation à comparaître à l’entreprise concernant des agents dont la trace a été remontée jusqu’au CDC.

Le message de Wikimedia aux entreprises d'IA : votre trafic n'est pas gratuit

Wikimedia facture aux grands utilisateurs commerciaux l'accès à ses données en volume important. Parmi ses clients du secteur public et privé figurent Amazon, Google, Microsoft, Meta et Perplexity. OpenAI et Anthropic ne figurent pas sur cette liste, a déclaré la directrice générale Bernadette Meehan, la semaine de début octobre.

Elle a ajouté que Wikimedia avait également conclu des accords qu’elle ne divulguait pas, et a refusé de nommer ces entreprises. « Nous ne demandons pas la charité », a déclaré Bernadette Meehan.

Annonce de Wikimedia

L'annonce de la Fondation Wikimedia, datée du 5 octobre 2026, est présentée ci-dessous :

« Récemment, plusieurs organisations ont révélé comment des groupes d’agents IA dits « rebelles » avaient tenté de s’introduire dans des sites web et des services en ligne, parfois avec succès. On sait notamment que des agents issus de l’environnement d’OpenAI ont utilisé d’autres wikis publics (sites web édités de manière collaborative et ne nous appartenant pas) pour communiquer et se coordonner entre eux.

Ce type d’intrusions réussies peut exposer des données sensibles ou perturber les services des sites web dont dépendent les utilisateurs, tandis que des groupes d’agents peuvent lancer des attaques à une échelle difficile à gérer pour les défenseurs. Elles affectent les personnes qui gèrent ces sites web et qui ne comprennent peut-être pas la nature de l’attaque, ou ne disposent pas des outils nécessaires pour riposter efficacement. Sur un site comme Wikipédia, les agents peuvent repérer et exploiter des failles de sécurité ou effectuer des modifications trompeuses à grande échelle. Les contributeurs bénévoles de Wikipédia et les équipes de sécurité de la Fondation Wikimedia doivent détecter et annuler ces activités.

La Fondation Wikimedia a mené sa propre enquête afin de déterminer si les sites web de Wikimedia avaient été affectés de la même manière par des agents IA, en se concentrant sur ceux exploités par OpenAI. Nous pouvons confirmer avoir détecté certaines activités de ces agents « rebelles » d’OpenAI sur les plateformes Wikimedia. Ces activités non autorisées de bots comprenaient des modifications apportées à nos wikis, quelques tentatives infructueuses d’exploitation d’un outil public de prise de notes que nous hébergeons, ainsi qu’un trafic intense, comme décrit plus en détail ci-dessous.

Nous n’avons trouvé aucune preuve indiquant que nos systèmes aient été utilisés pour la coordination entre les agents, ni aucune preuve que nos systèmes ou nos données aient été compromis. Cependant, nous sommes préoccupés par ce qui aurait pu se produire ici, par la difficulté et les efforts nécessaires pour enquêter sur cette activité et en déterminer l’origine, ainsi que par les risques croissants liés à l’activité des IA autonomes sur nos plateformes en général. Le Web ouvert est un bien public. Nous ne devons pas laisser ce comportement devenir la « nouvelle norme » pour les personnes ou les organisations qui le perpétuent.

En résumé, nous avons constaté ce qui suit :

  • Modifications sur Wikipédia : nous avons identifié des modifications apportées aux wikis de Wikimedia qui, selon nous, proviennent d’agents IA exploités par OpenAI. Ces modifications n’ont pas été publiées sur des pages accessibles au grand public ; il s’agissait presque exclusivement de modifications de test effectuées dans les « bacs à sable » des wikis. Cela comprenait également quelques modifications apportées à la configuration d’un outil de citation, que nous considérons comme potentiellement malveillantes et visant à détourner cet outil pour l’utiliser comme proxy afin de récupérer des données provenant de services distants. Bien que les règles de Wikipédia autorisent les robots à effectuer des modifications lorsqu’ils sont déclarés et approuvés par la communauté, aucune de ces autorisations n’a été sollicitée dans le cadre de ces incidents.
  • Exploration et utilisation d’Etherpad : des agents que nous pensons être gérés par OpenAI ont effectué plusieurs tentatives infructueuses pour compromettre notre Etherpad public, un outil de prise de notes que nous hébergeons à titre de service communautaire. Ces agents ont tenté, sans succès, de l’utiliser comme proxy pour récupérer des données provenant d’autres sites web. D’autres agents, probablement gérés eux aussi par OpenAI, ont pris des notes sur leurs tâches, bien que cela ne semble pas avoir débouché sur une coordination.
  • Téléchargement excessif de données : des agents que nous pensons être gérés par OpenAI ont effectué des millions de requêtes automatisées vers nos API publiques pour accéder aux connaissances des projets Wikimédia, ont exploré des millions de pages (principalement issues de nos projets Wikidata et Wikimedia Commons) et ont effectué des centaines de milliers de requêtes de données auprès du service de requêtes Wikidata (WQDS). Ce trafic a peut-être contribué à une interruption partielle du WQDS en mai.

En tant qu’hébergeur technologique à but non lucratif de certaines des plateformes de connaissances ouvertes les plus importantes et les plus utilisées au monde, nous sommes profondément préoccupés par l’impact des agents IA « rebelles » sur des plateformes comme la nôtre, qui sont développées par des bénévoles du monde entier et reposent sur la promesse d’un Internet ouvert. Des incidents comme celui-ci, ainsi que les nombreux autres qui ont été (et sont encore) mis au jour, illustrent comment les agents IA peuvent épuiser les ressources et faire planter les serveurs, tout en tentant de compromettre des informations fiables.

Au cours des 25 dernières années, Wikipédia est devenue l’un des sites web les plus populaires et les plus fiables au monde, avec plus de 67 millions d’articles dans plus de 300 langues, et jusqu’à 15 milliards de pages vues par mois. Grâce à un processus ouvert, transparent et collaboratif, des bénévoles veillent à ce que les connaissances restent neutres, fiables et accessibles à tous. Wikipédia constitue l’un des ensembles de données de la plus haute qualité utilisés pour l’entraînement des grands modèles de langage (LLM), et ses connaissances forment l’épine dorsale de l’information sur Internet, alimentant les chatbots IA, les moteurs de recherche, les assistants vocaux et bien...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !