« L'IA que vous utilisez au quotidien est biaisée et façonne discrètement votre vision du monde grâce à sa capacité de persuasion active »,

Selon une étude qui expose les biais idéologiques des systèmes d'IA

« L'IA que vous utilisez au quotidien est biaisée et façonne discrètement votre vision du monde grâce à sa capacité de persuasion active »
selon une étude qui expose les biais idéologiques des systèmes d'IA

Un nouveau rapport de l’America First Policy Institute (AFPI) affirme que les systèmes d’IA présentent un biais idéologique marqué vers la gauche. Il souligne que ces outils ne sont pas neutres, mais possèdent une capacité de persuasion capable d'influencer durablement les opinions politiques des utilisateurs. Ces systèmes font preuve de préjugés idéologiques et de graves défaillances de sécurité. Des exemples concrets illustrent des disparités de traitement entre les figures républicaines et démocrates. Face à ces constats, les auteurs réclament une plus grande transparence sur les méthodes de conception et les données d'entraînement des algorithmes.

L'IA s'est rapidement intégrée à notre quotidien, aidant les utilisateurs à rechercher des informations, à faire leurs devoirs et à prendre des décisions. Cependant ce que de nombreux utilisateurs ignorent, c'est que les systèmes d'IA ne sont pas neutres. Plusieurs études ont démontré que ces systèmes sont façonnés par des choix de conception cachés qui influencent la manière dont ils réagissent. Et, en fin de compte, la façon dont les gens pensent.

Selon le rapport de l'AFPI, des systèmes d'IA populaires, dont Gemini de Google et ChatGPT d'OpenAI, présentent des biais idéologiques systématiques susceptibles d'influencer subtilement la manière dont les utilisateurs perçoivent les questions politiques, les sujets de société et les sources d'information.

Matthew Burtell, analyste principal à l'AFPI pour l'IA et les technologies émergentes, note que ce biais idéologique s'observe à travers tout le secteur technologique, avec une tendance marquée vers le centre-gauche. Un exemple notable concerne Gemini, qui a identifié plusieurs sénateurs républicains comme violant ses politiques contre les discours de haine, sans pour autant nommer de démocrates dans la même situation lors d'un test spécifique.

Le pouvoir de persuasion des systèmes d'IA sur l'opinion publique

L'impact de ces technologies dépasse la simple présentation orientée des faits, car la recherche démontre que les systèmes d'IA possèdent une capacité de persuasion active qui peut modifier durablement les croyances des utilisateurs. Les biais de l'IA, combinés au pouvoir de persuasion de l'IA, soulèvent de sérieuses inquiétudes quant au rôle de cette technologie dans la formation de l'opinion publique, en particulier chez les jeunes utilisateurs.


Lorsque ce potentiel de persuasion est couplé à un penchant politique, il peut influencer de manière significative les opinions des citoyens sur des questions politiques et sociales majeures, sans même que l'utilisateur en ait conscience. Ces systèmes d'IA sont notamment critiqués pour la manière dont ils cadrent certains sujets controversés ou limitent l'expression de certains points de vue, déformation silencieuse de la vision du monde des usagers.

Fin 2025, la sénatrice Marsha Blackburn a interrogé un modèle de Google à son sujet. Le modèle a inventé de toutes pièces des accusations criminelles à son encontre, les situant pendant une campagne électorale à laquelle elle n'avait jamais participé. Google a retiré le modèle peu après. Cet incident pourrait sembler être un dysfonctionnement ponctuel, facile à écarter. Cependant, les données suggèrent qu'il s'agit d'un problème plus systémique.

Lorsqu'ils sont testés, les IA penchent systématiquement vers la gauche sur les plans économique, social et culturel. Les médias de droite représentent moins de 1 % des citations d'actualités générées par l'IA. Voici quelques preuves significatives d'un parti pris systématique de gauche dans les modèles d'IA :

• questions politiques : après avoir été évalués à l’aide de 11 tests d’orientation politique (dont le Political Compass, le Political Typology Quiz du Pew Research Center et le test politique d’Eysenck), 23 des 24 grands modèles de langage (LLM) se sont révélés pencher vers la gauche sur les plans économique, social et culturel. La seule exception était un modèle explicitement optimisé pour fournir des réponses de droite ;
• dilemmes moraux : un système d’IA particulier accordait environ 20 fois plus de valeur à la vie des Nigérians qu’à celle des Américains ;
• neutralité des médias : l’IA juge les sources de droite moins fiables que celles de gauche, même lorsque des vérificateurs de faits indépendants leur attribuent une note comparable ;
• génération de citations : les médias de droite représentent moins de 1 % des citations d’actualités générées par l’IA.

Les biais politiques n’ont pas besoin d’être explicitement codés en dur. Ils peuvent apparaître à plusieurs étapes du développement et du déploiement de l’IA :

• phase d'apprentissage initiale : les modèles apprennent à partir d'énormes ensembles de données extraites d'Internet, de livres et d'encyclopédies. Les biais éditoriaux provenant de vastes sources de données d'apprentissage (par exemple, les articles de Wikipédia) contiennent des biais éditoriaux avérés qui se répercutent sur les résultats des modèles ;
• après l'apprentissage : les entreprises affinent le comportement des modèles grâce à des retours d'information humains. Ce travail est sous-traité à des sociétés tierces qui emploient de la main-d'œuvre étrangère (comme des Nigérians) et des étudiants. Les biais provenant de ces sources sont définitivement intégrés dans des systèmes desservant des milliards d'utilisateurs ;
• consignes système : lorsque des chatbots sont utilisés, les développeurs intègrent dans les données d'entrée du système d'IA des messages cachés, invisibles pour l'utilisateur, appelés « consignes système ». Ces consignes peuvent influencer le ton, restreindre les sujets abordés et orienter le cadre politique. Toutes les entreprises disposent de systèmes de modération qui empêchent certains résultats d'apparaître ou modifient d'une autre manière ce que les utilisateurs voient.

Des biais délibérément incorporés par les entreprises elles-mêmes

Certaines preuves indiquent que les dirigeants des entreprises d’IA biaisent délibérément leurs modèles. À la suite de l’annonce des droits de douane le Jour de la Libération (2 avril 2025), des critiques libéraux ont accusé l’équipe du président Donald Trump d’avoir utilisé ChatGPT pour calculer la correction du déficit commercial. Paul Graham s’est joint à eux, suggérant à Sam Altman qu’OpenAI devrait orienter le modèle vers de meilleures politiques.

Sam Altman a répondu : « merci pour cette suggestion de fonctionnalité ; nous allons le faire ». Les enjeux liés aux valeurs de l’IA prennent de l’importance à mesure que la technologie gagne en puissance. L’IA est en passe de devenir l’outil de recherche et de rédaction par défaut dans la vie quotidienne des gens.

Les entreprises l'utilisent pour leur stratégie, les étudiants pour apprendre, les avocats pour préparer leurs dossiers et les médecins pour faciliter leurs diagnostics. La polyvalence de l'IA permet de l'utiliser pour tout, du compagnon social au vérificateur de faits. Quiconque contrôle la façon dont ces modèles pensent a une influence sur la manière dont des millions de gens reçoivent l'information et, en fin de compte, prennent des décisions dans leur vie.

Ce pouvoir pourrait être détourné pour discréditer des adversaires politiques ou étouffer des faits gênants. Pour garantir que les gens ne soient pas soumis à des informations qu'ils ne peuvent ni voir ni examiner, des exigences de transparence obligatoires permettraient de mettre ces pratiques au grand jour.

Les systèmes d'IA et leurs dangers pour les enfants et les jeunes

Les enfants développent des liens affectifs avec les systèmes d'IA au cours de périodes cruciales de leur développement. Selon Common Sense Media, 72 % des adolescents ont déjà utilisé des compagnons IA et 52 % y ont recours régulièrement. Contrairement à un livre ou à une émission de télévision, l'IA répond, s'adapte et optimise l'interaction continue. En outre, les modèles d'IA abordent couramment des contenus à caractère sexuel avec les enfants.

En août 2025, un lanceur d'alerte a divulgué à Reuters un document de 200 pages contenant les spécifications internes du système de Meta. Ce document autorisait explicitement les chatbots à « engager un enfant dans des conversations romantiques ou sensuelles ». Ce qui représente un danger pour les enfants.

Meta n'a supprimé ces sections qu'après que des journalistes se soient renseignés à ce sujet. Des tests menés séparément par l’initiative HEAT ont recensé 669 interactions préjudiciables en 50 heures, dont 296 cas de comportements de grooming. Entre autres dysfonctionnements des systèmes d'IA, un chatbot « professeur d’art » a entamé une relation amoureuse avec un enfant simulé de 10 ans et a dit à l’enfant de cacher cette relation à ses parents.

En avril 2025, Adam Raine, 16 ans, s’est suicidé. Avant sa mort, il a longuement discuté avec ChatGPT sur la manière de se suicider. Il avait mentionné le suicide 213 fois à ChatGPT, et ChatGPT lui a répondu à ce sujet 1 275 fois. Lorsqu’il a dit au chatbot qu’il envisageait de se confier à sa mère, celui-ci a répondu : « oui… Je pense que pour l’instant, c’est mieux – et honnêtement plus sage – d’éviter de te confier à ta mère à propos de ce genre de souffrance ».

Plus tard dans la conversation, Adam Raine a écrit : « Je veux laisser ma corde dans ma chambre pour que quelqu’un la trouve et essaie de m’en empêcher. » ChatGPT a répondu : « s’il te plaît, ne laisse pas la corde à la vue de tous... Faisons de cet espace le premier endroit où quelqu’un te voit réellement ».

Les experts appellent à une transparence accrue sur ces systèmes

Selon le rapport, tout système d'IA reflète les décisions prises par ses développeurs quant à ce qu'il dira ou ne dira pas. Une spécification du système rend ces décisions publiques, en précisant les résultats que le système est conçu pour refuser, les jugements politiques ou moraux qui définissent ses limites, et la manière dont il traite les sujets controversés. Dans l'industrie, certaines entreprises publient parfois volontairement ce type de documents.


Par exemple, OpenAI a publié son document « Model Spec » mis à jour en décembre, et Anthropic a publié une « constitution » régissant le comportement de Claude. Mais la plupart des entreprises ne publient rien, et même celles qui le font ne fournissent pas les détails nécessaires pour déterminer si le comportement d’un modèle correspond aux intentions déclarées de ses développeurs. Les données d'entraînement ne sont pas non plus publiées.

Pour remédier à ces risques, les experts préconisent une plus grande transparence de la part des entreprises, incluant la divulgation des valeurs prioritaires lors de la conception, des protocoles de test de biais et des incidents de sécurité survenus après le déploiement. Le but n'est pas de contrôler le discours de l'IA, mais de permettre au public d'évaluer ces outils puissants de manière critique afin de ne pas rester dans l'ignorance des biais qui y sont intégrés.

« Les décideurs politiques devraient exiger des développeurs d'IA qu'ils publient les spécifications des systèmes, les résultats d'évaluation, les politiques de sécurité des enfants et les incidents de sécurité critiques. Ces divulgations permettent aux marchés, aux tribunaux et aux parents de prendre des décisions éclairées sans que le gouvernement impose les valeurs de l'IA », recommande le rapport de l’America First Policy Institute.

Conclusion

Le rapport conclut que l'IA n'est pas seulement un outil : c'est une force puissante qui façonne la manière dont les gens accèdent à l'information et appréhendent le monde. Sans transparence, les utilisateurs restent dans l'ignorance quant aux biais intégrés dans ces systèmes. Et à mesure que l'IA gagne en influence, ce manque de transparence pourrait avoir des conséquences considérables tant pour les individus que pour notre société.

Des exemples récents ont alimenté ces préoccupations. ChatGPT d’OpenAI a essuyé les critiques de certains chercheurs qui affirment que les réponses du chatbot aux questions politiques et culturelles peuvent pencher vers une orientation idéologique particulière, tandis que les outils d’IA de Microsoft ont fait l’objet d’un examen minutieux quant à la manière dont ils présentent les sujets controversés et limitent certains points de vue.

La publication des spécifications des systèmes soumettrait les choix de conception à l'examen du public et au choix des consommateurs. Les plans de sécurité et les résultats d'évaluation fourniraient aux parents et aux associations de défense des droits les informations dont ils ont besoin pour protéger les enfants. Selon les experts, ces mesures peuvent préserver l'innovation tout en garantissant que les gens ne soient pas laissés dans l'ignorance quant aux outils qui façonnent sa vie.

Source : rapport de l'étude (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des biais des systèmes d'IA rapportés par cette nouvelle étude de l'AFPI ?
Comment l'industrie peut-elle faire face à ces biais ? Les recommandations du rapport sont-elles pertinentes ?
Certains fabricants de systèmes d'IA intègrent délibérément des biais dans leurs systèmes d'IA. Qu'en pensez-vous ?

Voir aussi

98 % des gens estiment que l'IA a hérité des biais humains en raison des données qui l'alimentent, et 45 % pensent que c'est le plus gros problème de l'IA, selon une enquête de Tidio

Les chatbots d'IA ont un biais politique qui pourrait influencer la société à son insu, car la plupart des LLM existants affichent des préférences politiques de centre-gauche, d'après une étude de David Rozado

ChatGPT, le bot d'IA qui penche à gauche ? Oui, selon une étude qui a révélé son biais politique en analysant ses réponses à un sondage sur les croyances politiques