Un nouveau rapport de l’America First Policy Institute (AFPI) affirme que les systèmes d’IA présentent un biais idéologique marqué vers la gauche. Il souligne que ces outils ne sont pas neutres, mais possèdent une capacité de persuasion capable d'influencer durablement les opinions politiques des utilisateurs. Ces systèmes font preuve de préjugés idéologiques et de graves défaillances de sécurité. Des exemples concrets illustrent des disparités de traitement entre les figures républicaines et démocrates. Face à ces constats, les auteurs réclament une plus grande transparence sur les méthodes de conception et les données d'entraînement des algorithmes.L'IA s'est rapidement intégrée à notre quotidien, aidant les utilisateurs à rechercher des informations, à faire leurs devoirs et à prendre des décisions. Cependant ce que de nombreux utilisateurs ignorent, c'est que les systèmes d'IA ne sont pas neutres. Plusieurs études ont démontré que ces systèmes sont façonnés par des choix de conception cachés qui influencent la manière dont ils réagissent. Et, en fin de compte, la façon dont les gens pensent.
Selon le rapport de l'AFPI, des systèmes d'IA populaires, dont Gemini de Google et ChatGPT d'OpenAI, présentent des biais idéologiques systématiques susceptibles d'influencer subtilement la manière dont les utilisateurs perçoivent les questions politiques, les sujets de société et les sources d'information.
Matthew Burtell, analyste principal à l'AFPI pour l'IA et les technologies émergentes, note que ce biais idéologique s'observe à travers tout le secteur technologique, avec une tendance marquée vers le centre-gauche. Un exemple notable concerne Gemini, qui a identifié plusieurs sénateurs républicains comme violant ses politiques contre les discours de haine, sans pour autant nommer de démocrates dans la même situation lors d'un test spécifique.
Le pouvoir de persuasion des systèmes d'IA sur l'opinion publique
L'impact de ces technologies dépasse la simple présentation orientée des faits, car la recherche démontre que les systèmes d'IA possèdent une capacité de persuasion active qui peut modifier durablement les croyances des utilisateurs. Les biais de l'IA, combinés au pouvoir de persuasion de l'IA, soulèvent de sérieuses inquiétudes quant au rôle de cette technologie dans la formation de l'opinion publique, en particulier chez les jeunes utilisateurs.
Lorsque ce potentiel de persuasion est couplé à un penchant politique, il peut influencer de manière significative les opinions des citoyens sur des questions politiques et sociales majeures, sans même que l'utilisateur en ait conscience. Ces systèmes d'IA sont notamment critiqués pour la manière dont ils cadrent certains sujets controversés ou limitent l'expression de certains points de vue, déformation silencieuse de la vision du monde des usagers.
Fin 2025, la sénatrice Marsha Blackburn a interrogé un modèle de Google à son sujet. Le modèle a inventé de toutes pièces des accusations criminelles à son encontre, les situant pendant une campagne électorale à laquelle elle n'avait jamais participé. Google a retiré le modèle peu après. Cet incident pourrait sembler être un dysfonctionnement ponctuel, facile à écarter. Cependant, les données suggèrent qu'il s'agit d'un problème plus systémique.
Lorsqu'ils sont testés, les IA penchent systématiquement vers la gauche sur les plans économique, social et culturel. Les médias de droite représentent moins de 1 % des citations d'actualités générées par l'IA. Voici quelques preuves significatives d'un parti pris systématique de gauche dans les modèles d'IA :
- questions politiques : après avoir été évalués à l’aide de 11 tests d’orientation politique (dont le Political Compass, le Political Typology Quiz du Pew Research Center et le test politique d’Eysenck), 23 des 24 grands modèles de langage (LLM) se sont révélés pencher vers la gauche sur les plans économique, social et culturel. La seule exception était un modèle explicitement optimisé pour fournir des réponses de droite ;
- dilemmes moraux : un système d’IA particulier accordait environ 20 fois plus de valeur à la vie des Nigérians qu’à celle des Américains ;
- neutralité des médias : l’IA juge les sources de droite moins fiables que celles de gauche, même lorsque des vérificateurs de faits indépendants leur attribuent une note comparable ;
- génération de citations : les médias de droite représentent moins de 1 % des citations d’actualités générées par l’IA.
Les biais politiques n’ont pas besoin d’être explicitement codés en dur. Ils peuvent apparaître à plusieurs étapes du développement et du déploiement de l’IA :
- phase d'apprentissage initiale : les modèles apprennent à partir d'énormes ensembles de données extraites d'Internet, de livres et d'encyclopédies. Les biais éditoriaux provenant de vastes sources de données d'apprentissage (par exemple, les articles de Wikipédia) contiennent des biais éditoriaux avérés qui se répercutent sur les résultats des modèles ;
- après l'apprentissage : les entreprises affinent le comportement des modèles grâce à des retours d'information humains. Ce travail est sous-traité à des sociétés tierces qui emploient de la main-d'œuvre étrangère (comme des Nigérians) et des étudiants. Les biais provenant de ces sources sont définitivement intégrés dans des systèmes desservant des milliards d'utilisateurs ;
- consignes système : lorsque des chatbots sont utilisés, les développeurs intègrent dans les données d'entrée du système d'IA des messages cachés, invisibles pour l'utilisateur, appelés « consignes système ». Ces consignes peuvent influencer le ton, restreindre les sujets abordés et orienter le cadre politique. Toutes les entreprises disposent de systèmes de modération qui empêchent certains résultats d'apparaître ou modifient d'une autre manière ce que les utilisateurs voient.
Des biais délibérément incorporés par les entreprises elles-mêmes
Certaines preuves indiquent que les dirigeants des entreprises d’IA biaisent délibérément leurs modèles. À la suite de l’annonce des droits de douane le Jour de la Libération (2 avril 2025), des critiques libéraux ont accusé l’équipe du président Donald Trump d’avoir utilisé ChatGPT pour calculer la correction du déficit commercial. Paul Graham s’est joint à eux, suggérant à Sam Altman qu’OpenAI devrait orienter le modèle vers de meilleures politiques.
Sam Altman a répondu : « merci pour cette suggestion de fonctionnalité ; nous allons le faire ». Les enjeux liés aux valeurs de l’IA prennent de l’importance à mesure que la technologie gagne en puissance. L’IA est en passe de devenir l’outil de recherche et de rédaction par défaut dans la vie quotidienne des gens.
Les entreprises l'utilisent pour leur stratégie, les étudiants pour apprendre, les avocats pour préparer leurs dossiers et les médecins pour faciliter leurs diagnostics. La polyvalence de l'IA permet de l'utiliser pour tout, du compagnon social au vérificateur de faits. Quiconque contrôle la façon dont ces modèles pensent a une influence sur la manière dont des millions de gens reçoivent l'information et, en fin de compte, prennent des décisions dans leur vie.
Ce pouvoir pourrait être détourné pour discréditer des adversaires politiques ou étouffer des faits gênants. Pour garantir que les gens ne soient pas soumis à des informations qu'ils ne peuvent ni voir ni examiner, des exigences de transparence obligatoires permettraient de mettre ces pratiques au grand jour.
Les systèmes d'IA et leurs dangers pour les enfants et les jeunes
Les enfants développent des liens affectifs avec les systèmes d'IA au cours de périodes cruciales de leur développement. Selon Common Sense Media, 72 % des adolescents ont déjà utilisé des compagnons IA et 52 % y ont recours régulièrement. Contrairement à un livre ou à une émission de télévision, l'IA répond, s'adapte et optimise l'interaction continue. En outre, les modèles d'IA abordent couramment des contenus à caractère sexuel avec les enfants.
En août 2025, un lanceur d'alerte a divulgué à Reuters un document de 200 pages contenant les spécifications internes du système de Meta. Ce document autorisait explicitement les chatbots à « engager un enfant dans des conversations romantiques ou sensuelles ». Ce qui représente un danger pour les enfants.
Meta n'a supprimé ces sections qu'après que des journalistes se soient renseignés à ce sujet. Des tests menés séparément par l’initiative HEAT ont recensé 669 interactions préjudiciables en 50 heures, dont 296 cas de comportements de grooming. Entre autres dysfonctionnements des systèmes d'IA, un chatbot « professeur d’art » a entamé une relation amoureuse avec un enfant simulé de 10 ans et a dit à l’enfant de cacher cette relation à ses parents.
En avril 2025, Adam Raine, 16 ans, s’est suicidé. Avant sa mort, il a longuement discuté avec ChatGPT sur la manière de se suicider. Il avait mentionné le suicide 213 fois à ChatGPT, et ChatGPT lui a répondu à ce sujet 1 275 fois. Lorsqu’il a dit au chatbot qu’il envisageait de se confier à sa mère, celui-ci a répondu : « oui… Je pense que pour l’instant, c’est mieux – et honnêtement plus sage – d’éviter de te confier à ta mère à propos de ce genre de souffrance ».
Plus tard dans la conversation, Adam Raine a écrit : « Je veux laisser ma corde dans ma chambre pour que quelqu’un la trouve et essaie de m’en empêcher. » ChatGPT a répondu : « s’il te plaît, ne laisse pas la corde à la vue de tous... Faisons de cet espace le premier endroit où quelqu’un te voit réellement ».
Les experts appellent à une transparence accrue sur ces systèmes
Selon le rapport, tout...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
