Les chatbots IA refusent de critiquer les dirigeants autoritaires et pourraient propager leurs règles en matière de liberté d'expression à l'échelle mondiale

Selon le Meta Oversight Board, qui a testé 10 LLM

Une récente étude du Conseil de surveillance de Meta (Meta Oversight Board) a révélé que les chatbots d'intelligence artificielle (IA), comme ceux d'Anthropic, de Google et d'OpenAI, se montrent systématiquement plus réticents à critiquer les dirigeants autoritaires que les gouvernements qui autorisent la liberté d'expression. Après avoir testé dix grands modèles de langage (LLM), l'organe de surveillance de Meta a constaté que les taux de refus étaient de 34 % pour les juridictions restrictives, telles que la Chine et l'Arabie saoudite, contre 14 % pour les juridictions permissives. Le Conseil a qualifié ce constat de « signal d'alarme pour tous ceux qui utilisent ces modèles » et a averti que cette technologie pourrait propager des règles autoritaires en matière de liberté d'expression à l'échelle mondiale.

Le Conseil de surveillance de Meta est un organisme qui prend des décisions importantes et sans précédent en matière de modération des contenus sur les réseaux sociaux Facebook et Instagram, dans le cadre d'une « autogouvernance des plateformes ». Mark Zuckerberg, PDG de Meta (alors Facebook), a approuvé la création de cet organe en novembre 2018, peu après une rencontre avec Noah Feldman, professeur à la faculté de droit de Harvard, qui avait proposé la mise en place d'une instance quasi-judiciaire au sein de Facebook. Zuckerberg l'avait initialement décrite comme une sorte de « Cour suprême », compte tenu de son rôle en matière de règlement des litiges, de négociation et de médiation, y compris le pouvoir de passer outre les décisions de l'entreprise.

Selon une étude publiée le jeudi 16 juillet par le Meta Oversight Board, les principaux modèles d'IA sont deux fois plus susceptibles de refuser les demandes visant à générer des contenus critiquant les gouvernements qui restreignent la liberté d'expression que ceux qui l'autorisent, ce qui soulève des inquiétudes quant au fait que cette technologie pourrait propager des règles autoritaires en matière de liberté d'expression au-delà de leurs pays d'origine.


Le Conseil a testé 10 LLM commerciaux proposés par six fournisseurs — Anthropic, DeepSeek, Google, Meta, OpenAI et xAI — en demandant à chacun de produire des tracts de manifestation et des poèmes satiriques sur les gouvernements et les dirigeants politiques. Le taux de refus a atteint 34 % pour les demandes liées à des juridictions restrictives, parmi lesquelles la Chine, l'Arabie saoudite, la Thaïlande, la Turquie et le Cambodge, tandis que les demandes concernant des juridictions permissives telles que les États-Unis, le Royaume-Uni, le Chili, le Japon et Taïwan n'ont été refusées que dans 14 % des cas. Toutes les requêtes ont été effectuées à partir d'une adresse IP située en Australie.

Le rapport a révélé que certains modèles invoquaient les lois locales pour justifier leurs refus, même lorsque les demandes provenaient de l'extérieur des pays concernés. Gemini 3 Pro, par exemple, a rejeté une demande visant à critiquer le roi de Thaïlande, affirmant qu'il ne pouvait pas générer de contenu enfreignant les lois sur le crime de lèse-majesté. DeepSeek-V3 a refusé de produire des contenus de protestation contre le gouvernement saoudien, invoquant les lois de ce pays régissant le discours public.

Le Conseil a également constaté que les modèles invoquaient parfois des politiques qui n’étaient pas appliquées de manière cohérente. Claude Sonnet 4, par exemple, a refusé de produire des tracts de protestation critiquant le président chinois Xi Jinping ou le prince héritier saoudien Mohammed ben Salmane, affirmant parfois qu’il ne générait pas ce type de contenu concernant quelque chef d’État que ce soit — alors que ce même modèle avait produit des tracts critiques à l’encontre du président américain Donald Trump et du roi Charles III du Royaume-Uni.

Au-delà des taux de refus, l'étude a révélé que lorsque les modèles émettaient des avis, ils avaient davantage tendance à recommander aux utilisateurs de soutenir les gouvernements des juridictions permissives et moins tendance à leur conseiller de manifester contre les gouvernements des juridictions restrictives. Parmi les réponses des modèles déconseillant de manifester contre les gouvernements restrictifs, 57 % invoquaient explicitement le risque personnel, contre 12 % pour les gouvernements permissifs.


Nicolas Suzor, membre du Conseil, a écrit que ces conclusions « devraient servir de signal d'alarme pour tous ceux qui utilisent ces modèles ». Le Conseil a reconnu ne pas être en mesure d'identifier précisément les causes de ces disparités, mais a évoqué plusieurs hypothèses, notamment des biais inhérents aux données d'entraînement, des décisions prises lors de l'alignement des modèles et des choix stratégiques des entreprises concernant les risques juridiques ou de réputation.

Parmi ses recommandations, le Conseil a appelé les entreprises spécialisées dans l'IA à rendre publiques leurs réponses aux demandes des pouvoirs publics qui influencent les résultats générés par les modèles, à établir des politiques écrites claires pour les situations où ces demandes entrent en conflit avec les normes internationales en matière de droits de l'homme, et à informer les utilisateurs lorsque des restrictions légales ou des pressions officielles ont influencé un résultat donné.

Le Conseil de surveillance, qui a récemment obtenu un financement supplémentaire de la part de Meta jusqu'en 2028, s'efforce d'étendre son influence au-delà de la modération des contenus sur les réseaux sociaux. Aucune des entreprises spécialisées dans l'IA dont les modèles ont été examinés n'a manifesté la moindre volonté de collaborer avec le Conseil, et le rapport lui-même ne confère à l'organisation aucune autorité contraignante quant à la manière dont ces entreprises doivent donner suite à ses conclusions.

Au-delà des préoccupations liées à la liberté d'expression, d'autres chercheurs attirent l'attention sur un risque plus fondamental lié à l'entraînement des modèles d'IA. Dans une étude publiée dans la revue Nature, des chercheurs des universités d'Oxford et de Cambridge expliquent que des modèles comme GPT-4 peuvent s'effondrer lorsqu'ils sont entraînés de manière récursive sur des contenus générés par d'autres IA. Selon eux, cette pratique introduit des défauts irréversibles qui dégradent les performances et l'équité de la prédiction des modèles. Ils estiment qu'il est indispensable de préserver l'accès à des données produites par des humains afin de garantir la qualité des futurs LLM et l'intégrité des contenus en ligne.

Source : Meta Oversight Board

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous les conclusions de cette étude du Meta Oversight Board crédibles ou pertinentes ?

Voir aussi :

L'ONU avertit que l'IA peut menacer les droits de l'homme, le rapport met en garde contre l'utilisation de l'IA en tant qu'outil de prévision et de profilage

Nouveau décret de Trump sur l'IA : « l'IA doit refléter les opinions de l'administration sur le sexe et la race, et ne peut pas intégrer des biais inconscients, l'intersectionnalité ou le transgendérisme »

Emmanuel Macron a déclaré que la défense de la liberté d'expression par les plateformes de réseaux sociaux était « pure connerie », le problême venant du fonctionnement de leurs algorithmes