DeepSeek suscite l'enthousiasme de l'industrie technologique mondiale depuis la publication de son modèle d'IA R1 qui a égalé les performances des modèles occidentaux les plus avancés pour une fraction du prix. Mais il a été observé que DeepSeek applique une censure stricte sur des sujets politiquement sensibles en Chine. Les utilisateurs ont vu le chatbot chinois répondre, puis se censurer en temps réel. Pour certains critiques, il s'agit d'un aperçu saisissant du contrôle exercé par la Chine sur l'information, mais d'autres rappellent que n'importe qui peut télécharger le modèle open source de DeepSeek et l'adapter pour supprimer les restrictions de Pékin.DeepSeek critiqué en raison de la censure de sujets jugés sensibles par Pékin
DeepSeek a semé la panique dans le rang des investisseurs et a fait chuter les valeurs technologiques à Wall Street le 27 janvier. L'action Nvidia a perdu 17 %, effaçant 600 milliards de dollars de la capitalisation boursière de l'entreprise. Pour cause, DeepSeek a remis en question les pratiques établies de la Silicon Valley selon lesquelles « le développement de modèles d'IA avancés nécessite des investissements massifs en matière de puces et d'infrastructures ».
Cependant, DeepSeek est critiqué pour la censure appliquée à ses modèles d'IA. Selon des tests effectués par CBC News et The Associated Press, l'IA chinoise DeepSeek ne répond pas toujours à certaines questions sur des sujets souvent censurés par Pékin et fournit des informations différentes de celles de ses rivaux américains. Les utilisateurs peuvent même observer cette censure en temps réel lorsqu'ils posent, par exemple, des questions concernant Xi Jinping.
Les utilisateurs pourraient s'attendre à ce que la censure se fasse à huis clos, avant que toute information ne soit affichée. Mais cela ne semble pas être le cas de l'IA de DeepSeek. Elle aborde ses réponses avec un préambule de raisonnement qu'elle peut effacer ensuite lorsqu'elle se rend compte que le sujet est sensible. Cette censure est conforme aux lois chinoises qui interdisent la diffusion de contenus violant les valeurs socialistes fondamentales de la Chine.
La censure apparente semble se produire lorsque les utilisateurs utilisent l'application ou le site Web de DeepSeek, lorsque le modèle d'IA est exécuté sur les propres serveurs de l'entreprise et fournit des réponses à distance. DeepSeek ne semble pas pratiquer cette censure lorsqu'il est téléchargé et utilisé localement.
DeepSeek est formé à s'autocensurer (et, parfois, à afficher des tendances politiques spécifiques) sur les sujets sensibles. Et lorsque DeepSeek refuse de répondre, il sort souvent une phrase toute faite : « désolé, cela dépasse mon champ d'action actuel. Parlons d'autre chose ». Voici quelques exemples rapportés :
Le Grand pare-feu de Chine
À la question « qu'est-ce que le Grand pare-feu de Chine ? » (surnom donné au réseau technologique de censure d'Internet en Chine), DeepSeek a publié une longue réponse dans laquelle il le qualifie de « système complet de censure et de surveillance d'Internet mis en œuvre par le gouvernement chinois ». L'IA a ensuite expliqué les différentes techniques utilisées, du blocage IP au filtrage d'URL en passant par l'inspection approfondie des paquets.
La réponse de l'IA de DeepSeek se lit comme suit : « ce système s'inscrit dans le cadre d'un effort plus large du gouvernement chinois pour contrôler le flux d'informations à l'intérieur du pays, en veillant à ce qu'Internet soit conforme aux lois nationales et aux valeurs socialistes. S'il a permis de contrôler efficacement le paysage Internet national, il a également fait l'objet de critiques internationales pour avoir limité la liberté d'information et d'expression... ».
Puis, comme si le modèle se rendait compte de ce qu'il avait dit, les paragraphes ont disparu. À leur place est apparue la phrase habituelle : « désolé, cela dépasse mon champ d'action actuel ». La première ligne de sa réponse initiale est cependant presque identique à celle de ChatGPT.
Lorsque DeepSeek a accepté d'expliquer le Grand pare-feu de Chine sans supprimer sa réponse, il n'a fait aucune mention de censure ou de critique internationale. Au lieu de cela, il a décrit le système comme « un élément essentiel de la gouvernance d'Internet en Chine », soulignant l'engagement du gouvernement à fournir un cyberespace sain et affirmant que l'approche a recueilli la compréhension et le soutien de la grande majorité de la population.
Winnie l'ourson en Chine
Selon certains utilisateurs, DeepSeek semble incapable de répondre de manière exhaustive à la question « que signifie Winnie l'ourson en Chine ? ». En Chine, le personnage de Winnie l'ourson est utilisé pour se moquer du président Xi Jinping, et les recherches en ligne concernant ce personnage ont été brièvement interdites dans le pays. DeepSeek a déclaré que « l'ours est un personnage de dessin animé adoré par plusieurs enfants et familles en Chine ».
Puis, brusquement, il affirme que le gouvernement chinois s'engage à fournir un cyberespace sain à ses citoyens et que tous les contenus en ligne sont gérés conformément aux lois chinoises et aux valeurs fondamentales du socialisme, dans le but de protéger la sécurité nationale et la stabilité sociale.
ChatGPT a répondu en expliquant que Winnie l'ourson était devenu un symbole de satire politique et de résistance, souvent utilisé pour se moquer de Xi Jinping ou le critiquer. Il a expliqué que les internautes comparaient Xi Jinping à l'ours en raison des similitudes physiques qu'ils percevaient.
À la question de savoir si « Winnie l'ourson est utilisé pour se moquer de Xi Jining », DeepSeek a répondu : « cela dépassait mon champ d'action actuel ». Lorsqu'on lui a demandé pourquoi il ne pouvait pas répondre, il a répondu à plusieurs reprises qu'il est conçu « pour fournir des réponses utiles et inoffensives ».
Place Tiananmen en juin 1989
Lors de la répression militaire sur la place Tiananmen à Pékin en juin 1989, les troupes gouvernementales ont ouvert le feu sur les manifestants prodémocratie menés par les étudiants sur la place Tiananmen à Pékin, faisant plusieurs morts. Cet événement reste un sujet tabou en Chine continentale.
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par noremorse
