La Chine s'emploie à mettre en place un système de « tribunaux intelligents » depuis au moins 2016 en intégrant l'intelligence artificielle (IA) dans son système judiciaire. Le nouveau système exige que les juges consultent l'IA sur chaque cas, et s'ils rejettent la recommandation de l'IA, ils doivent fournir une explication écrite. Un professeur de droit chinois met en garde : « Nous devons être attentifs à l'érosion du pouvoir judiciaire par les entreprises technologiques »L'intelligence artificielle a été utilisée dans tous les coins du système judiciaire chinois et joue un rôle dans chaque verdict, selon la Cour populaire suprême de Pékin.
« Le SoS (System of System) du tribunal intelligent se connecte désormais au bureau de chaque juge en activité à travers le pays », a déclaré Xu Jianfeng, directeur du centre d'information de la Cour suprême dans un rapport publié dans Strategic Study of CAE, un journal officiel dirigé par l'Académie chinoise d'ingénierie.
Le système, alimenté par la technologie d'apprentissage automatique, filtre automatiquement les affaires judiciaires pour les références, recommande des lois et des règlements, rédige des documents juridiques et modifie les erreurs humaines perçues, le cas échéant, dans un verdict.
Le rapport du journal indique que l'IA a réduit la charge de travail moyenne d'un juge de plus d'un tiers et a fait gagner aux citoyens chinois 1,7 milliard d'heures de travail de 2019 à 2021. Il a également déclaré que la société avait économisé plus de 300 milliards de yuans (43,86 milliards d'euros) au cours de la même période, soit environ la moitié du total des honoraires des avocats en Chine l'année dernière.
En tant que projet d'ingénierie sans précédent, « l'application à grande échelle du système judiciaire intelligent a apporté une contribution significative à l'avancement judiciaire de la civilisation humaine », ont déclaré Xu et ses collègues.
L'IA n'a pas toujours été la bienvenue dans un tribunal, selon certains juges
Lors de ses débuts il y a six ans, le système judiciaire intelligent servait simplement de base de données. Mais ces dernières années, il a été davantage utilisé dans le processus décisionnel.
Comme l'exige la Cour suprême, un juge doit consulter l'IA sur chaque affaire. Si le juge rejette la recommandation de l'IA, il lui est exigé de fournir une explication écrite pour les besoins d'enregistrements et l'audit.
Les critiques estiment que cette exigence va pousser les juges à adhérer à la recommandation de l'IA pour éviter d'avoir à contester le système, même si l'intelligence artificielle peut sélectionner des documents de référence ou une loi moins appropriés pour l'affaire.
« Il est trop tôt pour vendre le système judiciaire intelligent comme une panacée », a déclaré Sun Yubao, juge au Tribunal populaire de la zone de développement économique et technologique de Yangzhou dans la province du Jiangsu, dans un article publié ce mois-ci dans la revue en langue chinoise Legality Vision. « Nous devons réduire les attentes élevées du public vis-à-vis de l'intelligence artificielle et défendre le rôle d'un juge. L'IA ne peut pas tout faire », a-t-il écrit.
Mais pour la Cour suprême, l'IA assure l'état de droit dans une grande partie de la Chine, où il existe des différences importantes en matière de développement régional, de gouvernance et de revenus.
Avant 2016, chaque tribunal local construisait et maintenait son propre système d'information. Les juges ont rarement partagé leurs affaires avec d'autres tribunaux ou avec Pékin. Le système judiciaire intelligent national a obligé chaque tribunal local à convertir ses documents dans un format numérique uniforme et à connecter sa base de données à un « cerveau » central à Pékin.
Selon le rapport de la Cour suprême, l'IA lit, analyse et apprend chaque jour près de 100 000 cas à travers le pays tout en gardant un œil sur l'évolution de chaque cas pour détecter tout indice de faute professionnelle ou de corruption.
Trop de pouvoir dans la main des entreprises technologiques chinoises et des personnes qui ont développé le code
L'influence de l'IA s'est étendue bien au-delà de la salle d'audience, a déclaré l'équipe de Xu. De nouveaux portails d'information ont donné au système judiciaire intelligent un accès direct à l'énorme base de données gérée par la police, les procureurs et certains organismes gouvernementaux.
L'exécution des verdicts a longtemps été un problème pour les tribunaux chinois qui ont été jugés manquant de personnel. L'IA du tribunal y répond en trouvant et en saisissant les biens d'un condamné presque instantanément et en les mettant aux enchères en ligne.
Sa portée électronique permet au tribunal intelligent de travailler avec le puissant « système de crédit social » chinois pour interdire à une personne refusant de payer une dette d'utiliser un avion, un train à grande vitesse, des hôtels ou d'autres services sociaux.
Zhang Linghan, professeur de droit à l'Université chinoise des sciences politiques et du droit à Pékin, a averti que l'essor rapide de l'IA pourrait créer un monde où les humains seraient gouvernés par des machines.
La réforme de l'IA en Chine vise à réduire la discrétion judiciaire, ou le pouvoir d'un juge humain de prendre une décision en fonction de son évaluation, de son expérience et de sa formation individuelles, selon Zhang.
Cela pourrait améliorer l'efficacité et l'équité dans une certaine mesure, mais « les humains perdront progressivement leur libre arbitre avec une dépendance croissante à la technologie », a-t-elle déclaré dimanche dans un article publié dans la revue nationale à comité de lecture Law and Social Development.
Le système judiciaire intelligent, construit avec la profonde implication des géants chinois de la technologie, déposerait également trop de pouvoir entre les mains de quelques experts techniques qui ont écrit le code, développé des algorithmes ou supervisé la base de données.
« Nous devons être attentifs à l'érosion du pouvoir judiciaire par les entreprises technologiques », a-t-elle ajouté.
La police chinoise a utilisé l'IA pour accélérer les enquêtes criminelles, selon les médias d'État.
Un procureur de l'IA a commencé à inculper des suspects d'infractions pénales dans certaines grandes villes comme Shanghai, selon des chercheurs impliqués dans le projet.
Zero Trust, une IA anti-corruption conçue par l'Académie chinoise des sciences pour surveiller les relations sociales des employés du gouvernement, a été déployée dans certaines villes, déclenchant une forte résistance de la part des autorités locales.
L'intelligence artificielle est la priorité absolue de la Chine
L'intelligence artificielle est l'une des sept technologies que la Chine a priorisées dans le cadre de son plan quinquennal. Les autres technologies comprennent l'information quantique, la science du cerveau, les semi-conducteurs, la recherche génétique et la biotechnologie, la médecine clinique et la santé, l'espace lointain, la haute mer et l'exploration polaire.
La Chine progresse rapidement pour dépasser les États-Unis en tant que leader mondial de la technologie de l'IA.
Comme indiqué précédemment par des revues spécialisées, l'activité principale de l'IA en Chine devrait augmenter à un taux de croissance annuel composé (TCAC) de 24,8 %, passant de 199,8 milliards de yuans (29,21 milliards d'euros) en 2021 à plus de 600 milliards de yuans (87,72 milliards d'euros) en 2026. .
Il est récemment apparu que la Chine pouvait même évaluer la loyauté des membres du Parti communiste en utilisant l'IA pour lire leurs expressions faciales et leurs ondes cérébrales.
La Chine applique l'IA à des fins militaires
Outre le système judiciaire et d'autres domaines de gouvernance, la politique chinoise en matière d'IA a également un aspect militaire.
En mars, une équipe de chercheurs chinois dirigée par le professeur Le Jialing, conseiller de l'armée chinoise sur la technologie des armes hypersoniques, a affirmé avoir développé une IA capable de concevoir des armes hypersoniques de manière autonome.
Il y a aussi beaucoup de recherches en Chine pour intégrer l'IA dans les systèmes de combat. Par exemple, en juin, des chercheurs militaires chinois ont affirmé avoir développé une technologie d'IA pour un système de défense aérienne contre les véhicules hypersoniques (HGV).
Ce nouveau système de défense aérienne alimenté par l'IA peut prédire la trajectoire de destruction potentielle d'un véhicule de glisse hypersonique (HGV) et lancer une contre-attaque avec un temps d'avance de trois minutes.
Si c'est vrai, cela devrait être une grande préoccupation pour les États-Unis, car la Chine possède déjà des armes hypersoniques opérationnelles. En revanche, les États-Unis n'en ont pas encore ; il faut dire que l'armée de l'air américaine a pour objectif de disposer de missiles hypersoniques à compter de 2024. L'US Navy a également confirmé son intention de doter plusieurs de ses destroyers et de ses sous-marins de missiles hypersoniques d'ici à 2028. Toutefois, ce mardi 17 mai 2022, l'armée de l'air américaine a annoncé avoir effectué un tir d'essai réussi d'un missile hypersonique depuis une forteresse volante B-52. Le missile a été lancé au travers du système ARRW (Air-launched Rapid Response Weapon), un système mis au point par Lockheed Martin, la première entreprise américaine et mondiale de défense et de sécurité.
Pourtant, avant même que les États-Unis ne disposent de missiles hypersoniques opérationnels, l'armée chinoise s'appuie sur l'IA pour pouvoir contrer ces armes.
La Chine s'efforce également d'intégrer l'IA dans la guerre aérienne en tirant parti de son industrie en plein essor des drones.
En janvier, des chercheurs du Centre de recherche et de développement en aérodynamique de Chine à Mianyang, dans la province du Sichuan, ont affirmé avoir développé un système basé sur l'IA qui peut entraîner des drones de combat sans pilote face à des avions de combat habités des milliers de fois plus rapidement que la technologie américaine comparable.
Alors que l'année dernière, l'armée de l'air chinoise du PLA Central Theatre Command a simulé un combat aérien au cours duquel un pilote très expérimenté a été renversé par un avion doté de l'IA.
Selon des experts, la Chine dépasse les États-Unis en matière d'intégration de l'IA dans l'armée, en particulier l'armée de l'air, et les responsables du gouvernement américain sont préoccupés par cette évolution. « Près de 30 % des contrats militaires chinois concernent l'IA et les drones. Cependant, leur objectif actuel reste la surveillance », a noté l''analyste de la défense Girish Linganna.
Source : Strategic Study of CAE
Et vous ?
Que pensez-vous d'un système de « tribunaux intelligents » dans l'absolu ? Que pensez-vous de l'exigence pour un juge d'écrire pourquoi il refuse de suivre les recommandations de l'IA ? Partagez-vous l'avis des critiques qui pensent que cette exigence pourrait pousser les juges à suivre les recommandations de l'IA même s'ils ne sont pas d'accord de peur d'avoir à contester le système ? Que pensez-vous des propos du professeur qui y voit une érosion du pouvoir judiciaire ? Voyez-vous des dérives potentiels à cette orientation des tribunaux intelligents ? Trop de pouvoir dans la main des entreprises technologiques chinoises et des personnes qui ont développé le code ?Voir aussi :
La Chine dépasse les États-Unis dans la recherche sur l'IA, la lutte pour la suprématie s'intensifie alors que les deux parties sont aux prises avec des problèmes de sécurité Canon a installé dans ses bureaux chinois des caméras dotées d'une technologie de « reconnaissance des sourires » basée sur l'IA, qui ne laissent entrer que les employés souriants La Chine aurait un plan dystopique pour la « propriété intellectuelle » sur Internet, selon un rapport de Just Security La Chine pourrait dominer la technologie mondiale, prévient le chef des services de renseignements britanniques, l'Occident doit agir de toute urgence 
Envoyé par Patrick Ruiz
