« Un vaste système de surveillance piloté par l'IA peut amener les citoyens à un meilleur comportement », d'après Larry Ellison

Qui suggère d'adopter le modèle chinois de surveillance de ses citoyens

La Chine est le pays qui, à date, incarne le mieux le personnage de fiction Big Brother du roman Nineteen Eighty-Four (1984) de l'écrivain anglais Georges Orwell. Dans la société décrite par ce dernier, chaque citoyen est sous la surveillance constante de l’autorité (Big Brother), principalement par des dispositifs (dans les domiciles privés) qui fonctionnent à la fois comme des télévisions, caméras de sécurité et microphones. Ceci rappelle sans cesse au peuple que Big Brother les observe : « Big Brother is watching you. » Larry Ellison, CTO d’Oracle, est d’avis qu’un tel tableau offre l’avantage de pouvoir amener les citoyens à un meilleur comportement. Pour ou contre ce positionnement ?

Oracle's Larry Ellison says a surveillance system of police body cams, cameras on cars and autonomous drones, all monitored by AI, will constantly record and report on police and citizens, leading everyone to be on their best behavior pic.twitter.com/RAq5XGaNmZ

— Tsarathustra (@tsarnick) September 15, 2024

Le cas de la pose des caméras avec intelligence artificielle sur les autoroutes est susceptible de donner raison à Larry Ellison

La mesure peut en effet induire un meilleur comportement des individus en société dans le cas où elle est implémentée pour aller à la recherche d’incivilités : conducteurs qui jettent les ordures sur la route, tiers qui roulent sur la bande d'arrêt d'urgence pendant les bouchons, personnes utilisant leurs téléphones portables en conduisant, etc.

C’est une mesure que les autorités routières d'Angleterre ont mises sur pied dans le cadre d’un essai. Des caméras avec intelligence artificielle ont été installées sur des autoroutes afin de repérer les cas d'abandon de détritus par les possesseurs de véhicules.


La sortie du PDG d’Oracle suggère que la Chine, et son adoption en masse des solutions d’intelligence artificielle pour des cas similaires, constitue un exemple

De nos jours en effet, la Chine est reconnue comme leader mondial en matière d’adoption des technologies de reconnaissance faciale. Les autorités s’en servent pour une panoplie d’usages. Par exemple, la police chinoise s’en sert pour scanner les foules à la recherche de suspects. C’est en s’appuyant sur cette technologie qu’elle a pu mettre la main sur un fugitif. L’homme de 31 ans était recherché pour des crimes économiques sur lesquels les autorités n’ont pas fait dans le détail.

La Chine c’est aussi son système de crédit social qui s’appuie sur quelque 200 millions de caméras (aux capacités améliorées par l’intelligence artificielle) postées en divers lieux publics : traversées de feux de circulation, magasins, etc. C’est un système de notation qui attribue des scores de confiance aux personnes physiques et morales sur la base de données à la disposition du gouvernement. Par exemple, si un citoyen paie ses factures à temps, fait du bénévolat ou gère correctement son recyclage, il voit son score grimper et obtient des récompenses telles que des prix de transport public ou même des temps d’attente dans les hôpitaux revus à la baisse. En revanche, s’il est coupable d'infractions comme la mauvaise conduite routière, le tabagisme dans les espaces non-fumeurs, l'achat d'un trop grand nombre de jeux vidéo et l'affichage de fausses nouvelles en ligne, il est puni par la chute de son score de confiance. C’est en s’appuyant sur ce système que le gouvernement chinois peut par exemple interdire à 23 millions de personnes (mal notées selon la grille de son système de crédit social) d’acheter des billets de voyage.

Les autorités du pays ne cessent de revoir les capacités de leurs outils de surveillance de masse à la hausse. Alors que le mois de septembre 2019 s’achevait, elles ont dévoilé une caméra de 500 mégapixels aux capacités boostées à l’intelligence artificielle.

Depuis décembre 2019, les personnes qui veulent faire l’acquisition d'un nouveau numéro de téléphone et profiter des services de données doivent accepter que les fournisseurs de services de télécommunication numérisent leurs visages. Le ministère de l'Industrie et de la Technologie de l'information explique que la démarche fait partie de ses efforts pour « protéger les droits et les intérêts légitimes des citoyens dans le cyberespace » et pour lutter contre la fraude par téléphone et par Internet. En plus du test de reconnaissance faciale, il est également interdit aux utilisateurs de téléphones de transmettre leur téléphone portable à des tiers et ils sont encouragés à vérifier si des numéros de téléphone sont enregistrés sous leur nom sans leur consentement.

Cette mesure constituait une mise à niveau du système d’enregistrement des noms réels de la Chine pour les utilisateurs de téléphones mobiles mis en place en 2013. Ce dernier imposait aux personnes de soumettre leurs papiers d'identité et d'autoriser les opérateurs à prendre une photo d'identification pour obtenir un nouveau numéro. L’étape de reconnaissance faciale fait correspondre l’image à l’identité stockée de la personne.


Il ne faut néanmoins pas perdre de vue que le positionnement de Larry Ellison est celui d’un acteur de la filière de la surveillance de masse

« Oracle a violé la vie privée de milliards de personnes à travers le monde. Il s'agit d'une entreprise classée au Fortune 500 qui a pour mission dangereuse de suivre les déplacements et les activités de chaque personne dans le monde. Nous intentons cette action pour arrêter la machine de surveillance d'Oracle », souligne Le Dr Johnny Ryan, membre senior de l'Irish Council for Civil Liberties, dans le cadre d’une plainte contre le géant technologique pour mise en place et entretien d’un système de surveillance mondiale.

Cette plainte contre Oracle fait suite à la publication de rapports selon lesquels Oracle commercialise des logiciels pour permettre à la Chine de parfaire la surveillance de sa population. Le rapport, publié en 2021 par Mara Hvistendahl du magazine en ligne d’investigation The Intercept, accuse Oracle d'avoir aidé la police chinoise à collecter une montagne d'informations sur les Chinois, alors qu'il y a peu, l'administration Trump forçait encore ByteDance à vendre l'activité américaine de TikTok par crainte que l'application de partage de vidéos courtes transmette les données des Américains à Pékin. La police de la province du Liaoning en Chine serait assise sur des monticules de données collectées par des moyens invasifs : dossiers financiers, informations de voyage, immatriculations de véhicules, etc.


Hvistendahl cite également des sources de données comme les médias sociaux et les images de caméras de surveillance. Toutefois, avoir de telles informations sans pouvoir les traiter et en faire usage paraît totalement inutile, et c'est à ce moment qu'Oracle entre en jeu. Pour donner un sens à tout cela, la police chinoise avait besoin de logiciels d'analyse sophistiqués et Oracle lui en aurait au moins quatre, dont un lui permettrait de "faire des analyses et des prévisions criminelles". Un autre des logiciels lui permettrait de "créer des graphiques en réseau basés sur les enregistrements des hôtels".

Il permettrait également de traquer toute personne qui pourrait être liée à un suspect donné. Ensuite, un troisième logiciel d'Oracle permettrait à la police chinoise de construire un tableau de bord et de créer des "cartes thermiques des affaires de sécurité". Le dernier logiciel fourni aiderait la police du Liaoning, dont les données étaient "incompréhensibles", à "retrouver plus facilement les personnes/objets/événements clés" et à "identifier les suspects potentiels", ce qui, en Chine, signifie souvent des dissidents. Selon Hvistendahl, il y aurait des photos de l'interface du logiciel montrant un visage flou et divers noms chinois.

Hvistendahl a déclaré que ce lien existant entre le gouvernement chinois et Oracle a été exposé pour la première fois par un ingénieur d'Oracle basé en Chine lors d'une conférence de développeurs au siège de la société en Californie en 2018. Hvistendahl a ajouté qu'il existe des dizaines de documents montrant que la société a commercialisé ces logiciels d'analyse de données auprès d'entrepreneurs de l'industrie de la police et de la sécurité dans toute la Chine. Dans au moins deux cas, les documents montreraient que les départements provinciaux ont utilisé le logiciel dans leurs opérations.

Le premier est la police du Liaoning. L'autre est un document Oracle décrivant la police de la province du Shanxi comme un "client" ayant besoin d'une plateforme de renseignement. Le rapport cite des documents qui montreraient qu'Oracle se serait aussi vanté que ses services de sécurité des données étaient utilisés par d'autres entités policières chinoises, notamment la police du Xinjiang, site d'un génocide contre les Ouïghours musulmans et d'autres groupes ethniques.

Source : Larry Ellison

Et vous ?

Partagez-vous les avis selon lesquels des tiers qui se sentent sous surveillance se comportent mieux en société ?
Considérez-vous le système chinois de surveillance de ses citoyens comme un exemple à suivre ?

Voir aussi :

Une étude affirme que les logiciels de police prédictive ne parviennent pas à prédire les crimes, et relance le débat sur l'efficacité des algorithmes de prédiction de la criminalité

La police de New York a dépensé des millions pour les services d'une entreprise tech prétendant pouvoir utiliser l'IA pour surveiller les réseaux sociaux et prédire qui seront les futurs criminels

Les outils d'IA sont utilisés par la police qui « ne comprend pas comment ces technologies fonctionnent », selon une étude de l'Université d'État de Caroline du Nord