« Un vaste système de surveillance piloté par l'IA peut amener les citoyens à un meilleur comportement », d'après Larry Ellison

Qui suggère d'adopter le modèle chinois de surveillance de ses citoyens

La Chine est le pays qui, à date, incarne le mieux le personnage de fiction Big Brother du roman Nineteen Eighty-Four (1984) de l'écrivain anglais Georges Orwell. Dans la société décrite par ce dernier, chaque citoyen est sous la surveillance constante de l’autorité (Big Brother), principalement par des dispositifs (dans les domiciles privés) qui fonctionnent à la fois comme des télévisions, caméras de sécurité et microphones. Ceci rappelle sans cesse au peuple que Big Brother les observe : « Big Brother is watching you. » Larry Ellison, CTO d’Oracle, est d’avis qu’un tel tableau offre l’avantage de pouvoir amener les citoyens à un meilleur comportement. Pour ou contre ce positionnement ?

Oracle's Larry Ellison says a surveillance system of police body cams, cameras on cars and autonomous drones, all monitored by AI, will constantly record and report on police and citizens, leading everyone to be on their best behavior pic.twitter.com/RAq5XGaNmZ

— Tsarathustra (@tsarnick) September 15, 2024

Le cas de la pose des caméras avec intelligence artificielle sur les autoroutes est susceptible de donner raison à Larry Ellison

La mesure peut en effet induire un meilleur comportement des individus en société dans le cas où elle est implémentée pour aller à la recherche d’incivilités : conducteurs qui jettent les ordures sur la route, tiers qui roulent sur la bande d'arrêt d'urgence pendant les bouchons, personnes utilisant leurs téléphones portables en conduisant, etc.

C’est une mesure que les autorités routières d'Angleterre ont mises sur pied dans le cadre d’un essai. Des caméras avec intelligence artificielle ont été installées sur des autoroutes afin de repérer les cas d'abandon de détritus par les possesseurs de véhicules.


La sortie du PDG d’Oracle suggère que la Chine, et son adoption en masse des solutions d’intelligence artificielle pour des cas similaires, constitue un exemple

De nos jours en effet, la Chine est reconnue comme leader mondial en matière d’adoption des technologies de reconnaissance faciale. Les autorités s’en servent pour une panoplie d’usages. Par exemple, la police chinoise s’en sert pour scanner les foules à la recherche de suspects. C’est en s’appuyant sur cette technologie qu’elle a pu mettre la main sur un fugitif. L’homme de 31 ans était recherché pour des crimes économiques sur lesquels les autorités n’ont pas fait dans le détail.

La Chine c’est aussi son système de crédit social qui s’appuie sur quelque 200 millions de caméras (aux capacités améliorées par l’intelligence artificielle) postées en divers lieux publics : traversées de feux de circulation, magasins, etc. C’est un système de notation qui attribue des scores de confiance aux personnes physiques et morales sur la base de données à la disposition du gouvernement. Par exemple, si un citoyen paie ses factures à temps, fait du bénévolat ou gère correctement son recyclage, il voit son score grimper et obtient des récompenses telles que des prix de transport public ou même des temps d’attente dans les hôpitaux revus à la baisse. En revanche, s’il est coupable d'infractions comme la mauvaise conduite routière, le tabagisme dans les espaces non-fumeurs, l'achat d'un trop grand nombre de jeux vidéo et l'affichage de fausses nouvelles en ligne, il est puni par la chute de son score de confiance. C’est en s’appuyant sur ce système que le gouvernement chinois peut par exemple interdire à 23 millions de personnes (mal notées selon la grille de son système de crédit social) d’acheter des billets de voyage.

Les autorités du pays ne cessent de revoir les capacités de leurs outils de surveillance de...