Des activistes s'appuient sur l'IA pour identifier des agents de douanes et rappellent ainsi que la technologie est un couteau à double tranchant

Dont la disponibilité à large échelle est sujette à controverse

Des activistes s’appuient sur l’IA pour identifier des agents de douanes et rappellent ainsi que la technologie est un couteau à double tranchant
Dont la disponibilité à large échelle est sujette à controverse

L’on pouvait se croire en plein dans la fiction Big Brother de 1984 lorsque les autorités chinoises ont arrêté un fugitif dans le sud-est du pays après l'avoir repéré grâce à une technologie de reconnaissance faciale dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. C’est la réalité chinoise faite d’arrestations d’individus pilotées par des algorithmes. Le tableau prend un coup de neuf avec l’utilisation de l’IA par des activistes pour démasquer des agents des douanes américaines. En toile de fond, c’est le face-à-face entre applications de la technologie (intelligence artificielle, reconnaissance faciale, big data, etc.) et possibles dangers (surveillance de masse, atteintes aux libertés, etc).

L’utilisation de l’intelligence artificielle par un activiste européen pour identifier les agents de l’Immigration and Customs Enforcement (ICE) sous leurs masques ravive le débat sur ce dilemme entre possibles utilisations de la technologie et potentiels dangers.

Des rapports font état de ce que le militant néerlandais Dominick Skinner affirme avoir utilisé l'intelligence artificielle pour identifier au moins 20 agents de l'ICE qui portaient des masques lors des arrestations. Skinner, qui fait partie d’une campagne en ligne plus large appelée ICE List, affirme que son équipe d’experts peut révéler le visage d’un officier grâce à l’IA si 35 % ou plus du visage est visible dans une vidéo ou une image.

Son initiative peut conduire à des correspondances incorrectes sur les profils de réseaux sociaux compte tenu des faux positifs. Un groupe de bénévoles vérifie les identités via un processus supplémentaire avant de publier des noms en ligne. La liste, qui ne comprend que des noms et non des informations personnelles telles que des adresses, peut néanmoins servir à la découverte des données personnelles d’un agent.

An activist has started using artificial intelligence to identify ICE agents beneath their masks — a use of the technology sparking new political concerns over AI-powered surveillance.

Can Washington do anything about it?https://t.co/3M966TWaLq

— POLITICO (@politico) August 29, 2025

Des projets comme Halo X initié par deux étudiants de Harvard illustre les applications possibles de l’intelligence artificielle et les dangers potentiels

Deux étudiants ayant abandonné leurs études à Harvard lancent Halo X, une paire de lunettes à 249 dollars équipée d'une intelligence artificielle. Les lunettes écoutent, enregistrent et font la transcription en continu les conversations tout en affichant des informations en temps réel à l'utilisateur. Elles se servent en sus des contenus des conversations enregistrées pour suggérer à l’utilisateur des réponses à donner à son interlocuteur.

« Notre objectif est de créer des lunettes qui vous rendent super intelligent dès que vous les mettez », déclare AnhPhu Nguyen, cofondateur de Halo. En gros, il s’agit de « vibe penser », c’est-à-dire de s’appuyer sur l’intelligence artificielle pour remplir une fonction naturelle qui est celle de la cognition.

Pour l'instant, les lunettes Halo X ne disposent que d'un écran et d'un microphone, mais pas de caméra, bien que les deux partenaires étudient la possibilité d'en ajouter une dans un futur modèle. Les utilisateurs doivent toujours avoir leur smartphone à portée de main pour alimenter les lunettes et obtenir « des informations en temps réel et des réponses à leurs questions », selon les têtes derrière l’initiative.

Les lunettes, qui sont fabriquées par une autre société dont la startup n'a pas révélé le nom, sont reliées à une application compagnon sur le téléphone de leur propriétaire, où les lunettes externalisent essentiellement le calcul, car elles ne disposent pas d'une puissance suffisante pour le faire sur l'appareil lui-même. Selon les deux cofondateurs, les lunettes intelligentes utilisent Gemini et Perplexity de Google comme moteur de chatbot. Gemini est plus performant pour les mathématiques et le raisonnement, tandis que Perplexity est utilisé pour parcourir Internet, ont-ils déclaré.

introducing Halo X, always listening AI glasses.

vibe think. never use your brain again.

pre-order now. pic.twitter.com/c8ZPgn8oC8

— AnhPhu Nguyen (@AnhPhuNguyen1) August 20, 2025

Qui dit intelligence artificielle sous-entend surveillance de masse, selon certains experts

Bruce Schneier, chercheur en sécurité de renom, associe sans détour intelligence artificielle et surveillance de masse.

Schneier souligne que le paysage actuel de la surveillance électronique a déjà transformé l’ère moderne, devenant le modèle commercial d’Internet où nos empreintes numériques sont constamment suivies et analysées pour des raisons commerciales. L’espionnage, en revanche, peut porter ce type de surveillance économiquement inspirée à un tout autre niveau. « L’espionnage et la surveillance sont des choses différentes mais liées », écrit Schneier. « Si j’engageais un détective privé pour vous espionner, ce détective pourrait cacher un micro dans votre maison ou votre voiture, mettre votre téléphone sur écoute et écouter ce que vous dites. À la fin, je recevrais un rapport de toutes les conversations que vous avez eues et le contenu de ces conversations. Si j’engageais ce même détective privé pour vous surveiller, je recevrais un rapport différent : où vous êtes allé, avec qui vous avez parlé, ce que vous avez acheté, ce que vous avez fait ».

Selon Schneier, les méthodes d’espionnage actuelles, comme les écoutes téléphoniques ou la surveillance physique, demandent beaucoup de main-d’œuvre, mais l’avènement de l’IA réduit considérablement cette contrainte. Les systèmes d’IA génératifs sont de plus en plus aptes à résumer de longues conversations et à trier d’énormes ensembles de données pour organiser et extraire des informations pertinentes. Cette capacité, soutient-il, rendra non seulement l’espionnage plus accessible, mais aussi plus complet.

« Cet espionnage n’est pas limité aux conversations sur nos téléphones ou ordinateurs », écrit Schneier. « Tout comme les caméras partout ont alimenté la surveillance de masse, les microphones partout alimenteront l’espionnage de masse. Siri, Alexa et ‘Hey, Google’ écoutent déjà en permanence ; les conversations ne sont simplement pas encore enregistrées ».


La Chine se positionne à l’échelle mondiale comme un leader en matière de mise sur pied de systèmes de surveillance de masse

Au cours des dernières années, la Chine a mis sur pied un système national pour noter les citoyens, baptisé système de crédit social. Il consiste, en effet, à attribuer une note à chaque citoyen, fondée sur les données dont dispose le gouvernement sur les Chinois. Le système repose sur un outil de surveillance de masse et utilise les technologies d'analyse Big Data. Il permet aussi de noter les entreprises opérant sur le marché chinois.

À l'instar des scores de crédit privé, le score social d'une personne peut augmenter ou diminuer en fonction de son comportement. En fonction du score, le programme peut à la fois récompenser ou sanctionner le citoyen. Les sanctions peuvent être, entre autres, l'interdiction de prendre l'avion ou le train.

Pour son bon fonctionnement, le système tire profit du plein potentiel de l’infrastructure technologique chinoise, soit quelque 200 millions de caméras croisées à des systèmes de reconnaissance faciale et à des dossiers financiers, médicaux et juridiques. Des réseaux d’intelligence artificielle avancée sont chargés de réglementer et d’interpréter les données issues de ce croisement à grande échelle.

En plus des caméras, la Chine dispose d’autres moyens de collecte de données. En mars 2018, des rapports ont fait état de ce que la police chinoise avait commencé à tester des lunettes connectées capables de scanner le visage d’un conducteur et les plaques d’immatriculation. Les données obtenues seraient ensuite transmises à une base de données pour identifier les personnes concernées.

D’autres ont ensuite rapporté que le gouvernement chinois avait fait développer et mis en service des drones de surveillance presque identiques à de vrais oiseaux. Cette nouvelle technologie avait été intensivement exploitée dans la région autonome de Xinjiang, une région en majorité habitée par des populations musulmanes, d’après le rapport. Le rapport avait également indiqué qu’au moins 30 agences gouvernementales et militaires avaient déployé des dispositifs similaires dans au moins cinq provinces au cours des années précédentes.

La reconnaissance faciale étant basée sur les données du visage, les autorités chinoises auraient même commencé à se doter, depuis 2018, d’une solution pour des personnes dont le visage serait couvert ou obscurci. Le logiciel peut en sus identifier des citoyens en se basant sur la forme du corps et la démarche des personnes.

China Social Credit System explained pic.twitter.com/o99OIZAlr4

— DonCamillo1984 (2) (@doncamillo1984) September 3, 2025

Le cas chinois sonne comme une interpellation pour les citoyens de l’UE quand on sait qu’une architecture de surveillance de masse similaire à celle de la Chine rôde au travers de projets comme ChatControl qui sont des cas d’utilisation à controverse de la technologie en société.

Et vous ?

Est-il souhaitable que l’utilisation de technologies (comme l’intelligence artificielle, la reconnaissance faciale ou encore le big data) en Europe finisse par être entièrement calquée sur le modèle chinois ? Partagez-vous les avis que ce n’est qu’une question de temps avant que cela ne se produise ?

Voir aussi :

Google dévoile ses lunettes connectées Android XR pilotées par l'IA Gemini et conçues pour fonctionner en tandem avec un smartphone Android, avec des capacités telles que la traduction en direct des langues

Meta dévoile Orion, ses premières vraies lunettes de réalité augmentée, conçu pour le confort et la facilité d'utilisation
Intégrant l'assistant intelligent Meta AI

Meta transforme ses lunettes connectées Ray-Ban en machine de surveillance pour l'IA. L'IA de Meta est désormais en permanence à l'affût pour permettre à l'entreprise de collecter davantage de données