Le Pentagone veut utiliser l'IA pour créer de faux internautes qui seraient indétectables par les humains et les ordinateurs,

Tout en dénonçant l'utilisation des deepfakes par la Chine et la Russie

Un document de passation de marché qui a fait l'objet de fuite révèle les dessous d'une réflexion préoccupante au sein du Pentagone. Le département américain de la Défense recherche des prestataires privés pour l'aider à créer de faux internautes si convaincants que ni les humains ni les ordinateurs ne pourront détecter qu'ils sont faux. Le document indique que ces faux avatars seront utilisés sur les plateformes de médias sociaux afin de recueillir des informations. Les analystes suggèrent également que cette technologie pourrait potentiellement permettre au Pentagone de mener des opérations d'influence à grande échelle en ligne.

Le Pentagone cherche le moyen de créer des deepfakes indétectables

Le ministère américain de la Défense veut se doter d'une technologie qui lui permettra de créer des personnages en ligne impossibles à distinguer des personnes réelles. C'est du moins ce que révèle un document de passation de marché qui a fait l'objet de fuite et obtenu par The Intercept. Un rapport exposant les grandes lignes du document et la liste de souhaits du gouvernement américain a suscité indignation et préoccupations au sein de la communauté. Il révèle en effet que les États-Unis tentent secrètement d'exploiter une technologie dangereuse contre laquelle le pays n'a pas cessé de mettre en garde.

La liste de souhaits du Commandement des opérations spéciales conjointes (JSOC) indique que « les forces d'opérations spéciales (SOF) sont intéressées par des technologies pouvant générer des personnalités en ligne convaincantes à utiliser sur les plateformes de réseaux sociaux et d'autres contenus en ligne ». Elle ajoute : « la solution devrait inclure des images faciales et d'arrière-plan, des vidéos faciales et d'arrière-plan, ainsi que des couches audio ».


Selon le JSOC, « la technologie deepfake devra lui permettre de créer un environnement virtuel indétectable par les algorithmes des médias sociaux ». Le document indique que « les troupes d'opérations spéciales utiliseront cette capacité pour recueillir des informations sur les forums publics en ligne », sans autre explication sur la manière dont ces utilisateurs artificiels d'Internet seront utilisés. Ce qui a donné lieu à de nombreuses spéculations sur la toile.

Le document du JSOC indique que « le Pentagone veut être en mesure de créer des profils en ligne qui semblent être un individu unique reconnaissable comme humain, mais qui n'existe pas dans le monde réel ». Il précise que chaque profil comprendrait des « expressions multiples et des photos de qualité d'identification gouvernementale ». Le JSOC espère aussi pouvoir générer des « vidéos selfies » à partir de ces personnes fabriquées de toutes pièces.

Ces vidéos ne comporteront pas que de fausses personnes. Selon le document, « chaque selfie deepfake sera accompagné d'un arrière-plan simulé correspondant pour créer un environnement virtuel indétectable par les algorithmes des médias sociaux ». Sur la toile, un commentateur a écrit : « qu'est-ce qui pourrait mal tourner ? Pendant des années, ils ont accusé les robots russes de manipuler nos élections. Mais ils vont faire la même chose, ou le font déjà ».

Le Pentagone n'est pas à son premier coup d'essai dans ce domaine

Ces dernières années, le Pentagone a déjà été pris en flagrant délit d'utilisation de faux comptes de médias sociaux pour servir ses intérêts. En 2022, Meta et Twitter ont supprimé un réseau de propagande utilisant de faux comptes gérés par l'US Central Command, dont certains avaient des photos de profil générées avec des méthodes similaires à celles décrites par le JSOC. En 2024, une enquête de Reuters a mis en lumière une campagne du JSOC utilisant de faux comptes de médias sociaux dans le but de saper la confiance des étrangers dans le vaccin Covid de la Chine. Mais les rapports...