YouTube met à la disposition des politiciens et des journalistes un outil de détection des deepfakes afin de protéger les utilisateurs au cœur du débat politique et d'identifier les vidéos générées par l'IA

YouTube met à la disposition des politiciens et des journalistes un outil de détection des deepfakes afin de protéger les utilisateurs au cœur du débat politique et d'identifier les vidéos générées par l'IA

YouTube a commencé à proposer un outil gratuit aux responsables gouvernementaux, aux journalistes et aux candidats politiques afin de les aider à identifier et à supprimer les vidéos générées par l'IA qui ressemblent à leur apparence. « YouTube protège depuis longtemps la liberté d'expression et les contenus d'intérêt public, notamment en préservant les contenus tels que les parodies et les satires, même lorsqu'ils sont utilisés pour critiquer des dirigeants mondiaux ou des personnalités influentes », a déclaré YouTube. Les participants devront fournir une vidéo d'eux-mêmes ainsi qu'une pièce d'identité officielle.

Les deepfakes sont des images, des vidéos ou des fichiers audio qui ont été modifiés ou générés à l'aide de l'intelligence artificielle (IA), d'outils basés sur l'IA ou de logiciels de montage audio-vidéo. Ils peuvent représenter des personnes réelles ou fictives et sont considérés comme une forme de média synthétique, c'est-à-dire un média généralement créé par des systèmes d'intelligence artificielle en combinant divers éléments médiatiques pour former un nouvel artefact médiatique.

L'inquiétude autour des deepfakes grandit depuis un certain temps et une étude publiée par ISMS.online en 2024 montre que les deepfakes se classent désormais au deuxième rang des incidents de sécurité de l'information les plus courants pour les entreprises britanniques et que plus d'un tiers des organisations en ont fait l'expérience. Le rapport, basé sur une enquête menée auprès de plus de 500 professionnels de la sécurité de l'information au Royaume-Uni, montre que près de 32 % des entreprises britanniques ont été confrontées à un incident de sécurité de type « deepfake » entre mai 2023 et avril 2024.

Un exemple de mauvaise utilisation de deepfake, en décembre 2025, une vidéo politique générée par intelligence artificielle, attribuée à des réseaux proches du Parti républicain, a franchi un seuil inquiétant. En mettant en scène, de manière totalement fictive, un élu du Parti démocrate donnant un traitement hormonal à un enfant, ce deepfake illustre la mutation accélérée de la désinformation politique à l’ère de l’IA. Plus qu’un simple coup de communication, il révèle une stratégie qui instrumentalise la technologie pour fabriquer de toutes pièces des scandales émotionnels.

Dans ce contexte, YouTube a commencé à proposer un outil gratuit aux responsables gouvernementaux, aux journalistes et aux candidats politiques afin de les aider à identifier et à supprimer les vidéos générées par l'IA qui ressemblent à leur apparence. La société, qui appartient à Alphabet, la société mère de Google, a déclaré que cet outil vise à aider les personnes au cœur de l'actualité et du discours civique à « protéger leur identité ». Cet outil arrive plus de quatre mois après que la plateforme ait lancé l'outil de détection des ressemblances pour les membres du programme YouTube Partner.

« YouTube protège depuis longtemps la liberté d'expression et les contenus d'intérêt public, notamment en préservant les contenus tels que les parodies et les satires, même lorsqu'ils sont utilisés pour critiquer des dirigeants mondiaux ou des personnalités influentes », a déclaré YouTube.


Le développement rapide de l'IA a favorisé la création et l'adoption généralisée de modèles qui ont évolué rapidement pour créer des vidéos de plus en plus réalistes. Et si de nombreuses plateformes technologiques, dont YouTube, ont généralement adopté la vidéo IA, elles ont également été confrontées à des défis liés aux contenus trompeurs qui diffusent des informations erronées et peuvent être utilisés pour commettre des escroqueries.

Les vidéos IA de personnalités en vue, parfois appelées « deepfakes », ont été particulièrement efficaces pour les escrocs. En outre, YouTube, qui a lancé son outil de détection des ressemblances en octobre 2025, contactera les politiciens et les journalistes présents sur la plateforme, qui pourront alors décider s'ils souhaitent s'inscrire pour utiliser cet outil, a déclaré un porte-parole de la société.

Les participants devront fournir une vidéo d'eux-mêmes ainsi qu'une pièce d'identité officielle. YouTube informera ensuite les participants sur YouTube Studio des vidéos deepfake qui présentent une ressemblance avec leur apparence. Les participants peuvent signaler le contenu et demander son retrait. Les utilisateurs qui n'ont pas reçu l'invitation à s'inscrire à l'outil peuvent contacter YouTube directement.

Les informations fournies par les participants ne seront pas utilisées pour entraîner les modèles d'IA de Google, propriétaire de YouTube, mais serviront uniquement à « alimenter » l'outil de détection, a déclaré le porte-parole. Le générateur de vidéos de Google entraîne son système à l'aide de vidéos publiées sur YouTube. « Notre objectif est de mettre cette technologie à la disposition des personnes qui en ont besoin, et nous prévoyons d'élargir considérablement son accès au cours de l'année à venir », a déclaré le porte-parole.

Précédemment cette annonce, plusieurs checheurs ont déjà présenté des outils de détection de deepfake. En 2022, des informaticiens ont mis au point une technique permettant de détecter les fausses vidéos dans lesquelles les expressions faciales ont été manipulées avec une précision de 99 %, ce qui est supérieur aux autres approches de pointe. La méthode fonctionne aussi bien que les approches comparables dans les vidéos où seule l'identité, et non les expressions, a été manipulée. Il s'agit donc d'une approche généralisée qui peut détecter n'importe quel type de vidéos "deepfake", selon les chercheurs.

En 2024, la startup Reality Defender a dévoilé un outil de détection des vidéos deepfakes en temps réel. L'outil est disponible via un plug-in pour Zoom et peut faire des prédictions actives pour savoir si les autres participants à un appel vidéo sont réels ou s'il s'agit d'imitations alimentées par l'IA. La startup Reality Defender se concentre sur le partenariat avec les entreprises et les gouvernements pour les aider à contrecarrer les deepfakes alimentés par l'IA. Lors de l'annonce, l'entreprise travaillait encore à l'évaluation comparative de l'outil afin de déterminer avec quelle précision il distingue les vrais participants d'un appel vidéo des faux.


Voici l'annonce de YouTube :

Extension de la détection des ressemblances aux dirigeants politiques et aux journalistes

YouTube est le lieu où le monde entier vient comprendre les événements qui façonnent leur vie, des dernières actualités aux débats qui alimentent le discours civique. À mesure que le contenu généré par l'IA évolue, les personnes au centre de ces conversations ont besoin d'outils fiables pour protéger leur identité.

L'année dernière, nous avons lancé la détection des ressemblances pour les créateurs participant au Programme Partenaire YouTube, un outil unique dans le secteur permettant de gérer le contenu généré par l'IA. Aujourd'hui, nous étendons cette fonctionnalité à un groupe pilote composé de responsables gouvernementaux, de journalistes et de candidats politiques.

Comment fonctionne la détection des ressemblances

Cet outil fonctionne de manière similaire à Content ID, mais pour les ressemblances. Il recherche la ressemblance d'un participant dans le contenu généré par l'IA, et si une correspondance est trouvée, comme un deepfake de son visage, la personne peut examiner le contenu et demander sa suppression s'il enfreint nos directives en matière de confidentialité.

Bien que cet outil offre un moyen puissant de gérer les usurpations d'identité non autorisées par l'IA, la détection ne garantit pas la suppression. YouTube protège depuis longtemps la liberté d'expression et les contenus d'intérêt public, notamment en préservant les contenus tels que les parodies et les satires, même lorsqu'ils sont utilisés pour critiquer des dirigeants mondiaux ou des personnalités influentes. Nous continuerons à évaluer attentivement ces exceptions lorsque nous recevrons des demandes de suppression.

Nous commençons par ce groupe afin de nous assurer que l'outil répond à leurs besoins spécifiques, et nous prévoyons d'étendre considérablement son accès au cours des prochains mois.

Protéger la participation

Afin de prévenir les abus et de garantir que l'outil n'est utilisé que par les personnes qu'il est censé protéger, nous demandons aux participants de vérifier leur identité avant de les inscrire à la détection de ressemblance. Les données fournies lors de la configuration sont strictement utilisées à des fins de vérification d'identité et pour alimenter cette fonctionnalité de sécurité. Elles ne sont pas utilisées pour entraîner les modèles d'IA générative de Google.

Aller de l'avant

La technologie seule n'est pas une fin en soi. Nous continuerons à plaider en faveur de cadres juridiques solides tels que la loi NO FAKES, qui établit un droit fédéral à l'image et sert de modèle pour une adoption internationale afin de garantir que la technologie serve la créativité humaine sans jamais la remplacer.

Source : Annonce de YouTube

Et vous ?

Pensez-vous que cet outil est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Plus de 20 % des vidéos sur YouTube sont des « AI Slop » : les contenus de mauvaise qualité générés par l'IA saturent désormais les réseaux sociaux et génèrent environ 117 millions $ par an, d'après Kapwing

Un nouvel outil de détection des "deepfakes" s'avère efficace à 94 %, en analysant les reflets de la lumière dans les yeux

Les "deepfakes" politiques représentent l'utilisation abusive la plus populaire de l'IA : Sa faible technicité et son accessibilité ont accru l'utilisation malveillante de l'IA générative, selon DeepMind