L'IA générative pourrait rendre les deepfakes de l'arène publique beaucoup plus dangereux et dévastateurs qu'auparavant. Le parti républicain a réagi mardi à l'annonce de la candidature de Joe Biden à l'élection présidentielle de 2024 par une publicité générée par l'IA qui dépeint une vision dystopique des États-Unis s'il est réélu. Dans la vidéo, l'IA suggère que la réélection de Joe Biden entraînera une série de crises, avec des images représentant des explosions à Taïwan après une invasion chinoise et des déploiements militaires dans ce que l'on suppose être des rues américaines. La vidéo soulève des questions inquiétantes sur l'avenir des deepfakes.Le Comité national républicain (RNC) a diffusé une vidéo apocalyptique concernant un second mandat Biden-Harris quelques instants après que le président Joe Biden a annoncé sa campagne de réélection. Elle est le dernier signe en date montrant que le contenu généré par l'IA pourrait modifier le paysage des campagnes politiques. La vidéo montre des images générées par l'IA montrant la victoire de Joe Biden et de la vice-présidente Kamala Harris lors de la soirée électorale de l'année prochaine, suivies de scènes simulées d'explosions à Taïwan, de policiers en tenue tactique dans les rues de San Francisco et de migrants envahissant la frontière sud du pays.
Elle montre également des immeubles de Wall Street laissés à l'abandon. Un petit avertissement en haut à gauche du cadre indique "vidéo entièrement construite avec des images générée par l'IA", et la la légende sous la vidéo YouTube indique "un regard généré par l'IA de l'avenir possible du pays si Joe Biden est réélu en 2024". On ne sait pas exactement quels outils d'IA ont été utilisés pour créer les images ni si cela aurait constitué une violation des conditions d'utilisation des outils. Il faut noter qu'un certain nombre de systèmes d'IA de génération d'images très connus, comme Midjourney et DALL-E, interdisent la création d'images ouvertement politiques.
Par exemple, Midjourney ne permet pas aux utilisateurs de générer des images du président chinois Xi Jinping pour "minimiser le drame" et a interdit l'utilisation du terme "arrêté". Cependant, la plupart des images de la publicité sont assez génériques et pourraient probablement être générées sans tomber sous le coup des filtres d'aucun système. D'autres questions soulevées par la vidéo sont complexes et préoccupantes. De nombreux experts ont mis en garde contre l'utilisation de deepfakes générés par l'IA pour diffuser des informations politiques erronées, mais qu'en est-il si ces informations erronées proviennent des hommes politiques eux-mêmes ?
Et comment tracer la ligne entre la désinformation et la campagne politique ordinaire ? Par exemple, le RNC aurait pu inclure des images générées par l'IA montrant Joe Biden dans un fauteuil roulant. Les téléspectateurs pourraient bien confondre ces images avec de vraies photographies, surtout si les avertissements sont aussi petits qu'ils le sont dans la publicité du mardi. Si les politiciens adoptent les deepfakes, ils pourraient également avoir plus de liberté pour partager ce type de contenu en ligne. En 2020, Meta, propriétaire de Facebook et d'Instagram, a interdit les contenus générés par l'IA susceptibles d'induire les spectateurs en erreur.
Mais l'entreprise a refusé de répondre à des questions sur le fait de savoir si cette règle s'appliquait également aux politiciens, qui sont déjà exemptés de la vérification des faits. La publicité diffusée par le RNC ne s'éloigne pas trop du type de discours que l'on pourrait attendre des membres du parti républicain dans une publicité d'attaque. Mais la vidéo est un signe avant-coureur de ce que nous risquons de voir de plus en plus souvent dans les campagnes politiques au cours des mois et des années à venir. Il n'est pas difficile d'imaginer des images générées par l'IA décrivant des mensonges purs et simples dans les publicités d'attaque.
Un porte-parole du RNC a confirmé à Axios qu'il s'agissait de la première publicité de ce type diffusée par l'organisation. En réponse à la vidéo, le directeur du Comité national démocrate (DNC), Sam Cornale, a suggéré que l'utilisation de l'IA par le RNC était un acte de désespoir. « Lorsque votre classe d'agents a été décimée et que vous suivez les...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.