L'IA générative pourrait rendre les deepfakes de l'arène publique beaucoup plus dangereux et dévastateurs qu'auparavant. Le parti républicain a réagi mardi à l'annonce de la candidature de Joe Biden à l'élection présidentielle de 2024 par une publicité générée par l'IA qui dépeint une vision dystopique des États-Unis s'il est réélu. Dans la vidéo, l'IA suggère que la réélection de Joe Biden entraînera une série de crises, avec des images représentant des explosions à Taïwan après une invasion chinoise et des déploiements militaires dans ce que l'on suppose être des rues américaines. La vidéo soulève des questions inquiétantes sur l'avenir des deepfakes.Le Comité national républicain (RNC) a diffusé une vidéo apocalyptique concernant un second mandat Biden-Harris quelques instants après que le président Joe Biden a annoncé sa campagne de réélection. Elle est le dernier signe en date montrant que le contenu généré par l'IA pourrait modifier le paysage des campagnes politiques. La vidéo montre des images générées par l'IA montrant la victoire de Joe Biden et de la vice-présidente Kamala Harris lors de la soirée électorale de l'année prochaine, suivies de scènes simulées d'explosions à Taïwan, de policiers en tenue tactique dans les rues de San Francisco et de migrants envahissant la frontière sud du pays.
Elle montre également des immeubles de Wall Street laissés à l'abandon. Un petit avertissement en haut à gauche du cadre indique "vidéo entièrement construite avec des images générée par l'IA", et la la légende sous la vidéo YouTube indique "un regard généré par l'IA de l'avenir possible du pays si Joe Biden est réélu en 2024". On ne sait pas exactement quels outils d'IA ont été utilisés pour créer les images ni si cela aurait constitué une violation des conditions d'utilisation des outils. Il faut noter qu'un certain nombre de systèmes d'IA de génération d'images très connus, comme Midjourney et DALL-E, interdisent la création d'images ouvertement politiques.
Par exemple, Midjourney ne permet pas aux utilisateurs de générer des images du président chinois Xi Jinping pour "minimiser le drame" et a interdit l'utilisation du terme "arrêté". Cependant, la plupart des images de la publicité sont assez génériques et pourraient probablement être générées sans tomber sous le coup des filtres d'aucun système. D'autres questions soulevées par la vidéo sont complexes et préoccupantes. De nombreux experts ont mis en garde contre l'utilisation de deepfakes générés par l'IA pour diffuser des informations politiques erronées, mais qu'en est-il si ces informations erronées proviennent des hommes politiques eux-mêmes ?
Et comment tracer la ligne entre la désinformation et la campagne politique ordinaire ? Par exemple, le RNC aurait pu inclure des images générées par l'IA montrant Joe Biden dans un fauteuil roulant. Les téléspectateurs pourraient bien confondre ces images avec de vraies photographies, surtout si les avertissements sont aussi petits qu'ils le sont dans la publicité du mardi. Si les politiciens adoptent les deepfakes, ils pourraient également avoir plus de liberté pour partager ce type de contenu en ligne. En 2020, Meta, propriétaire de Facebook et d'Instagram, a interdit les contenus générés par l'IA susceptibles d'induire les spectateurs en erreur.
Mais l'entreprise a refusé de répondre à des questions sur le fait de savoir si cette règle s'appliquait également aux politiciens, qui sont déjà exemptés de la vérification des faits. La publicité diffusée par le RNC ne s'éloigne pas trop du type de discours que l'on pourrait attendre des membres du parti républicain dans une publicité d'attaque. Mais la vidéo est un signe avant-coureur de ce que nous risquons de voir de plus en plus souvent dans les campagnes politiques au cours des mois et des années à venir. Il n'est pas difficile d'imaginer des images générées par l'IA décrivant des mensonges purs et simples dans les publicités d'attaque.
Un porte-parole du RNC a confirmé à Axios qu'il s'agissait de la première publicité de ce type diffusée par l'organisation. En réponse à la vidéo, le directeur du Comité national démocrate (DNC), Sam Cornale, a suggéré que l'utilisation de l'IA par le RNC était un acte de désespoir. « Lorsque votre classe d'agents a été décimée et que vous suivez les républicains au bord de la falaise, je suppose que vous n'avez pas d'autre choix que de demander à l'IA de vous aider », a-t-il tweeté mardi. La vidéo rappelle les parodies de personnalités politiques de premier plan, , comme Donal Trump, générées par l'IA qui sont devenues virales au cours des derniers mois.
De fausses images montrant Trump arrêté et portant des vêtements de prisonnier ont été largement partagées sur les médias sociaux avant l'inculpation de Trump devant le tribunal pénal de Manhattan. En mars, Trump a également partagé une fausse image de lui à genoux en train de prier sur Truth Social. Les contenus générés par l'IA sont entrés dans une nouvelle ère de légitimité, mais l'utilisation de vidéos, d'audios et d'images truquées existe depuis plusieurs années. Une fausse vidéo de l'ancien président Barack Obama qualifiant Trump de "crétin total et complet" a circulé en 2018. Mais l'IA générative nous met au bord d'une crise des deepfakes.
Selon certaines sources, les démocrates et les républicains auraient tous deux l'intention d'exploiter les capacités de l'IA pendant le cycle électoral de 2024 dans le but de rationaliser les opérations. Au début de la semaine, l'on a appris que le service numérique de la Chambre des représentants des États-Unis a payé 40 licences pour ChatGPT Plus, la version avancée du chatbot d'IA ChatGPT d'OpenAI. Cette initiative représente l’un des premiers exemples de l’utilisation de ChatGPT dans le cadre du processus d’élaboration des politiques. Cela indique que les deux partis pourraient fortement s'appuyer sur ChatGPT lors des campagnes électorales.
Cette initiative, bien qu'intéressante, soulève aussi des questions éthiques et pratiques sur l’utilisation de l’IA générative dans le cadre du processus d’élaboration des politiques. Autant de questions auxquelles il faudra répondre avant d'en faire un usage plus généralisé. Par exemple :
- comment garantir la fiabilité, la transparence et la responsabilité des contenus créés ou résumés par ChatGPT Plus ?
- comment éviter les biais, les erreurs ou les manipulations possibles de l’outil ou des données utilisées ?
- comment protéger la vie privée et la sécurité des utilisateurs et des citoyens concernés par les contenus générés ?
- comment assurer la conformité aux lois et aux normes éthiques en vigueur dans le domaine de l’intelligence artificielle ?
- comment former et sensibiliser le personnel du Congrès à l’utilisation appropriée et efficace de ChatGPT Plus ?
Dans les milieux technologiques, l'année 2022 a été déclarée année de l'IA générative. Les sociétés de capital-risque vantent l'IA générative comme "le début d'un changement de plateforme technologique". Et l'IA générative est à l'origine des préoccupations concernant l'avenir de l'écriture, de la musique, du journalisme et, bien sûr, de l'art. Le verdict des médias économiques et financiers est tombé : « l'IA générative est la nouvelle frontière du développement dans l'espace technologique, et de nombreux investisseurs en capital-risque cherchent à investir dans des startups spécialisées dans le développement et la recherche sur l'IA générative ».
Cela montre bien que l'IA générative est en train de devenir une activité très lucrative, presque la nouvelle frontière en matière de tendances technologiques monétisables. Mais il s'agit d'une pente glissante. Les deepfakes existaient déjà avant que l'IA générative ne devienne populaire, mais leur création nécessitait un certain degré d'expertise technique et de savoir-faire. Même avant l'apparition d'applications d'IA générative comme Lensa, les deepfakes faisaient des ravages dans la vie des gens. Des femmes qui n'avaient jamais pris de nus d'elles-mêmes ont vu leurs photos nues publiées en ligne.
Les deepfakes basés sur des images à caractère pornographique sont devenus un nouveau genre, mettant en scène des personnes qui n'avaient jamais consenti à ce que leurs photos soient utilisées de cette manière. Les deepfakes ont même facilité le vol d'identité et l'usurpation d'identité. Ils ont également commencé à compromettre la confidentialité des données médicales. À titre d'exemple, une étude de Nature a montré qu'il était possible de générer de faux relevés d'électrocardiogramme, soulignant la vulnérabilité de ces informations lorsqu'elles se trouvent dans le domaine public.
Aujourd'hui, les investisseurs sollicitent activement les startups spécialisées dans l'IA générative. Ainsi, les données pour lesquelles nous renonçons à notre vie privée peuvent revenir nous hanter avec l'avènement de l'IA générative. Ce qui est en jeu ici n'est rien de moins que notre pouvoir sur nos voix, nos compétences, notre travail, nos images et nos paroles - en bref, tout ce qui fait de nous des individus uniques. Si l'IA générative cherche à modifier la manière dont le contenu est créé (dévalorisant ainsi la créativité humaine), elle légitime également l'utilisation de nos images à des fins commerciales.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la vidéo publiée par les républicains ? Quels sont les préoccupations éthiques que pose l'utilisation de l'IA générative par les politiques ? Selon vous, doit-on autoriser l'utilisation de l'IA générative dans les attaques politiques ?Voir aussi
Le Congrès américain s'équipe de 40 licences de ChatGPT Plus pour expérimenter l'IA générative, principalement pour la « synthèse et la création de contenu », ce qui soulève des questions éthiques Stability AI lance StableLM, une alternative open source à ChatGPT qui utilise beaucoup de paramètres pour atteindre des performances similaires à celles de GPT-3 Un artiste opposé aux images générées par IA se sert de Mickey Mouse pour déclencher des poursuites en copyright, « le savoir-faire, les efforts et les idées des gens sont pris sans consentement... » La bande dessinée générée par l'IA perd la protection du droit d'auteur qui lui avait été accordée, l'USPTO estime que les œuvres protégées par le droit d'auteur nécessitent la paternité humaine