Le ministre irlandais du Logement, Darragh O'Brien, a déclaré cette semaine que le gouvernement était préoccupé par l'utilisation potentielle de l'IA pour propager la désinformation pendant les prochaines élections dans le pays. Dans une lettre adressée à la Commission électorale, il a comparé l'IA à une "arme dangereuse" que les acteurs étatiques ou non étatiques pourraient utiliser pour attaquer les processus démocratiques en Irlande et dans le monde. Il estime que sans des garde-fous solides pour réguler l'essor de l'IA, le débat démocratique sera miné et faussé par la bile virtuelle alimentée par les données. Ses craintes sont partagées par l'UE et d'autres gouvernements dans le monde.L'IA a le potentiel d'impacter positivement la vie de millions de gens à travers le monde et d'accélérer les progrès dans plusieurs domaines, allant de l'agriculture à la médecine en passant par la conduite autonome. Cependant, l'IA peut également entraîner une série de conséquences inattendues. L'une des plus pernicieuses pourrait être la capacité de l'IA à diffuser des informations erronées à un rythme et à une échelle jamais vus auparavant. De nombreux gouvernements partagent cette crainte, mais sont surtout préoccupés par les conséquences d'une telle désinformation en période électorale. Beaucoup pensent que cela pourrait saper la démocratie.
Les prochaines élections irlandaises devraient avoir lieu début 2025 et le gouvernement irlandais n'est pas indifférent face à cette menace. Le ministre Darragh O'Brien, qui est également responsable de la réforme électorale, a écrit à la nouvelle Commission électorale pour lui faire part de ses craintes quant à la capacité de l'IA à créer et à diffuser des infox en ligne à une échelle jamais vue auparavant. Selon les médias locaux, dans sa lettre, O'Brien a demandé à la Commission électorale de sensibiliser les citoyens aux dangers potentiels de l'IA non réglementée et de la désinformation afin de préserver la démocratie et le bon fonctionnement des institutions.
« L'IA augmente de manière exponentielle la capacité des acteurs malveillants - étatiques ou non étatiques - à s'attaquer directement à nos processus démocratiques. Nous devons être sur nos gardes face à ces nouveaux défis », a déclaré O'Brien. Le ministre a rappelé qu'un thème central des fonctions de la Commission électorale est de lutter contre la désinformation et d'éduquer le public sur la prolifération des infox et des théories du complot. Ce dernier a également prévenu la Commission électorale que sans des garde-fous solides pour réguler l'essor de l'IA, le débat démocratique sera miné et faussé par la bile virtuelle alimentée par les données.
« La recherche et l'éducation des citoyens sont essentielles pour faire face à la menace croissante de l'IA », a déclaré le ministre. D'après lui, l'IA permettra un ciblage beaucoup plus précis des messages, une analyse plus fine des données en ligne et une réaction rapide aux évolutions politiques. « En effet, l'utilisation généralisée de l'IA décentralisera cette capacité en dehors des organisations politiques et la diffusera dans la population. Lorsque l'IA se retrouvera entre les mains de partis politiques de mauvaise foi ou d'activistes malveillants, ces capacités pourraient être utilisées comme une arme contre les piliers de notre démocratie », a déclaré O'Brien.
Le ministre irlandais fait en fait référence à des mises en garde d'experts selon lesquelles des outils d'IA puissants et bon marché pourraient permettre à n'importe qui de créer de fausses images, de fausses vidéos et de faux sons suffisamment réalistes pour tromper les électeurs et faire basculer une élection. L'Irlande a été l'un des pays leaders en matière de politique de réglementation de l'IA, soulignant l'importance de réglementer l'IA générative, de nommer des experts à certains postes clés pour s'attaquer au problème et de créer des cadres à grande échelle pour la gestion de l'IA (comme la National Artificial Intelligence Strategy adoptée en 2021).
O'Brien a cité des "innovations à couper le souffle telles que ChatGPT" et une publicité politique générée par l'IA pour le compte du parti républicain américain comme exemples de la croissance rapide de la nouvelle technologie. Diffusée en avril dernier, cette publicité dépeint une vision dystopique des États-Unis si le président Joe Biden est réélu, avec des vagues d'immigration en provenance du Mexique et un effondrement de la civilisation dans des villes telles que San Francisco. Elle utilise l'IA pour créer des vidéos et des images à partir d'un matériel en ligne facilement accessible. Cela soulève des questions inquiétantes sur l'avenir des deepfakes.
La vidéo montre aussi des immeubles de Wall Street laissés à l'abandon. Un petit avertissement en haut à gauche du cadre indique "vidéo entièrement construite avec des images générée par l'IA", et la légende sous la vidéo YouTube indique "un regard généré par l'IA de l'avenir possible du pays si Joe Biden est réélu en 2024". On ne sait pas exactement les outils d'IA qui ont été utilisés pour créer les images ni si cela aurait constitué une violation des conditions d'utilisation des outils. Un certain nombre de systèmes d'IA de génération d'images très connus, comme Midjourney et DALL-E, interdisent la création d'images ouvertement politiques.
Par exemple, Midjourney ne permet pas aux utilisateurs de générer des images du président chinois Xi Jinping pour "minimiser le drame" et a interdit l'utilisation du terme "arrêté". Cependant, la plupart des images de la publicité sont assez génériques et pourraient probablement être générées sans tomber sous le coup des filtres d'aucun système. D'autres questions soulevées par la vidéo sont complexes et préoccupantes. De nombreux experts ont mis en garde contre l'utilisation de deepfakes générés par l'IA pour diffuser des informations politiques erronées, mais qu'en est-il si ces informations erronées proviennent des hommes politiques eux-mêmes ?
De fausses images montrant Donald Trump arrêté et portant des vêtements de prisonnier ont été largement partagées sur les médias sociaux avant l'inculpation de Trump devant le tribunal pénal de Manhattan. En mars, Trump a partagé une fausse image de lui à genoux en train de prier sur Truth Social. Les contenus générés par l'IA sont entrés dans une nouvelle ère de légitimité, mais l'utilisation de vidéos, d'audios et d'images truquées existe depuis plusieurs années. Une fausse vidéo de l'ancien président Barack Obama qualifiant Trump de "crétin total et complet" a circulé en 2018. Mais l'IA générative nous met au bord d'une crise des deepfakes.
Une étude a récemment révélé que 3 % des répondants étaient moins susceptibles de distinguer les faux tweets générés par l'IA de ceux rédigés par des humains. « Cet écart de crédibilité, bien que faible, est préoccupant étant donné que le problème de la désinformation générée par l'IA semble sur le point de prendre une ampleur considérable. », a déclaré Giovanni Spitale, le chercheur de l'université de Zurich qui a dirigé l'étude. Il pense que si l'équipe répétait l'étude avec le dernier grand modèle de langage (LLM) d'OpenAI, GPT-4, la différence serait encore plus grande, étant donné la puissance de GPT-4. Il s'agit du modèle d'IA le plus puissant d'OpenAI.
Les pouvoirs conférés à la Commission électorale irlandaise lui permettront d'obliger les entreprises de médias sociaux, telles que Twitter et Facebook, à supprimer la désinformation susceptible d'influer sur les votes. La Commission pourra également demander aux entreprises d'informer les utilisateurs de leurs plateformes si des Infox sont diffusées avant ou pendant les élections et les référendums. Par ailleurs, la Commission européenne prépare de nouvelles directives à l'intention des États membres afin de réglementer l'IA et de permettre aux citoyens d'intenter une action en justice contre les entreprises qui développent ces logiciels.
Mais il faudra un certain temps avant que les directives ne soient adoptées et les gouvernements sont engagés dans une course contre la montre pour s'assurer que la technologie n'est pas utilisée par des acteurs malveillants pour nuire aux votes démocratiques dans l'ensemble de l'UE.
Source : lettre adressée par le ministre irlandais du Logement, Darragh O'Brien, à la Commission électorale
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
Les publicités générées par l'IA visant à attaquer des adversaires politiques sont là et les implications sont terrifiantes, une IA dépeint une vision dystopique des États-Unis si Joe Biden est réélu Deepfake : la Chine veut réglementer les médias générés par l'IA qui ont été créés sans autorisation afin de lutter contre les activités criminelles en ligne Le Congrès américain s'équipe de 40 licences de ChatGPT Plus pour expérimenter l'IA générative, principalement pour la « synthèse et la création de contenu », ce qui soulève des questions éthiques La bande dessinée générée par l'IA perd la protection du droit d'auteur qui lui avait été accordée, l'USPTO estime que les œuvres protégées par le droit d'auteur nécessitent la paternité humaine