Un candidat de longue date au Congrès de Virginie est tellement déterminé à débattre une fois de plus avec le candidat démocrate sortant qu'il a créé un chatbot d'IA pour remplacer le candidat au cas où il ne se présenterait pas. DonBot a été formé à partir des données du site web du candidat Don Beyer et utilise des déductions plutôt que les propres mots de Don Beyer.Un chatbot est une application logicielle ou une interface web conçue pour imiter la conversation humaine par le biais d'interactions textuelles ou vocales. Les chatbots modernes sont généralement en ligne et utilisent des systèmes d'intelligence artificielle générative capables d'entretenir une conversation avec un utilisateur en langage naturel et de simuler la façon dont un humain se comporterait en tant que partenaire de conversation.
À moins d'un mois des élections, la course pour la 8e circonscription électorale de Virginie est pratiquement décidée. Le député en place dans cette circonscription profondément démocrate, Don Beyer, l'a emporté haut la main en 2022, avec près de trois quarts des voix.
Bentley Hensel, ingénieur logiciel pour le groupe CivicActions, qui se présente en tant qu'indépendant, s'est dit frustré par le refus de Don Beyer de participer à d'autres débats depuis septembre. Il a donc mis au point un plan unique qui testera les limites de la bienséance et de la technologie : un débat avec l'intelligence artificielle de Don Beyer. Le candidat a créé le chatbot lui-même, sans l'autorisation de Don Beyer.
C'est l'équivalent moderne de la chaise vide sur scène. DonBot, comme on appelle l'IA de manière ludique, est formé à partir des sites web officiels de Don Beyer, de ses communiqués de presse et des données de la Commission électorale fédérale. L'IA textuelle est basée sur une API d'OpenAI, le fabricant de ChatGPT.
Le chatbot n'a pas pour but d'induire qui que ce soit en erreur et est entraîné à fournir des réponses précises, a déclaré Bentley Hensel, qui a recueilli environ 17 000 dollars de contributions extérieures et de prêts personnels pour sa campagne, contre 1,5 million de dollars pour Don Beyer. "Don Beyer comprend que la meilleure stratégie est d'éviter toute apparition publique, mais les électeurs de cette circonscription méritent de l'entendre, lui et tous les candidats, sur les questions qui les préoccupent."
Le débat, qui devrait être diffusé en ligne le 17 octobre, opposera Bentley Hensel et David Kennedy, un autre candidat indépendant, à DonBot. Le républicain Jerry Torres, qui a levé environ 30 000 dollars pour la course, n'a pas répondu à plusieurs courriels ou appels téléphoniques.
Une porte-parole de Don Beyer a déclaré qu'il avait participé à un forum en septembre avec les trois autres candidats et qu'il n'avait pas l'intention de participer au débat d'octobre. Elle a ajouté que Don Beyer "continue d'être une voix de premier plan au Congrès sur la nécessité d'améliorer la réglementation de l'intelligence artificielle, y compris la législation visant à empêcher les acteurs malveillants d'utiliser l'intelligence artificielle pour diffuser des informations erronées sur les élections".
Si Torres ne participe pas non plus, Hensel prévoit de créer une version IA de lui, selon une invitation adressée à tous les candidats et consultée par Reuters.
CandidateGPT
Hensel et Kennedy reconnaissent que l'utilisation de l'IA est en partie un ultime effort pour attirer l'attention sur une campagne par ailleurs prévisible. Bentley Hensel a déclaré qu'il était également motivé par le désir d'une plus grande transparence.
Bentley Hensel a donné à Reuters un aperçu exclusif de DonBot, également connu sous le nom de CandidateGPT, et le logiciel a généralement donné des réponses directes aux questions de politique, citant souvent le site web de Don Beyer comme source. Interrogé par Reuters sur le contrôle des armes à feu, DonBot a répondu : "Nous avons dépassé le stade de la crise des armes à feu en Amérique" et "l'arrêt de la violence des armes à feu a été l'un des principaux axes de mon travail". À une autre question, le logiciel a répondu : "Je soutiens fermement le droit des femmes à choisir", dans le cadre d'une réponse de cinq phrases indiquant les lois que Don Beyer a approuvées.
Lors de tests limités, le logiciel n'a pas succombé aux suggestions ou aux questions farfelues contenant des faits ou des statistiques inventés, ce que l'on appelle des hallucinations dans le milieu de l'intelligence artificielle. Notant qu'il utilisait des déductions plutôt que les propres mots de Don Beyer, DonBot a rejeté l'idée que les États-Unis bombardent le Nebraska, par exemple : "Bombarder n'importe quelle partie de notre propre pays est totalement inacceptable".
Il a refusé de soutenir la candidature de Trump à la présidence, déclarant : "Je me suis toujours opposé aux politiques et à l'approche du président précédent." Il a précisé qu'il n'avait officiellement soutenu aucune candidature à l'élection présidentielle. Don Beyer a soutenu la candidate démocrate Kamala Harris.
Au moins 26 États envisagent ou ont adopté des règles qui réglementeraient l'utilisation de l'IA générative dans les communications entourant les élections, y compris une plus grande divulgation et l'interdiction pure et simple des "deepfakes" de politiciens. Mais les régulateurs fédéraux n'ont pas réussi à faire avancer une législation générale sur l'IA à temps pour les élections de cette année.
Les "deepfakes" politiques
Trois avocats de Virginie et un organisme de surveillance des élections ont déclaré à Reuters que Don Beyer aurait probablement peu de recours pour empêcher la tenue du débat, s'il essayait, à condition que son image ne soit pas utilisée à des fins commerciales et qu'elle ne soit pas utilisée pour tromper les électeurs en leur donnant l'impression d'être lui. "Ils doivent être très clairs sur le fait qu'il s'agit d'une IA et qu'elle est basée sur les propres mots du candidat", a déclaré Danielle Citron, professeur de droit à l'université de Virginie. Selon elle, l'interdiction des "deepfakes" en Virginie ne s'applique qu'aux contenus à caractère sexuel.
La porte-parole de Don Beyer n'a pas précisé si son camp tenterait d'empêcher la tenue du débat, se contentant de dire qu'il n'avait pas l'intention d'y participer. La commission électorale de l'État de Virginie n'a pas répondu à une demande de commentaire.
Don Beyer suit des cours sur l'intelligence artificielle à l'université George Mason de Virginie et fait partie d'un groupe de travail bipartisan du Congrès sur l'intelligence artificielle.
Kennedy, membre du Council on Governmental Relations, qui a recueilli environ 13 000 dollars sous forme de contributions et de prêts personnels, a déclaré qu'il avait accepté le débat sur l'intelligence artificielle en raison de la "non-compétitivité" de la course et de l'espoir que cela obligerait Don Beyer à se présenter. La porte-parole de Don Beyer a déclaré qu'il avait participé à un forum en ligne avec les autres candidats le 7 octobre.
Le débat en ligne est parrainé par deux organisations à but non lucratif, The True Representation Movement et Black Alumni Alliance National Association. Le True Representation Movement soutient les candidats au Congrès qui s'engagent à voter sur des projets de loi en se basant sur les commentaires d'un groupe de 1 000 électeurs anonymes représentant différents points de vue.
"Je ne suis pas naïve quant à ce qui va se passer en novembre", a déclaré Bentley Hensel, faisant référence à l'avance considérable de Don Beyer dans les sondages. "Mais je crois fermement à une plus grande transparence."
Si l'évolution de cette affaire est à suivre, ce genre d'initiative n’a pas toujours été couronné de succès. En avril 2024, un chatbot doté d'une intelligence artificielle et créé par la ville de New York pour aider les propriétaires de petites entreprises a fait l'objet de critiques car il dispensait des conseils bizarres qui déforment les politiques locales et conseillait aux entreprises d'enfreindre la loi. Pourtant, plusieurs jours après que ces problèmes ont été signalés, la ville a décidé de laisser l'outil sur son site officiel. Le maire Eric Adams a défendu cette décision en reconnaissant que les réponses du chatbot étaient "erronées dans certains domaines".
Source : Bentley Hensel, ingénieur logiciel pour le groupe CivicActions et candidat indépendant
Et vous ?
Pensez-vous que cette initiative est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Le gouverneur de Californie signe 9 projets de loi réglementant les contenus générés par l'IA pour répondre aux risques liés aux "deepfakes", malgré que les Big tech de l'IA y voient un frein à l'innovation Le créateur de la vidéo parodique de Kamala Harris poursuit la Californie en raison de la loi "deepfake", après l'interdiction de sa parodie de la vice-présidente Kamala Harris Un expert en IA « complètement terrifié » par les élections américaines de 2024, qui s'annoncent comme un « tsunami de désinformation », avec l'avènement des deepfakes et les IA génératives 
