Les législateurs brésiliens ont adopté ce qui semble être la première législation du pays entièrement rédigée par l'intelligence artificielle - même s'ils ne le savaient pas à l'époque.L'ordonnance expérimentale a été adoptée en octobre dans la ville de Porto Alegre, dans le sud du pays, et le conseiller municipal Ramiro Rosário a révélé cette semaine qu'elle avait été rédigée par un chatbot, ce qui a suscité des objections et soulevé des questions sur le rôle de l'intelligence artificielle dans les politiques publiques.
M. Rosário a expliqué qu'il avait demandé au chatbot ChatGPT d'OpenAI de rédiger une proposition visant à empêcher la ville de faire payer aux contribuables le remplacement des compteurs de consommation d'eau s'ils sont volés. Il l'a ensuite présentée à ses 35 collègues du conseil municipal sans y apporter la moindre modification ni même les informer de son origine inédite.
"Si je l'avais révélée avant, la proposition n'aurait certainement pas été soumise au vote", a déclaré M. Rosário. Les 36 membres du conseil l'ont approuvée à l'unanimité et l'ordonnance est entrée en vigueur le 23 novembre.
"Il serait injuste pour la population de courir le risque que le projet ne soit pas approuvé simplement parce qu'il a été écrit par une intelligence artificielle", a-t-il ajouté.
L'arrivée de ChatGPT sur le marché il y a tout juste un an a suscité un débat mondial sur l'impact de chatbots potentiellement révolutionnaires dotés d'une intelligence artificielle. Si certains y voient un outil prometteur, d'autres s'inquiètent des conséquences involontaires ou indésirables de la prise en charge par une machine de tâches actuellement accomplies par des humains.
Porto Alegre, qui compte 1,3 million d'habitants, est la deuxième ville du sud du Brésil. Le président du conseil municipal, Hamilton Sossmeier, a découvert que Rosário avait fait appel à ChatGPT pour rédiger la proposition lorsque le conseiller municipal s'est vanté de son exploit sur les médias sociaux. M. Sossmeier a d'abord déclaré aux médias locaux qu'il pensait qu'il s'agissait d'un "dangereux précédent".
Les grands modèles linguistiques d'IA qui alimentent les chatbots tels que ChatGPT fonctionnent en essayant de manière répétée de deviner le mot suivant dans une phrase et sont enclins à inventer de fausses informations, un phénomène parfois appelé hallucination.
Tous les chatbots introduisent parfois de fausses informations lorsqu'ils résument un document, dans une proportion allant d'environ 3 % pour le modèle GPT le plus avancé à un taux d'environ 27 % pour l'un des modèles de Google, selon une étude récemment publiée par l'entreprise technologique Vectara.
Dans un article publié sur le site web du Center of Legal Profession de la Harvard Law School au début de l'année, Andrew Perlman, doyen de la Suffolk University Law School, a écrit que ChatGPT "pourrait présager un changement encore plus important que l'avènement de l'internet", mais a également mis en garde contre ses lacunes potentielles.
"Il ne sera peut-être pas toujours en mesure de tenir compte des nuances et des complexités de la loi. ChatGPT étant un système d'apprentissage automatique, il peut ne pas avoir le même niveau de compréhension et de jugement qu'un avocat humain lorsqu'il s'agit d'interpréter des principes juridiques et des précédents. Cela pourrait entraîner des problèmes dans des situations où une analyse juridique plus approfondie est nécessaire", a écrit M. Perlman.
M. Rosário, de Porto Alegre, n'est pas le premier législateur au monde à tester les capacités du ChatGPT. D'autres l'ont fait de manière plus limitée ou avec des résultats moins probants.
Dans le Massachusetts, le sénateur démocrate Barry Finegold s'est tourné vers ChatGPT pour l'aider à rédiger un projet de loi visant à réglementer les modèles d'intelligence artificielle, y compris ChatGPT. Déposée au début de l'année, elle n'a pas encore été votée.
M. Finegold a déclaré par téléphone, le mercredi 29 novembre, que ChatGPT peut contribuer à certains des éléments les plus fastidieux du processus législatif, notamment la recherche et la citation correctes et rapides de lois déjà en vigueur. Cependant, il est essentiel que tout le monde sache que ChatGPT ou un outil similaire a été utilisé dans le processus, a-t-il ajouté.
"Nous voulons que le travail généré par ChatGPT soit protégé par un filigrane", a-t-il déclaré, ajoutant que l'utilisation de l'intelligence artificielle pour aider à rédiger de nouvelles lois est inévitable. "Je suis favorable à l'utilisation de ChatGPT pour rédiger des projets de loi, à condition que ce soit clair."
La proposition de M. Rosário à Porto Alegre n'a pas fait preuve d'une telle transparence. Selon M. Sossmeier, M. Rosário n'a pas informé les autres membres du conseil que ChatGPT avait rédigé la proposition.
Garder le secret sur l'origine de la proposition était intentionnel. M. Rosário a expliqué que son objectif n'était pas seulement de résoudre un problème local, mais aussi de susciter un débat. Il a indiqué qu'il avait saisi une requête de 49 mots dans le ChatGPT et que celui-ci lui avait renvoyé le projet de proposition complet en quelques secondes, y compris les justifications.
"Je suis convaincu que l'humanité va connaître une nouvelle révolution technologique", a-t-il déclaré. "Tous les outils que nous avons développés en tant que civilisation peuvent être utilisés pour le bien comme pour le mal. C'est pourquoi nous devons montrer comment ils peuvent être utilisés pour le bien".
Le président du conseil, qui avait d'abord décrié la méthode, semble déjà avoir changé d'avis.
"J'ai changé d'avis", a déclaré M. Sossmeier. "J'ai commencé à lire plus en profondeur et j'ai vu que, malheureusement ou heureusement, cela va devenir une tendance."
Source : Ramiro Rosário, conseiller municipal
Et vous ?
Quel est votre avis sur le sujet ? Voir aussi
Un juge britannique estime que ChatGPT est « très utile » après l'avoir utilisé pour rédiger une décision et a déclaré que la technologie a un « réel potentiel » Un juge utilise ChatGPT pour prendre une décision de justice, alors que l'outil d'IA n'aurait pas encore la maturité suffisante, pour être utilisé dans la prise des décisions conséquentes