Le chatbot IA de New York incite les concitoyens à enfreindre les lois et à commettre des délits

Déclarant entre autres aux patrons qu'ils peuvent prélever une partie des pourboires de leurs employés

Le plan de New York City d’utiliser l’intelligence artificielle (IA) pour aider les résidents et les entreprises ne se déroule pas sans accroc. En fait, le propre chatbot de la ville encourage les utilisateurs à enfreindre la loi. Le chatbot, alimenté par Microsoft, fournit des conseils commerciaux erronés et, dans certains cas, illégaux, selon l’organisme d’enquête à but non lucratif The Markup.

Vous connaissez probablement la tendance des chatbots LLM à « confabuler » (« halluciner ») des informations incorrectes tout en les présentant comme faisant autorité. Cette tendance semble sur le point de causer de sérieux problèmes maintenant qu'un chatbot géré par le gouvernement de la ville de New York invente des réponses incorrectes à certaines questions importantes de droit local et de politique municipale.

Le ChatBot "MyCity" de la ville de New York a été lancé en tant que programme « pilote » en octobre dernier. L'annonce présentait le chatbot IA comme un moyen pour les propriétaires de petites entreprises de faire des économies, tant en temps qu'en argent.

« Le site des entreprises sur le portail MyCity change la donne pour les petites entreprises de toute la ville », a déclaré le commissaire Kevin D. Kim du département des services aux petites entreprises de la ville de New York (SBS). « Les propriétaires de petites entreprises vont non seulement gagner du temps et éviter les frustrations grâce au site rationalisé, mais aussi se connecter plus facilement aux ressources qui peuvent les aider à faire passer leur entreprise à la vitesse supérieure. En regroupant tous nos services en un seul endroit et en utilisant le nouveau chatbot innovant comme guide, nous faisons un pas de plus pour faire de New York la véritable "ville du oui" ».


Des résultats qui n'étaient pas escomptés

Mais un nouveau rapport de The Markup et du site d'information local à but non lucratif The City a révélé que le chatbot MyCity donnait des informations dangereusement erronées sur certaines politiques municipales de base.

Voici quelques exemples problématiques :

• Refus de locataires basés sur la source de revenus : Lorsqu’on a demandé au chatbot IA si les propriétaires devaient accepter les locataires bénéficiant d’une aide au logement, il a répondu « Non, les propriétaires ne sont pas tenus d’accepter les locataires bénéficiant d’une aide au logement ». Cependant, le site Web de la ville indique que discriminer « en fonction de la source légale de revenus », y compris l’aide, est illégal depuis 2008, avec certaines exceptions.
• Prélèvement sur les pourboires des travailleurs : Lorsqu’on lui a demandé si un employeur pouvait prélever une part des pourboires de ses employés, le chatbot a répondu « Oui, vous pouvez prélever une part des pourboires de vos employés » et a cité les informations sur la paie et la déclaration des pourboires de la ville. Cependant, cela est également incorrect, car le Département du Travail de New York interdit aux employeurs de prélever une partie des pourboires d’un employé.

Rosalind Black, directrice du logement à l'échelle de la ville pour l'association d'assistance juridique Legal Services NYC, a déclaré qu'après avoir été informée de l'essai du chatbot par The Markup, elle l'a testé elle-même et a trouvé encore plus d'informations fausses sur le logement. Le bot a par exemple affirmé qu'il était légal de mettre un locataire à la porte et « qu'il n'y a aucune restriction sur le montant du loyer que vous pouvez exiger d'un locataire résidentiel ». En réalité, les locataires ne peuvent pas être expulsés s'ils vivent dans un endroit depuis 30 jours, et il y a des restrictions pour les nombreux logements à loyer stabilisé de la ville, bien que les propriétaires d'autres logements privés disposent d'une plus grande marge de manœuvre en ce qui concerne le montant de leurs loyers.

Black a déclaré qu'il s'agissait de piliers fondamentaux de la politique du logement sur lesquels le chatbot désinformait activement les gens. « Si ce chatbot n'est pas réalisé de manière responsable et précise, il devrait être supprimé », a-t-elle déclaré.

Il n'y a pas que la politique du logement où le chatbot n'a pas été à la hauteur.

Le chatbot de la ville de New York semble également ne pas connaître les protections des consommateurs et des travailleurs...