Les risques et les échecs des systèmes d'IA sont plus palpables et plus nombreux que jamais. Selon une enquête menée par le MIT Sloan Management Review et le Boston Consulting Group, les outils d’IA tiers sont responsables de plus de 55 % des échecs liés à l’IA dans les organisations. Les entreprises n’ont pas entièrement adapté leurs programmes de gestion des risques des tiers au contexte de l’IA ou aux défis liés au déploiement en toute sécurité de systèmes complexes tels que les produits d’IA générative. Les échecs pourraient entraîner une atteinte à la réputation, des pertes financières, une perte de confiance des consommateurs, voire des litiges.Malgré une utilisation répandue, les risques liés aux outils d'IA tiers ne sont pas souvent évalués. Alors que plus des trois quarts des organisations interrogées par les chercheurs utilisent des outils d'IA tiers, plus de la moitié des défaillances liées à l'IA découlent de l'utilisation de ces outils.
Les outils d'IA tiers sont définis comme des outils d'IA auxquels une organisation accède, qu'elle achète ou dont elle acquiert la licence.
« Les appels à suspendre le développement des systèmes d'IA ne résoudront pas les défis liés à leur mise sur pied », d'après Bill Gates. Le cofondateur de Microsoft s'est équilibré sur la question de l’intelligence artificielle : c’est l’avancée technologique la plus importante depuis des décennies. C’est en même temps une potentielle menace pour l’humanité. En gros, c’est une technologie qui peut être utilisée à des fins bénéfiques ou maléfiques. Raison pour laquelle il conseille aux chercheurs de poursuivre les travaux en la matière pour aller à la recherche de solutions aux dangers qui résulte de son utilisation. La mise sur pied des robots tueurs est l’un des domaines d’application de l’intelligence artificielle et les négociations coincent depuis plusieurs années à l’échelle internationale quant à ce qui concerne l’établissement de règles internationales contraignantes.
Reconnaissant le problème de l'IA fantôme, Simon Chesterman, directeur principal de la gouvernance de l'IA à l'institut de recherche AI Singapore, déclare que l'un des plus grands défis est « que nous ne savons pas ce que nous ne savons pas ». L'IA tierce rend ce problème encore plus difficile lorsque les équipes d'une organisation sont en mesure d'engager des fournisseurs sans suivi.
Bien qu'il n'existe pas de solution miracle pour atténuer les risques liés à l'IA tierce, ou à tout autre type de risque lié à l'IA d'ailleurs, l'utilisation d'une grande variété d'approches et de méthodes différentes pour évaluer les outils tiers semble être plus efficace que l'utilisation d'un plus petit nombre d'approches. Par exemple, les organisations qui utilisent sept méthodes différentes sont plus de deux fois plus susceptibles de découvrir des défaillances de l'IA que celles qui n'en utilisent que trois (51 % contre 24 %).
Chatbots d’IA et diffamation : les conséquences dans le monde réel
Quelques mois à peine après son lancement, l'outil ChatGPT d'OpenAI a cristallisé l'attention sur les capacités, ainsi que sur les défis et les échecs éthiques de l'intelligence artificielle. D'innombrables exemples de sujets traités par le chatbot ont vu le jour, notamment la fausse accusation de harcèlement sexuel d'un professeur de droit et l'implication d'un maire australien dans un faux scandale de corruption, ce qui a donné lieu au premier procès contre un chatbot d'IA pour diffamation.
En avril, Jonathan Turley, professeur de droit à l'université George Washington, a appris qu'il était l'accusé dans une affaire de harcèlement sexuel. Le professeur n'avait pas connaissance de cette parce qu'elle était inventée de toutes pièces par ChatGPT. En fait, dans le cadre d'une étude, un collègue avocat californien a demandé à ChatGPT de générer une liste de juristes ayant harcelé sexuellement quelqu'un.
À sa grande surprise, le nom de Turley figurait sur la liste générée par le Chatbot d'IA d'OpenAI. Le collègue a ensuite envoyé un courriel à Turley pour l'informer de sa découverte. En développant l'histoire concernant Turley, ChatGPT a déclaré que le professeur avait fait des commentaires sexuellement suggestifs et tenté de toucher une étudiante lors d'un voyage de classe en Alaska, citant un article de mars 2018 du Washington Post comme source.
Brian Hood, maire de la ville de Hepburn Shire Council, au nord de Melbourne, en Australie, envisage de poursuivre OpenAI pour diffamation après que ses administrés ont commencé à lui dire que ChatGPT avait allégué qu'il purgeait une peine de prison pour corruption. Mais la réalité était tout autre. Non seulement, Hood affirme qu'il n'a jamais été en prison, mais qu'il est le dénonciateur qui a signalé la corruption en premier lieu. Cette histoire montre une fois de plus que le problème l'hallucination et les erreurs fréquentes de ChatGPT, mais également des chatbots d'IA concurrents, commencent à avoir des conséquences dans le monde réel.
« Il s'agit d'un élu, sa réputation est au cœur de son rôle. Ce serait potentiellement d'un moment historique dans le sens où il s'agit d'appliquer la loi sur la diffamation à un nouveau domaine de l'IA et de la publication dans le secteur des technologies de l'information », a déclaré l'avocat James Naughton, partenaire de Gordon Legal, qui représente Hood. Les administrés du maire l'ont informé que le chatbot d'IA a prétendu qu'il faisait partie des personnes reconnues coupables dans une affaire de corruption qui s'est déroulée entre 1999 et 2004 et qui impliquait une entité de la Banque de réserve d'Australie, notamment Note Printing Australia.
En avril, Samsung a fait la une des journaux lorsque trois de ses employés ont accidentellement divulgué des informations confidentielles de l'entreprise, notamment des notes de réunions internes et du code source, en les entrant dans ChatGPT. Cette nouvelle a incité de nombreuses entreprises, telles que JPMorgan et Verizon, à bloquer l'accès aux...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.