Gary Gensler, président de la Securities and Exchange Commission (SEC), a averti que la technologie de l'intelligence artificielle (IA) sera au cœur des futures crises financières. L'autorité de régulation des marchés financiers a présenté une proposition spécifique visant à résoudre certains des problèmes qui pourraient être intégrés dans les modèles d'IA.Gary Gensler, président de la Securities and Exchange Commission (SEC)
Gary Gensler, président de la Securities and Exchange Commission (SEC), a fait part de ses principales préoccupations concernant l'intelligence artificielle (IA) lors d'une interview accordée lundi à Ephrat Livni, de Dealbook. L'essor d'outils d'IA générative tels que Chatgpt indique que la technologie est prête à transformer les entreprises et la société.
Le président de la SEC a déclaré : « Cette technologie sera au centre des futures crises, des futures crises financières... Elle est liée à ce puissant ensemble d'économies d'échelle et de réseaux ». Gensler s'est dit préoccupé par le fait que certains modèles d'IA pourraient donner la priorité aux intérêts des entreprises plutôt qu'à ceux des investisseurs, ce qui pourrait entraîner des conflits d'intérêts. « Vous n'êtes pas censé faire passer le conseiller avant l'investisseur, vous n'êtes pas censé faire passer le courtier avant l'investisseur », a-t-il souligné, ajoutant que la SEC a « présenté une proposition spécifique sur la résolution de ces conflits qui pourraient être intégrés dans les modèles ».
Le président de la SEC craint également que l'IA générative ne donne des conseils financiers erronés. Il a expliqué : « Les conseillers en investissement ont, en vertu de la loi, une obligation fiduciaire, un devoir de diligence et un devoir de loyauté envers leurs clients... Et que vous utilisiez un algorithme, vous avez ce même devoir de diligence ».
Gensler estime qu'il est raisonnable de demander aux entreprises d'établir des mécanismes sécurisés garantissant que les utilisateurs de chatbots ne délèguent pas leurs responsabilités à la technologie de l'IA. Il a souligné que les paramètres sont définis par les humains qui ont construit les modèles et défini les paramètres. Le mois dernier, le président de la SEC a également fait part de ses inquiétudes quant à l'utilisation de l'IA. « L'IA peut également rendre plus difficile la garantie de l'équité. Les résultats de ses algorithmes prédictifs peuvent être basés sur des données reflétant des préjugés historiques ainsi que des caractéristiques latentes qui peuvent par inadvertance être des substituts de caractéristiques protégées », a-t-il averti.
Néanmoins, Gensler a déclaré que « l'IA va continuer à transformer de manière significative la science, la technologie et le commerce ». Il estime que l'autorité de régulation des marchés financiers « pourrait bénéficier d'une plus grande utilisation de l'IA par son personnel dans le cadre de la surveillance des marchés, de l'examen des informations à fournir, des examens, de l'application des lois et de l'analyse économique ».
Gary Gensler étudie depuis des années les conséquences potentielles de l'intelligence artificielle. La récente prolifération d'outils d'IA générative tels que ChatGPT a démontré que cette technologie est prête à transformer le monde des affaires et la société.
L'IA pourrait être le prochain grand risque systémique pour le système financier. En 2020, Gensler a coécrit un document sur l'apprentissage profond et la stabilité financière. Il conclut qu'un petit nombre d'entreprises d'IA. construiront les modèles fondamentaux qui sous-tendent les outils technologiques sur lesquels de nombreuses entreprises s'appuieront, en se basant sur la manière dont les effets de réseau et de plateforme ont profité aux géants de la technologie dans le passé.
Gensler estime que les États-Unis finiront probablement par disposer de deux ou trois modèles fondamentaux d'I.A., ce qui renforcera les interconnexions entre les différents secteurs de l'économie. Cela renforcera les interconnexions dans l'ensemble du système économique et rendra un krach financier plus probable, car lorsqu'un modèle ou un ensemble de données devient central, cela augmente le comportement "grégaire", ce qui signifie que tout le monde s'appuiera sur les mêmes informations et réagira de la même manière. « Cette technologie sera au centre des futures crises, des futures crises financières. Il s'agit d'un puissant ensemble de facteurs économiques liés à l'échelle et aux réseaux », a déclaré Gensler.
Et vous ?
Qu’en pensez-vous ? Partagez-vous les inquiétudes de Gary Gensler, président de la SEC, concernant la technologie de l'IA ?Voir aussi :
Au-delà des garde-fous : exploration des risques de sécurité liés au chatbot d'IA ChatGPT, ces risques comprennent la génération de services frauduleux et la collecte d'informations nuisibles OpenAI publie ses intentions dans le domaine de la sécurité en Intelligence artificielle, cela sera-t'il suffisant ? Cybersécurité : la SEC contraint les entreprises publiques à divulguer les incidents dans les 4 jours, le gendarme américain de la bourse voudrait protéger les investisseurs La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US, pour un règlement à l'amiable