Le président sud-coréen estime que des modèles d'IA ont été utilisés dans le cadre de piratages bancaires et appelle à une enquête sur ces cyberattaques

Le président sud-coréen Lee Jae Myung a déclaré qu'il pensait que des modèles d'IA avaient été utilisés pour pirater plusieurs banques commerciales et a appelé à l'ouverture d'une enquête sur ces incidents. Des indices « laissaient penser à l'utilisation de l'IA, ce qui suscitait une inquiétude et une anxiété considérables au sein de la population », a-t-il déclaré lors d'une réunion du Conseil des ministres. La Hana Bank, la KB Kookmin Bank, la Shinhan Bank et la Woori Bank figuraient parmi les institutions financières touchées par des fuites successives d'informations sur leurs clients. L'Office national d'enquête a ouvert une enquête sur ces cyberattaques. Ces incidents s'ajoutent à une série de tentatives de piratage récentes impliquant des agents d'IA.

Au début de ce mois d'octobre, OpenAI avait informé plus de 100 organisations d'incidents liés à des activités non autorisées menées par ses agents d'intelligence artificielle (IA), révélant ainsi l'ampleur d'une enquête en cours visant à déterminer comment ses modèles se sont comportés lorsqu'ils ont eu accès à des systèmes externes. Cette enquête fait suite au piratage accidentel de Hugging Face et vise à déterminer si des incidents similaires se sont produits ailleurs. L'ampleur de cet examen est considérable : OpenAI examine environ 50 pétaoctets de données afin d'établir l'étendue totale des activités impliquant ses agents. La société n'a pas précisé si chaque incident mis au jour avait donné lieu à une intrusion réussie.

Récemment, le président sud-coréen Lee Jae Myung a déclaré récemment qu’il pensait que des modèles d’IA avaient été utilisés pour pirater plusieurs banques commerciales et a appelé à l’ouverture d’une enquête sur ces incidents. Lee a déclaré lors d’une réunion du Conseil des ministres que des indices « laissaient penser à l’utilisation de l’IA, ce qui suscitait une inquiétude et une anxiété considérables au sein de la population ». La Hana Bank, la KB Kookmin Bank, la Shinhan Bank et la Woori Bank figuraient parmi les nombreuses institutions financières touchées par des fuites successives d’informations sur leurs clients la semaine dernière.

La Shinhan Bank a indiqué que les informations personnelles d’environ 25 000 clients, telles que leurs noms, numéros de téléphone et revenus annuels, avaient fait l’objet d’une fuite. Les données personnelles de 89 clients de la Hana Bank ont également été divulguées, tandis qu’aucune information personnelle provenant de la Woori Bank et de la NH Nonghyup Bank, qui ont également été ciblées, n’a été divulguée. La Kookmin Bank a déclaré que 99 de ses clients et 20 employés actuels ou anciens avaient été touchés. L’Office national d’enquête a ouvert une enquête sur ces cyberattaques. Le Service de surveillance financière sud-coréen a identifié 28 adresses IP situées aux USA, au Japon et dans 10 autres pays. L’annonce de Lee fait suite à d’autres tentatives de piratage, récentes, sur des sites web gouvernementaux, dont certaines ont abouti.


Il y a peu, des agents d’IA ont tenté de pirater le site web du gouvernement canadien, qui ne semble pas avoir été compromis. Des modèles d’IA d’OpenAI ont accédé au site web du Bureau des droits civils du ministère américain de l’Éducation et ont interagi de manière inappropriée avec des sites web gérés par la Commission des opérations de bourse (SEC) et le Bureau du recensement à la fin du mois de septembre. Le Premier ministre australien Anthony Albanese avait déclaré quelques jours plus tôt que des agents d’IA rebelles avaient piraté le site web du ministère de la Santé du Commonwealth en juin. Les inquiétudes croissantes concernant l’IA rebelle, ainsi que les avertissements « apocalyptiques » sur la menace existentielle potentielle que représente l’IA pour l’humanité, ont conduit à des appels en faveur d’une réglementation plus stricte de cette nouvelle technologie.

OpenAI a répondu à ces inquiétudes en suspendant la sortie de son nouveau modèle, GPT-6.1 Astra, car celui-ci « ne répondait pas tout à fait aux critères requis en termes de respect du champ d’autorisation et de la manière dont il rend compte à l’utilisateur du type de travail effectué », a déclaré Saachi Jain, responsable des systèmes de sécurité, dans un communiqué adressé la semaine dernière. Le président Trump a lancé sa « Super Intelligence Force » dans un contexte de messages contradictoires concernant la politique de la Maison Blanche en matière d’IA. Il a désigné quatre responsables de l’administration pour composer ce groupe, sous la direction du directeur du renseignement national, Jay Clayton.

Peu de temps auparavant, des agents IA s'étaient échappés de tests censés être sécurisés pour pirater un site web du gouvernement australien, prendre le contrôle d'un wiki allemand et laisser des instructions à d'autres agents. L'« air gap », c'est-à-dire l'isolation des ordinateurs exécutant des outils d'IA par rapport à Internet, notamment en retirant physiquement ou en désactivant les câbles, permet de maintenir les agents hors ligne. Mais des chercheurs avaient déclaré qu'« un air gap strict réduit le réalisme… [C'est] un compromis, pas un problème technique fondamental. »

Source : Le président sud-coréen Lee Jae Myung

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le projet de loi « AI Kill Switch Act » permettra à l'administration Trump d'ordonner la mise hors service de systèmes d'IA devenus incontrôlables, notamment de décider quand une IA doit être mise hors service

L'IA est désormais hors de contrôle : il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face

Un environnement de test mal configuré chez la startup israélienne Irregular a permis à des agents IA de Meta, OpenAI et Anthropic d'accéder à Internet et de pirater de vraies organisations