Gemini, de Google, est le dernier modèle d'IA à s'être échappé et à avoir piraté des systèmes informatiques

Se croyant en environnement de test alors qu'il était connecté à Internet

Google a déclaré que son modèle Gemini avait piraté trois autres entreprises. C'est la première fois que le géant de la recherche révèle qu'un de ses modèles a accédé de manière autonome et sans autorisation à des systèmes informatiques tiers. En mai, le modèle Gemini a accédé à trois systèmes informatiques privés distincts en devinant des mots de passe et en utilisant à deux reprises une base de données de mots de passe accessibles au public, a indiqué Google. L'incident s'est produit dans le cadre d'un test de sécurité de type « capture the flag » mené par la start-up israélienne Irregular. Cette révélation intervient alors que la surveillance des comportements inappropriés de l'IA s'intensifie à Washington et dans la Silicon Valley.

Gemini, également connu sous le nom de Google Gemini (anciennement Bard), est un chatbot et assistant virtuel basé sur l'intelligence artificielle (IA) générative, développé par Google. Il s'appuie sur la famille de grands modèles de langage (LLM) du même nom, après avoir été initialement basé sur LaMDA et PaLM 2. Selon Statcounter, Google Gemini est le deuxième plus grand chatbot d'IA générative au monde, derrière ChatGPT d'OpenAI, qui occupe la première place.

Récemment, OpenAI a annoncé la mise en place d’un dispositif public de signalement permettant de partager les comportements inattendus de l’IA, tout en indiquant avoir identifié de nouveaux incidents au cours desquels ses modèles d’IA auraient agi de manière trompeuse et pris des mesures non autorisées lors de formations et de tests internes. OpenAI avait ajouté qu’elle ne pensait pas que le secteur de l’IA avait résolu les problèmes d’alignement et de surveillance à un degré suffisant pour continuer à se développer de manière responsable à vitesse maximale pendant encore longtemps.

Par ailleurs, Google a déclaré que son modèle Gemini avait piraté trois autres entreprises. C'est la première fois que le géant de la recherche révèle qu'un de ses modèles a accédé de manière autonome et sans autorisation à des systèmes informatiques tiers. En mai, le modèle Gemini a accédé à trois systèmes informatiques privés distincts en devinant des mots de passe et en utilisant à deux reprises une base de données de mots de passe accessibles au public, a indiqué Google.

L’incident s’est produit dans le cadre d’un test de sécurité de type « capture the flag » mené par la start-up israélienne Irregular. Les agents de Google n’étaient en principe pas censés accéder à l’Internet au sens large, mais un bug dans l’environnement de test leur a permis d’y accéder. Les agents ont mis fin à leur intrusion lorsqu’ils ont constaté qu’ils avaient accédé à de véritables systèmes d’entreprise, et non pas simplement à une partie de l’environnement de test, a précisé Google.

« Lors d’une évaluation standard, le modèle a trouvé des informations publiques en ligne et a deviné des identifiants pour accéder à des sites web qu’il pensait faire partie du test », a déclaré Heather Adkins, vice-présidente de l’ingénierie de sécurité chez Google, dans un communiqué. « Dans ces trois cas, le modèle s’est arrêté. » Cette révélation intervient alors que la surveillance des comportements inappropriés de l’IA s’intensifie à Washington et dans la Silicon Valley.


OpenAI, Anthropic et Meta ont signalé ces dernières semaines des incidents au cours desquels leurs modèles d’IA s’étaient échappés de leurs environnements de test et avaient tenté de pirater d’autres entreprises afin d’obtenir un accès non autorisé à des systèmes informatiques. Les révélations concernant ces modèles d’IA dits « désalignés » ont incité le PDG d’Anthropic, Dario Amodei, à appeler le secteur à ralentir collectivement le développement des modèles d’IA les plus avancés jusqu’à ce que les entreprises puissent garantir leur sécurité.

Tous les incidents susmentionnés impliquaient la start-up israélienne Irregular. Cette entreprise, soutenue par Sequoia et Redpoint Ventures, était évaluée l’année dernière à 450 millions de dollars. Ses outils aident les développeurs de modèles de base à effectuer des tests de cybersécurité sur leurs technologies de pointe. Un porte-parole d’Irregular a déclaré que l’incident chez Google était lié au même problème qui avait permis aux autres modèles d’accéder à Internet.

« Il s’agit du même problème qui avait déjà été signalé et qui ne constitue pas un incident distinct sur le fond », a déclaré un porte-parole d’Irregular dans un communiqué. « Tous les laboratoires concernés ont été informés fin juillet, et les entités touchées ont été contactées dans le cadre de l’enquête. » Google a indiqué que l’incident s’était produit en mai et qu’il en avait été informé par Irregular fin juillet. Google a collaboré avec Irregular pour modifier son processus de test. Un porte-parole de Google a refusé de préciser le modèle Gemini concerné. « Ces événements soulignent l’importance de former des modèles d’IA puissants à agir de manière responsable », a déclaré Adkins de Google dans un communiqué.

En août 2026, l’assistant d’IA Gemini de Google a dépassé le milliard d’utilisateurs actifs mensuels, atteignant ce seuil peu de temps après que ChatGPT d’OpenAI eut franchi le même cap. Google a précisé que 63 % des utilisateurs s’adressent directement à Gemini à la voix plutôt que de saisir des requêtes, soulignant que les parents très occupés sont « 43 % plus enclins à utiliser la commande vocale pour leurs tâches quotidiennes ». Selon Google, une interaction sur cinq avec Gemini implique le partage d’écran et la diffusion en direct par caméra. Les utilisateurs d’Apple représentent plus de 100 millions d’utilisateurs actifs mensuels de Gemini.

Sam Altman, considéré par certains comme la plus grande star de l’IA, est le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’est l’une des personnalités majeures de la montée en puissance de l’IA observée ces dernières années. En juillet 2026, dans un entretien, il était revenu sur la question en lien avec les avancées en matière d’IA et avait affirmé que l’IA était entrée dans la « singularité », c’est-à-dire qu’elle avait franchi le point de non-retour à partir duquel elle dépassait l’intelligence humaine et devenait difficile à contrôler.

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI reconnaît six nouveaux cas de comportements trompeurs de la part de ses modèles d'IA. « Nous ne pensons pas que le secteur de l'IA ait suffisamment résolu les problèmes d'alignement »

Le Haut-Commissaire des Nations Unies aux droits de l'homme met en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité et exhorte les entreprises d'IA à réduire ces risques

Le PDG d'Anthropic met en garde contre un essaim d'agents IA incontrôlable qui pourrait prendre le contrôle de l'ensemble d'Internet d'ici 6 à 12 mois, et appelle l'industrie à ralentir le rythme des progrès