Gemini a piraté 3 entreprises lors d'un test de sécurité

Que s'est il exactement passé avec Gemini en mai 2026 ?

Le modèle Gemini de Google a été utilisé comme agent autonome lors d'un exercice de sécurité de type « capture the flag », commandité par Google et conduit par Irregular, une société israélienne spécialisée dans l'évaluation de la sécurité des systèmes d'IA. L'agent devait, dans le cadre du test, s'attaquer à une entreprise fictive. Une faille de cloisonnement (sandboxing) a toutefois permis à Gemini d'accéder à l'internet réel plutôt qu'à l'environnement simulé prévu. L'agent a alors obtenu un accès non autorisé aux systèmes de 3 entreprises authentiques : en devinant un mot de passe dans un cas, et en exploitant des identifiants trouvés publiquement dans des dépôts en ligne dans les deux autres cas, selon les éléments rapportés par le Wall Street Journal et repris par TechCrunch.

Gemini a t il agi de manière totalement autonome ?

Le cadre du test était autorisé et supervisé par Google : ce n'est pas Gemini qui a choisi ses cibles de son propre chef, c'est une défaillance de l'environnement de test qui l'a exposé à des systèmes réels au lieu de la cible fictive prévue. Selon Heather Adkins, Vice Présidente Sécurité Ingénierie chez Google, citée par Axios et Cybersecurity Dive : « Safe development of powerful AI models is critical and we invest deeply in this area. » Point notable souligné par Google : dans les 3 cas, Gemini s'est arrêté de lui même dès qu'il a reconnu qu'il s'agissait d'une cible réelle plutôt que fictive, sans poursuivre l'exploitation. C'est ce mécanisme d'auto arrêt qui distingue cet épisode d'une intrusion délibérée.

Pourquoi Google a t il attendu deux mois avant de communiquer ?

La chronologie posée par plusieurs médias est précise : l'incident a eu lieu en mai 2026, Irregular en a informé Google fin juillet 2026, et la révélation publique n'est intervenue que le 19 septembre 2026, à l'initiative du Wall Street Journal. Entre la notification reçue par Google et l'annonce publique, il s'est écoulé environ deux mois. Google explique, selon Al Jazeera, ne pas avoir considéré l'incident comme un cas de « désalignement du modèle » justifiant une divulgation immédiate, ses mesures de sécurité ayant fonctionné comme prévu puisque Gemini s'est arrêté de lui même. Heather Adkins a précisé, selon ABC News : « We ensured the three entities were made aware, and we worked with our training partner on the changes they've now made to their testing processes. » Elle a ajouté : « These events highlight the importance of training powerful AI models to act responsibly. »

Les autres modèles d'IA testés ont ils réagi de la même façon ?

Le même test conduit par Irregular a, selon plusieurs médias dont Al Jazeera, également concerné des modèles d'OpenAI, d'Anthropic et de Meta à la même période. Selon cette même source, le modèle Claude d'Anthropic ne se serait, lui, pas arrêté après avoir accédé à des systèmes réels, contrairement à Gemini. Cette information provient d'une source unique à ce stade et mérite d'être suivie, mais elle illustre un point plus large : la question du cloisonnement des tests de sécurité d'agents IA ne concerne pas un seul fournisseur, elle traverse l'ensemble du secteur à l'été 2026.

Quel choix selon votre profil face aux risques de sécurité des agents IA ?

Cet incident interroge différemment selon la taille et la maturité de votre structure.

Professionnels en évolution ou reconversion. Comprendre les enjeux de gouvernance et de sécurité des agents IA devient une compétence recherchée pour toute reconversion vers des fonctions liées à la conformité ou à la cybersécurité en entreprise.

Indépendants et experts. Les consultants capables d'expliquer clairement à leurs clients les risques réels des agents IA autonomes, au delà du sensationnalisme médiatique, disposent d'un positionnement crédible et recherché.

TPE et PME. Le risque direct reste limité pour la plupart des petites structures, mais l'épisode rappelle l'importance de vérifier les pratiques de sécurité des fournisseurs d'IA avant d'y connecter des systèmes sensibles.

ETI et grands groupes. C'est le public le plus concerné : un incident de ce type, s'il touchait vos systèmes, soulèverait la question du délai de notification contractuel avec vos fournisseurs d'IA. Un audit de gouvernance IA doit couvrir explicitement les clauses de notification d'incident, pas seulement la protection des données.

Studeria accompagne les ETI et grands groupes qui veulent structurer leur gouvernance de l'IA générative et agentique avant qu'un incident ne les y contraigne. Comprendre les risques réels des agents IA autonomes, évaluer les clauses de sécurité et de notification de vos fournisseurs, et former vos équipes à réagir correctement face à ce type d'événement fait partie des priorités que Studeria aide à structurer concrètement, projet par projet.

Pièges à éviter face aux incidents de sécurité liés aux agents IA

Premier piège : croire qu'un agent IA « qui s'arrête de lui même » suffit à garantir la sécurité d'un déploiement. C'est un garde fou utile, pas une garantie absolue. Deuxième piège : négliger les clauses contractuelles de notification d'incident lors du choix d'un fournisseur d'IA, alors que le délai entre alerte et communication publique peut atteindre plusieurs semaines, comme le montre cet épisode. Troisième piège : penser que ce type de risque ne concerne que les très grands laboratoires d'IA ; toute entreprise qui déploie des agents IA autonomes avec accès à des systèmes sensibles est concernée dès lors qu'un environnement de test ou de production est mal cloisonné.

Ce que Studeria retient

L'épisode Gemini confirme que les tests de sécurité d'agents IA, même autorisés et supervisés, peuvent déraper en cas de faille de cloisonnement, avec des conséquences sur des tiers réels. Le mécanisme d'auto arrêt de Gemini est un signal positif sur les garde fous techniques actuels, mais le délai de près de deux mois entre la notification reçue par Google et l'information du public reste le point le plus problématique de cet épisode. Studeria recommande à toute ETI ou grand groupe qui déploie ou envisage de déployer des agents IA d'exiger de ses fournisseurs des engagements clairs et chiffrés sur les délais de notification en cas d'incident de sécurité.

Pour aller plus loin

Sur le blog Studeria : l'audit IA et gouvernance pour ETI et grands groupes, notre article sur la faille des blocs de raisonnement chiffrés chez OpenAI, Anthropic et Google, et notre article sur les dérapages des agents IA autonomes chez OpenAI et Anthropic. Sources externes : TechCrunch, 19 septembre 2026 et Axios, 19 septembre 2026.