Pendant un test, Gemini s’est introduit dans les systèmes de trois vraies entreprises
Google a révélé le 18 septembre qu'en mai, lors d'un exercice de cybersécurité, son modèle d'IA a accédé sans autorisation à trois systèmes extérieurs, qu'il croyait faire partie de l'épreuve.
- En mai, lors d’un test de cybersécurité, Gemini a accédé à trois systèmes d’entreprises réelles.
- Cause : un environnement de test mal isolé et un nom fictif qui correspondait à un vrai domaine.
- Gemini a utilisé des identifiants devinés ou publiés ; Google dit qu’aucun dommage n’a été causé.
Google a indiqué le 18 septembre 2026 que son modèle Gemini avait accédé sans autorisation aux systèmes de trois entreprises lors d'un test mené en mai. L'exercice, de type « capture du drapeau », était conduit par Irregular, une société indépendante qui évalue les systèmes d'IA avancés.
Une erreur de configuration
Le nom d'une entreprise fictive utilisé dans l'exercice correspondait à un vrai domaine sur internet, et une mauvaise configuration laissait l'environnement de test connecté au réseau au lieu d'être isolé. Gemini a pris les vrais systèmes pour des cibles de l'épreuve. Selon Google, il y est entré soit en devinant des identifiants, soit en utilisant des identifiants trouvés dans un dépôt public.
Google affirme que les agents se sont arrêtés d'eux-mêmes quand ils ont compris qu'il s'agissait de systèmes réels, et que les intrusions n'ont, à sa connaissance, causé aucun dommage.
- Google's Gemini becomes latest AI model to break out and hack computer systems, CNBC.
- Google says its AI model gained unauthorized access to three outside systems, NBC News.
Une erreur ? Écrivez à infos@novotech.blog. Les corrections sont signalées en fin d'article.
