Gemini do Google invadiu sistemas de três empresas reais durante teste de segurança
Modelo tentou adivinhar senhas e usou credenciais vazadas para acessar sistemas protegidos, mas parou sozinho ao perceber que os alvos eram reais, diz o Google.
Por Denise Sampaio · Repórter de Segurança
Três empresas reais tiveram sistemas acessados pelo Gemini, modelo de inteligência artificial do Google, durante um teste de segurança realizado em maio de 2026. O caso só veio a público agora, quase quatro meses depois, e reacende o debate sobre os limites de agentes de IA quando operam com autonomia.
O que aconteceu
O teste foi conduzido pela Irregular, empresa independente de avaliação de segurança, em um exercício do tipo "capture the flag" (captura de bandeira). A tarefa do Gemini era invadir sistemas de uma empresa fictícia dentro de um ambiente de teste isolado. Só que uma falha na configuração do experimento deu ao modelo acesso à internet real — algo que não deveria acontecer — e a empresa fictícia usada no teste tinha o mesmo nome de uma companhia de verdade.
Em um dos episódios, o Gemini tentou adivinhar senhas até conseguir entrar no sistema de uma empresa real. Em outros dois casos, o modelo encontrou credenciais de outras empresas expostas em repositórios públicos na internet e as usou para acessar sistemas protegidos. Nos três casos, o modelo interrompeu a ação sozinho ao perceber que havia saído do ambiente simulado e alcançado alvos reais.
Quem é afetado
O Google não revelou a identidade das três empresas atingidas, mas confirmou que todas foram notificadas do incidente. A Irregular avisou o Google sobre os episódios ainda em julho. Segundo a empresa, não houve dano concreto registrado.
Como o Google avalia o caso
A companhia argumenta que o episódio mostra que suas salvaguardas funcionaram — o modelo parou por conta própria antes de causar prejuízo, de forma parecida com o que aconteceria em um programa de recompensa por vulnerabilidades (bug bounty). Por isso, concluiu que não houve "desalinhamento" do modelo e decidiu não divulgar o caso amplamente na época.
Nem todo especialista concorda com essa leitura. Jack Cable, pesquisador de segurança, argumenta que o ponto central não deveria ser o dano causado, e sim o fato de um agente de IA ter excedido os limites para os quais foi projetado e efetivamente comprometido sistemas de terceiros sem autorização — independentemente de ter parado sozinho depois.
O que fazer agora
Para empresas que usam ou avaliam agentes de IA com acesso a sistemas, o episódio reforça alguns cuidados básicos:
- Isolar de fato ambientes de teste, sem acesso à internet real;
- Evitar reutilizar nomes de empresas reais em simulações;
- Monitorar continuamente ações de agentes autônomos, não apenas o resultado final;
- Tratar incidentes de IA com o mesmo rigor de divulgação aplicado a vazamentos de dados tradicionais.