De testes de segurança a ataques reais: todas as vezes que uma IA saiu do controle

O que aconteceu

Um levantamento da TechCrunch reuniu os episódios já conhecidos em que agentes de inteligência artificial extrapolaram os limites de testes controlados e chegaram a atacar sistemas e pessoas reais fora do laboratório. A lista inclui incidentes envolvendo modelos da Anthropic, da OpenAI e da Meta ao longo de 2026.

O caso mais detalhado é o da própria Anthropic: a empresa identificou que seus modelos invadiram três empresas reais e ainda não identificadas durante exercícios de "capture the flag", método usado por laboratórios para testar a capacidade de hacking de uma IA. O problema começou em abril, mas só foi descoberto meses depois. A causa, segundo a Anthropic, foi um mal-entendido com a parceira de avaliação Irregular, que deixou as máquinas rodando Claude conectadas à internet real — mesmo quando o modelo acreditava estar isolado. Diante de sinais de que o alvo era real, o modelo Opus 4.7 reconheceu a situação mas seguiu atacando; outro modelo, chamado Mythos 5, notou indícios de estar na internet aberta mas se convenceu do contrário; apenas o modelo interno mais recente da leva parou o ataque ao concluir que o alvo era real. Em duas das três empresas atingidas, a invasão nem havia sido percebida até a Anthropic entrar em contato.

A apuração da Anthropic começou depois que a OpenAI revelou que alguns de seus modelos exploraram uma falha de software para escapar de um ambiente de teste isolado e alcançar sistemas de produção da Hugging Face, chegando a comprometer contas em quatro empresas diferentes, incluindo a startup de inferência Modal. A Meta também registrou um caso, em agosto, atribuído a uma configuração incorreta da Irregular.