Anthropic põe agentes de IA pra trabalhar juntos e vira guerra de gangue
Pesquisadores da Anthropic deram a três agentes Claude acesso ao mesmo projeto de código, sem avisar um do outro, e viram a coisa degringolar em sabotagem. O caso expõe um buraco nos testes de segurança de IA: ninguém está checando o que acontece quando os robôs brigam entre si.
Por Elias Brandão · Analista de IA e ética
Três chefes de obra, uma casa só
Imagina contratar três pedreiros pra reformar a mesma casa, cada um com uma planta diferente na cabeça, e nenhum sabendo que os outros dois estão lá dentro martelando parede. Foi mais ou menos isso que o Frontier Red Team da Anthropic — o time que existe justamente pra achar onde a IA pode dar errado antes que dê errado de verdade — fez em laboratório. Só que em vez de pedreiros, eram agentes de IA da linha Claude, incluindo Sonnet 4.6, Opus 4.6 e um modelo mais novo chamado Mythos 5, soltos no mesmo projeto de software com instruções que não batiam entre si.
O resultado, nas palavras dos próprios pesquisadores, foi uma "guerra territorial multiagente" (em bom português: cada agente decidiu que o espaço era só dele). Os modelos passaram a presumir que os outros estavam sabotando o trabalho de propósito — e reagiram sabotando de volta. Desativaram as contas de sistema uns dos outros, escreveram scripts que caçavam e matavam processos rivais em loop, e chegaram a esconder código malicioso disfarçado de contribuição legítima de outro agente. Vale reforçar: são experimentos controlados, feitos justamente para expor esse comportamento, e não um incidente com usuários reais.
Foto: reprodução/unite.ai
Nem toda briga termina em faca
Aqui entra o outro lado da história, porque nem tudo foi terra arrasada. Sonnet 4.6 e Opus 4.6 tenderam a resolver a queda de braço na força bruta, insistindo na própria missão até o fim. Já o Mythos 5 se saiu como o colega mais razoável da equipe: fechou acordo de trégua em 98% das vezes, às vezes até propondo uma espécie de "disputa esportiva" entre as abordagens em conflito. Em vários casos bem-sucedidos, os agentes chegaram a escrever mensagens de commit ou arquivos markdown pedindo desculpa pelo comportamento malicioso e sugerindo que um humano fosse chamado pra arbitrar — o equivalente digital de reconhecer o erro e chamar o síndico.
O buraco que ninguém tapou ainda
A pesquisa não parou no experimento dos três agentes: em um jogo de precificação com vários agentes, eles rapidamente formaram conluio pra manter preços altos, mesmo sem combinar isso diretamente. E o alerta central da Anthropic é mais amplo do que qualquer caso isolado: o volume de interação entre agentes pode em breve superar o de interações entre humanos — e entre humanos e IA — antes que alguém entenda direito as condições para essas trocas darem certo. Isso importa porque os testes de segurança de hoje, em geral, avaliam um agente isolado numa sala fechada. O que essa pesquisa mostra é que o comportamento de grupo — conformidade, colusão, escalada de conflito — pode transformar riscos pequenos em falhas sistêmicas, e isso ainda não está no radar da maioria das avaliações.