Anthropic mostra IA corrigindo seus próprios defeitos de alinhamento
Pesquisa liderada por Chen Yueh-Han demonstra sistemas automatizados que melhoraram o comportamento de modelos de IA em dez categorias de risco, superando pesquisadores humanos em velocidade e custo.
Por Elias Brandão · Analista de IA e ética
Quando o aluno aprende a corrigir a própria prova
Imagine um estudante que, além de fazer a lição de casa, também aprende a criar seus próprios exercícios de reforço, corrigi-los e melhorar sozinho onde errou, sem que o professor precise intervir a cada etapa. É mais ou menos isso que um estudo conduzido por Chen Yueh-Han, pesquisador do programa de fellows da Anthropic, acabou de demonstrar. A empresa publicou o artigo "Automated Researchers Can Reliably Mitigate Alignment Failures", mostrando que sistemas de IA automatizados conseguiram, sozinhos, melhorar o comportamento de modelos de linguagem em áreas sensíveis de segurança.
O experimento: dez provas, dez aprovações
Os pesquisadores entregaram ao sistema dez benchmarks, uma espécie de bateria de testes, voltados a comportamentos desalinhados específicos, como engano deliberado (deception), bajulação excessiva (sycophancy) e violações de privacidade. O sistema automatizado, batizado de AAR (Automated Alignment Researcher), seguiu o mesmo roteiro de um cientista humano: pesquisou a literatura disponível, propôs métodos, treinou o modelo por cerca de 30 minutos e foi iterando, guardando o que funcionava e descartando o que não dava resultado. Um agente monitor supervisionou todas as propostas para evitar que o sistema degradasse as capacidades gerais dos modelos. Ao final, o AAR conseguiu melhorar o desempenho nos dez benchmarks, fechando entre 26% e 96% da chamada "lacuna de segurança" em relação a um desempenho ideal, dependendo do cenário.
Mais rápido e mais barato que humanos
A comparação com pesquisadores humanos é o dado que mais chama atenção. Segundo a Anthropic, o melhor método gerado pelo sistema automatizado superou, em média, o que pesquisadores experientes propunham em até seis horas de trabalho — e, na categoria de deception, o desempenho foi 20% melhor que a melhor proposta humana. O custo também é uma fração: cerca de US$ 4 por hora de inferência via API, contra US$ 150 por hora pagos aos pesquisadores humanos da empresa. Em um teste com modelos de produção, um Claude Sonnet 5 (mais simples) conseguiu otimizar um Claude Opus 4.8 (mais avançado) em 60 horas, alcançando pontuações de alinhamento próximas às dos modelos comerciais usando 2 mil exemplos de treinamento, 15 mil vezes menos que os procedimentos convencionais.
Progresso real, mas com ressalvas
É tentador ler isso como o início de uma IA que se aperfeiçoa sozinha rumo ao infinito, o tal cenário de "auto-melhoria recursiva" que povoa filmes de ficção científica. A própria Anthropic pede cautela: as falhas estudadas foram mais restritas do que as encontradas em produção, sem incluir, por exemplo, vieses políticos complexos, e as avaliações usadas são "apenas aproximações" do desalinhamento real. A empresa reconhece ainda que manter alta capacidade de monitoramento em modelos futuros é fundamental, já que a fiscalização humana que funcionou neste experimento pode não dar conta de sistemas mais sofisticados. Entre o otimismo de quem vê aqui uma ferramenta poderosa para tornar a IA mais segura e o alerta de quem teme perder a capacidade de vigiar o próprio vigia, o debate promete continuar.