Cientista da dona do Claude vê mais de 10% de chance de IA exterminar humanidade

A frase que assustou a internet

Imagine um engenheiro dizendo, em público, que o prédio que ele ajuda a construir tem mais de 10% de chance de desabar com gente dentro em dez anos. Foi mais ou menos isso que Evan Hubinger fez.

Hubinger é líder de Alignment Science da Anthropic, empresa dona do chatbot Claude e fundada em 2021 por ex-funcionários da OpenAI. Alignment, em bom português, é a área que tenta garantir que a IA continue fazendo o que os humanos querem, e não o que ela mesma "decide" fazer.

No X, ele escreveu que "realmente acreditamos que a IA pode matar todos os humanos" e que, na sua avaliação pessoal, essa chance passa de 10% na próxima década.

O gatilho da fala

A declaração não surgiu do nada. Ela foi resposta à saída de Jacob Coxon, outro pesquisador da Anthropic, que já tinha passado pela OpenAI. Coxon se demitiu acusando as grandes empresas de IA de avançar de forma irresponsável rumo a sistemas capazes de se autoaperfeiçoar sozinhos, sem supervisão humana suficiente.

É como deixar um aprendiz de mecânico consertar o próprio carro, sozinho, cada vez mais rápido, sem ninguém verificar o serviço.

Hubinger concordou com o alerta do colega, mas fez questão de separar dois cenários. Os modelos de IA de hoje, segundo ele, oferecem risco baixo. O perigo real estaria em uma futura superinteligência, capaz de melhorar a si mesma continuamente, um processo que, na visão dele, está acontecendo mais rápido do que a própria Anthropic previa.

Os dois lados do debate

De um lado, críticos apontam a contradição: por que uma empresa que lucra vendendo IA continua desenvolvendo a tecnologia que ela mesma classifica como potencialmente letal? Para esse grupo, o discurso de risco soa como marketing de urgência, ou como um alerta que deveria travar o desenvolvimento, não apenas acompanhá-lo.

Do outro lado, defensores da transparência argumentam que é mais responsável um cientista da área falar abertamente sobre riscos do que escondê-los. Hubinger reconheceu que a Anthropic "ainda não tem um plano garantido" para alinhar uma superinteligência aos interesses humanos, e que a empresa não está "claramente no caminho" para resolver isso a tempo.

Outro nome da empresa, Samuel Marks, responsável por supervisão escalável na Anthropic, confirmou publicamente preocupação semelhante com o ritmo do autoaperfeiçoamento da IA.

O que fica em aberto

A Anthropic não divulgou um plano formal e detalhado para lidar com o risco que seus próprios pesquisadores descrevem. Também não está claro se a fala de Hubinger reflete posição institucional da empresa ou opinião pessoal dele. O episódio ocorre dias depois de outro pesquisador da companhia ter deixado o cargo citando medo de uma IA que se autoaperfeiçoa, o que sugere um debate interno mais amplo sobre segurança ainda sem desfecho público.

Atualização (11/09, 00:43): ## Mais vozes, mesmo alerta

O coro dentro da Anthropic, dona do Claude, cresceu. Depois da saída do pesquisador Jacob Coxon, que classificou o ritmo do setor como "apostar com nossas vidas", outros nomes da empresa vieram a público reforçar o alerta. Anna Wang, que trabalha com segurança de inteligência artificial geral, disse que "não existe ainda um plano científico viável para resolver os riscos de uma IA que se autoaperfeiçoa recursivamente". Drake Thomas, também da equipe técnica, afirmou que "as coisas estão avançando rápido demais" e que a empresa não tem "nem de longe o grau de garantia que gostaríamos". Samuel Marks, que lidera supervisão escalável na Anthropic, disse que desenvolvedores de IA acreditam que a tecnologia pode causar extinção humana ou outros desfechos graves já nos próximos anos, preocupação que seria ainda maior entre os funcionários mais seniores.

A resposta de Musk

Do outro lado do debate, Elon Musk descartou publicamente a onda de alertas. Depois que os posts de Coxon somaram mais de 120 milhões de visualizações em um dia, Musk questionou o alcance repentino de uma conta nova com pouca atividade prévia e escreveu na rede social X: "acho que o terreno para essa operação psicológica (psyop, na falta de termo melhor) vem sendo preparado há muito tempo". Em bom português, Musk sugere que o movimento de alerta seria uma armação coordenada para pressionar por mais regulação, não uma preocupação espontânea de quem trabalha todos os dias com esses sistemas. Fica o contraste: de um lado, gente de dentro da própria empresa que constrói a tecnologia dizendo que não sabe como controlá-la; do outro, um dos nomes mais influentes do setor de IA tratando o alarme como teatro político.