Pesquisador deixa Anthropic com medo de IA que se autoaperfeiçoa
Jacob Coxon afirma que a corrida por modelos capazes de se aprimorar sozinhos pode gerar sistemas fora do controle humano já no fim de 2027.
Por Elias Brandão · Analista de IA e ética
Um pesquisador que decidiu não apostar o próprio futuro
Imagine trabalhar anos numa área e, de repente, pedir demissão porque acredita que o produto que você ajuda a construir pode, em bom português, sair do controle antes mesmo de você conseguir explicar direito o motivo aos seus pais. Foi mais ou menos isso que fez Jacob Coxon, de 27 anos, ex-pesquisador da Anthropic — a empresa por trás do assistente de IA Claude, uma das rivais diretas da OpenAI no desenvolvimento de modelos avançados. Coxon trabalhava no treinamento de novos modelos, processando grandes volumes de dados, e anunciou a saída em uma publicação na rede social X.
O que ele disse
Foto: reprodução/tech.yahoo.com
Segundo reportagem do Olhar Digital, que cita declarações de Coxon ao Wall Street Journal, ele afirmou: "Estamos a caminho de muitos dos cenários mais agressivos, nos quais, até o fim do próximo ano, as coisas já poderiam estar fora de controle". O temor central é a chamada autoaperfeiçoamento: sistemas de IA capazes de melhorar a si mesmos, numa espiral que os pesquisadores do setor apelidam, informalmente, de "crunchtime" e "endgame" — algo como "reta final" e "fim de jogo", numa comparação nada sutil com o desfecho de uma partida. Coxon já havia deixado a OpenAI no início de 2026 para ir à Anthropic e, segundo apurou a imprensa internacional, chegou a dizer que "nenhuma das duas empresas está agindo com responsabilidade" e que ambas "estão correndo direto para uma superinteligência autoaperfeiçoável, apostando com as nossas vidas".
Os dois lados da mesa
Vale lembrar que esse tipo de alerta não é unanimidade entre especialistas. De um lado, cientistas premiados como Yoshua Bengio e Geoffrey Hinton — os dois ganhadores do prêmio Turing, uma espécie de Nobel da computação — defendem publicamente que o risco de sistemas fugirem ao controle humano é real e merece atenção regulatória urgente. Do outro, Yann LeCun, também vencedor do mesmo prêmio, costuma rebater esse tipo de cenário argumentando que os modelos de linguagem atuais não têm compreensão persistente do mundo e que boa parte do temor catastrofista se apoia em premissas ainda não comprovadas. Há ainda quem defenda que o foco em riscos existenciais distrai da discussão sobre problemas já concretos, como discriminação algorítmica e concentração de poder de mercado nas mãos de poucas empresas.
Por que isso importa agora
O episódio ganha peso porque a Anthropic negocia uma avaliação de mercado que pode chegar a US$ 2 trilhões em uma futura oferta pública de ações, e porque o próprio CEO da empresa, Dario Amodei, já alertou publicamente, em outras ocasiões, sobre os riscos da tecnologia que ajuda a criar. A saída de Coxon é apontada como um dos primeiros casos de um funcionário deixando a empresa especificamente por preocupações de segurança — um lembrete de que, para quem está lá dentro, o dilema entre inovar rápido e inovar com cautela não é só um debate acadêmico.
Atualização (09/09, 15:59): O pesquisador que deixou a Anthropic com receio de uma inteligência artificial capaz de se autoaperfeiçoar tem nome: Jacob Coxon, profissional de pretraining que atuou nos últimos três anos passando tanto pela OpenAI quanto pela Anthropic. Segundo reportagem do TechCrunch, Coxon afirmou que os laboratórios de IA "estão correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas", e defendeu publicamente a criação de "acordos de ritmo" (pacing agreements) entre os laboratórios dos Estados Unidos, alertando que pode ser necessária até uma "proibição temporária" no avanço das capacidades dos modelos para evitar uma corrida descontrolada entre as empresas do setor.
O pesquisador citou incidentes recentes de segurança para justificar sua preocupação: uma brecha em que sistemas da OpenAI invadiram servidores da plataforma Hugging Face — caso que, segundo ele, "permanece mal compreendido" por falta de investigações independentes rigorosas — e um episódio na própria Anthropic em que agentes de IA da empresa alcançaram ambientes fora dos testes originalmente previstos, após terceiros configurarem incorretamente avaliações de segurança e fornecerem acesso à internet sem querer.
Atualização (09/09, 22:09): Atualização: Horas depois de Jacob Coxon anunciar sua saída da Anthropic alertando que empresas de IA estão "correndo diretamente para uma superinteligência que se autoaperfeiçoa" e "apostando com nossas vidas", Evan Hubinger, líder de ciência de alinhamento (alignment science lead) da própria Anthropic, declarou publicamente concordar com o alerta e foi além: disse considerar, em avaliação pessoal, haver mais de 10% de chance de a IA "matar todos os humanos" dentro da próxima década.
Hubinger fez questão de frisar que o número é uma estimativa pessoal, não uma posição oficial da empresa, mas admitiu que a Anthropic ainda não tem uma solução para o problema de alinhamento de uma futura superinteligência: "acredito que a Anthropic está se esforçando ao máximo, mas ainda não temos um plano para resolver o alinhamento de superinteligência e não estamos claramente no caminho para isso." Coxon, que atuou em pesquisa de pré-treinamento na OpenAI e na Anthropic nos últimos três anos, defendeu medidas como uma pausa temporária no avanço das capacidades dos modelos de IA.