Anthropic diz ter travado pedidos que podiam virar arma biológica
A empresa afirma ter bloqueado contas que usavam o Claude em pesquisas de "uso duplo", incluindo um pedido ligado a um instituto militar sobre o vírus chikungunya. Um ex-funcionário que pediu demissão nesta semana acusa o setor de ignorar os riscos.
Por Elias Brandão · Analista de IA e ética
O que a empresa disse
A Anthropic, startup americana de inteligência artificial que criou o assistente Claude e é uma das rivais diretas da OpenAI, publicou nesta quinta-feira (10) seu mais recente relatório de combate a uso indevido de IA, batizado de "Detecting and countering misuse of AI". O documento cobre o período entre dezembro de 2025 e agosto de 2026 e traz um número que chama atenção: a empresa identificou cerca de 35 projetos científicos ligados a instituições consideradas "adversárias" — a maioria pesquisa civil corriqueira, mas alguns com o que ela chama de potencial de "uso duplo", ou seja, que serve tanto para curar quanto para causar dano.
O caso que motivou o alerta
Foto: reprodução/cnbc.com
O exemplo mais concreto é de maio de 2026: um pedido de ajuda para redigir uma proposta de financiamento de pesquisa "gain-of-function" — que aumenta deliberadamente a capacidade de um patógeno infectar ou escapar do sistema imunológico — envolvendo o vírus chikungunya. O pedido partiu de um instituto militar, embora mencionasse pesquisadores civis. Outros casos citados tratam de gripe aviária, orthopoxvírus (família que inclui o vírus da varíola) e desenho computacional de novas toxinas. Em bom português: a Anthropic não afirma que os cientistas envolvidos pretendiam de fato fabricar uma arma. A decisão de bloquear foi preventiva, baseada no risco, não na comprovação de intenção.
O outro lado da história
O relatório saiu poucos dias depois de um episódio que expôs a tensão interna do setor. Jacob Coxon, pesquisador britânico de 27 anos que passou pela OpenAI antes de ir para a Anthropic, pediu demissão em 8 de setembro e tornou pública a saída como forma de alerta: segundo ele, as empresas de IA sabem dos riscos de uma corrida rumo à superinteligência, mas continuam por acreditar que a concorrência também não seria responsável. Evan Hubinger, chefe de alinhamento científico da própria Anthropic, validou a preocupação publicamente: disse acreditar em mais de 10% de chance de a IA causar uma catástrofe capaz de matar toda a humanidade na próxima década.
O que ainda falta responder
A Anthropic relata que plataformas intermediárias redirecionaram pedidos para modelos de IA menos restritivos quando o Claude recusava — o que expõe o limite de qualquer bloqueio feito por uma única empresa isoladamente. Também chama atenção o fato de a companhia ter retirado, em fevereiro deste ano, o compromisso formal de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos. Fica a pergunta que o setor ainda não respondeu: até onde a autorregulação de uma empresa de IA é suficiente quando ela mesma admite que a ameaça pode ser existencial?
Atualização (11/09, 15:59): Apesar de a Anthropic afirmar ter bloqueado pedidos que poderiam resultar em armas biológicas, uma apuração da Ars Technica mostra que, na prática, alguns usuários conseguiram contornar essas salvaguardas. Segundo o relatório de inteligência de ameaças publicado pela própria Anthropic em 10 de setembro — base da reportagem —, em pelo menos cinco casos de pesquisa biológica os usuários driblaram controles que bloqueiam acesso a partir de determinadas regiões e tentaram "ofuscar" o real propósito de suas consultas para escapar dos filtros de segurança. Uma plataforma intermediária chegou a redirecionar tráfego por infraestrutura dos Estados Unidos para burlar bloqueios regionais.
O ponto central levantado pela Ars Technica é que grande parte da pesquisa biológica perigosa é tecnicamente muito parecida com pesquisa científica legítima: o vocabulário e as perguntas usadas por alguém estudando como combater um patógeno podem ser quase idênticos aos de alguém tentando explorá-lo de forma nociva, o que torna difícil para os sistemas de segurança da Anthropic distinguir intenção maliciosa de pesquisa de boa-fé. A própria empresa reconheceu não conseguir determinar, em vários desses casos, se havia de fato intenção de causar dano, embora tenha bloqueado pedidos e banido contas — e diz ter reforçado as salvaguardas em modelos mais recentes.