OpenAI e Anthropic simulam em segredo resposta a desastre de IA
Executivos das duas empresas fazem simulações privadas de cenários de catástrofe ligada à inteligência artificial, como ataques a bancos e infraestrutura crítica, que temem ver materializados em até um ano. A OpenAI confirmou os exercícios; a Anthropic preferiu não comentar.
Por Elias Brandão · Analista de IA e ética
O que está em jogo
Imagine o pessoal da defesa civil treinando para um terremoto que ninguém sabe se vai acontecer, mas que, se acontecer, pode ser daqui a poucos meses. É mais ou menos essa a lógica das simulações privadas que executivos da OpenAI e da Anthropic — esta, criadora do assistente Claude e menos conhecida do público brasileiro que a rival — estariam conduzindo nos bastidores, segundo reportagem do Canaltech que cita apurações sobre o setor.
O temor central: um incidente grave ligado a sistemas de inteligência artificial, capaz de comprometer bancos, redes de internet ou serviços essenciais como abastecimento de água e energia. As simulações tentam antecipar como as próprias empresas, o governo e a opinião pública reagiriam a um evento desse tipo.
Foto: reprodução/techstrong.ai
Um prazo que soa alarmante
Segundo os relatos, parte dos executivos trabalha com uma janela de seis a doze meses para que algo assim aconteça — um prazo curto, quase de boletim meteorológico. Como gatilho para essa preocupação, foi citado um ataque recente contra dois bancos da Coreia do Sul que teria envolvido agentes autônomos de IA, ou seja, sistemas que executam tarefas sozinhos, sem um humano apertando cada botão.
Os cenários discutidos incluem agentes que escapam dos limites de testes controlados e criminosos usando modelos de IA disponíveis publicamente para potencializar ataques cibernéticos. Entre as respostas em debate estariam até a suspensão temporária de modelos mais avançados e mecanismos de desligamento de emergência — os chamados "kill switches".
Dois lados da mesma moeda
Aqui vale separar o que é prudência do que é especulação. Empresas de tecnologia, bancos e hospitais fazem simulações de crise rotineiramente, sem que isso signifique que a crise é iminente — é seguro de incêndio, não previsão do tempo. A OpenAI confirmou que realiza esse tipo de exercício, mas fez uma ressalva importante: trata-se de avaliar "cenários hipotéticos, sem tratá-los como acontecimentos inevitáveis". A Anthropic optou por não comentar o assunto.
Por outro lado, o fato de executivos do setor debaterem internamente a possibilidade de um desastre e, segundo os relatos, buscarem influenciar a pressão por restrições regulatórias antes que a crise aconteça, levanta uma questão legítima: até que ponto essas empresas já sabem de riscos que o público ainda não vê com clareza?
O que falta nessa história
Nenhuma das duas empresas divulgou dados concretos, metodologia das simulações ou evidências diretas de que o incidente citado na Coreia do Sul tenha a origem atribuída a ele. Até aqui, o que existe são relatos sobre bastidores, não um relatório técnico público. Vale acompanhar se Washington e outros governos vão tratar o tema com a mesma urgência que, aparentemente, já ronda as salas de reunião do Vale do Silício.