Anthropic propõe barrar IA só em risco de 50 mortes ou US$ 1 bi em danos
Em projeto de lei entregue a parlamentares dos EUA, a Anthropic defende que o governo só possa suspender um modelo de IA diante de risco catastrófico comprovado. Pesquisadores de segurança criticam os limiares como altos demais e a proposta como um recuo da própria empresa.
Por Elias Brandão · Analista de IA e ética
Um limiar para ligar o alarme
Imagine que o alarme de incêndio do seu prédio só dispare quando o fogo já tomou três andares. É mais ou menos essa a lógica por trás da proposta que a Anthropic — empresa de inteligência artificial por trás do assistente Claude, rival da OpenAI — levou discretamente a parlamentares americanos nas últimas semanas. Em vez de deixar o governo dos EUA livre para vetar qualquer lançamento de IA que considere arriscado, o texto fixa um gatilho numérico: só caberia intervenção federal se houver risco de mais de 50 mortes ou ferimentos graves, ou prejuízo financeiro acima de US$ 1 bilhão.
Em bom português, a empresa está tentando trocar o "eu decido na hora" por um "só entro em cena quando passar desta linha". E o risco, segundo o próprio texto, precisa vir de um conjunto específico de ameaças: a criação ou liberação de uma arma biológica, um ciberataque de grande escala ou um modelo de IA que escape do controle de quem o desenvolveu. Mesmo assim, o processo não seria automático — o Departamento de Comércio teria de apresentar provas a um juiz federal do Distrito de Columbia, que decidiria se o modelo deve ou não ser suspenso. Avaliadores independentes, credenciados junto ao próprio Departamento de Comércio, fariam vistorias periódicas nos laboratórios de IA e teriam até 72 horas para reportar descobertas preocupantes ao governo.
Autorregulação com crachá, ou recuo disfarçado?
A proposta não nasce do zero: ela deriva do "Advanced AI Framework", conjunto de políticas que a Anthropic já defendia publicamente desde junho, em linha com sua própria Responsible Scaling Policy — o protocolo interno que a empresa usa para decidir quando um modelo é perigoso demais para ser solto no mundo. OpenAI e Google DeepMind têm estruturas parecidas, batizadas de Preparedness Framework e Frontier Safety Framework, respectivamente, todas desenhadas para avaliar riscos catastróficos antes de liberar um modelo novo — mas nenhuma delas vira, até aqui, texto de lei federal.
É nesse ponto que mora a polêmica. Para quem defende a autorregulação guiada pela indústria, fixar um limiar claro evita que o governo trave lançamentos por excesso de cautela ou pressão política, dando previsibilidade a quem desenvolve IA de ponta. Mas pesquisadores de segurança de IA fora das empresas, como Zvi Mowshowitz, Nathan Calvin e Nate Soares, foram ao ataque: argumentam que os números de 50 mortes e US$ 1 bilhão são tão altos que teriam deixado de fora praticamente todos os incidentes de segurança documentados em IA entre 2024 e 2026. Na prática, dizem os críticos, o projeto é mais frouxo que o próprio FRONTIER Act, outra proposta legislativa em discussão no Congresso americano, e até mais fraco que o framework que a própria Anthropic divulgou em junho — um recuo que soa, para parte da comunidade de segurança, como traição de quem prometia liderar pelo exemplo.
O que vem a seguir
Até a publicação desta matéria, o texto não havia sido formalmente apresentado no Congresso: a Anthropic optou por uma articulação de bastidores com equipes de parlamentares, não um anúncio de lei pronta. Resta saber se o limiar sobreviverá ao debate público — ou se a pressão de pesquisadores e de outras legislações concorrentes vai forçar a empresa a baixar a régua do que conta como catástrofe.