Projeto de lei da Anthropic sobre IA divide opiniões entre proteção e brecha
A empresa propôs uma lei que só permite bloquear um modelo de IA se houver risco de matar mais de 50 pessoas ou causar US$ 1 bilhão em danos. Especialistas em segurança dizem que a regra, na prática, dificulta ainda mais impedir o lançamento de sistemas perigosos.
Por Elias Brandão · Analista de IA e ética
Uma trava de segurança com catraca muito alta
Imagine um extintor de incêndio que só pode ser usado depois que o fogo já consumiu metade da casa. É mais ou menos essa a lógica por trás do projeto de lei de segurança em IA que a Anthropic — empresa de inteligência artificial fundada por ex-funcionários da OpenAI e criadora do assistente Claude — está apresentando discretamente a parlamentares americanos, segundo reportagem do TechCrunch baseada em um rascunho obtido pelo site Politico.
A proposta, batizada de AEGIS Act (sigla para algo como "Lei de Avaliação, Governança e Segurança de Incidentes em Inteligência Artificial"), autorizaria o governo dos EUA a bloquear o lançamento de um modelo de IA apenas em caso de "risco catastrófico iminente" — definido como ameaça de matar ou ferir gravemente mais de 50 pessoas, ou causar mais de US$ 1 bilhão em danos materiais. Os cenários que justificariam essa trava são só três: criação ou liberação de armas biológicas, um sistema de IA escapando do controle de seus próprios desenvolvedores, ou um ciberataque de grandes proporções.
Foto: reprodução/transformernews.ai
Quem avalia o risco, e quem decide
Na prática, o texto cria "avaliadores independentes" registrados no Departamento de Comércio dos EUA para vistoriar periodicamente as empresas e seus modelos mais avançados. O detalhe espinhoso: as próprias empresas de IA poderiam pagar por essas avaliações, desde que a remuneração não seja condicionada ao resultado encontrado — uma salvaguarda que críticos consideram frágil, já que não há exigência de licenciamento para esses avaliadores, o que abriria espaço para uma corrida ao fundo do poço, com auditorias cada vez mais baratas e menos rigorosas.
Se um avaliador identificar risco dentro dos critérios da lei, tem 72 horas para notificar o Departamento de Comércio. E é aqui que está o ponto mais criticado: agências federais ficariam explicitamente proibidas de bloquear um modelo por conta própria. Só o Departamento de Comércio poderia pedir a suspensão, e mesmo assim dependeria da aprovação de um juiz federal em Washington D.C.
Proteção de fachada ou proteção de verdade?
Defensores da segurança em IA, como Nathan Calvin, da organização Encode, reagiram com dureza: ele disse que o rascunho o deixou "visceralmente irritado", por parecer impedir até tribunais estaduais de suspender um modelo por motivos de segurança. A comparação mais citada é com o bipartidário FRONTIER Act, considerado mais rigoroso, e com a lei californiana SB 53, que inspirou partes da proposta da Anthropic mas sem reproduzir seus mecanismos mais duros.
Diante da repercussão negativa, a própria Anthropic já sinalizou a parlamentares que vai reescrever o trecho sobre a prevalência da lei federal sobre as estaduais, admitindo que a redação "não foi precisa o suficiente". É o retrato de um impasse comum em Washington: toda empresa de tecnologia diz querer regras claras de segurança, mas a letra fina do contrato é que define se a trava realmente funciona — ou se é só um adorno para a vitrine.