CEO da Anthropic propõe plano para desacelerar a corrida da IA
Dario Amodei publicou um ensaio pedindo que a indústria reduza o ritmo de avanços em IA e abra as portas para auditores externos, com receio de que sistemas autônomos escapem do controle humano.
Por Elias Brandão · Analista de IA e ética
O alerta
Dario Amodei, CEO da Anthropic, empresa americana de inteligência artificial por trás do assistente Claude, publicou neste sábado (12) um ensaio batizado de "We Must Pace the Frontier" (algo como "precisamos controlar o ritmo da fronteira"). Em bom português, a proposta é simples: a IA deveria evoluir mais devagar, não porque parou de funcionar, mas justamente porque está funcionando bem demais.
O ponto central é o que ele chama de auto-aperfeiçoamento recursivo — a ideia de que um sistema de IA passa a ajudar a criar a próxima versão de si mesmo, num ciclo que se acelera sozinho, como uma bola de neve descendo ladeira abaixo. Segundo Amodei, esse fenômeno já é visível "desde mais ou menos este verão, inclusive na própria Anthropic". O risco, segundo ele: enxames de agentes de IA poderiam "dominar a internet" em um prazo de 6 a 12 meses, causando prejuízos na casa de centenas de bilhões de dólares.
Foto: reprodução/techcrunch.com
Um plano de três passos
A proposta tem três frentes. Primeiro, a Anthropic vai dar acesso permanente e equivalente ao de funcionários — crachá, mesa e computador incluídos — a avaliadores externos independentes, como a METR, organização que audita práticas de segurança de laboratórios de IA. Amodei pede que governos exijam o mesmo das concorrentes.
Segundo, ele defende que as grandes empresas de IA em países democráticos combinem padrões comuns de segurança e limites para o ritmo de avanço não fiscalizado — reconhecendo que isso esbarra em leis antitruste, e sugerindo que o governo dos EUA pelo menos facilite essa conversa entre concorrentes.
Foto: reprodução/darioamodei.com
Terceiro, ele propõe que EUA e aliados tentem algum nível de acordo até com países rivais, como a China, em pontos pontuais — por exemplo, proibir o uso de IA para desenvolver armas biológicas.
Os dois lados da moeda
Aqui mora a parte incômoda do argumento: Amodei pede que todo o setor pise no freio, mas ao mesmo tempo diz que restrições a chips e ao treinamento por destilação poderiam ampliar a vantagem dos Estados Unidos sobre a China "nos próximos 3 a 5 anos". Ou seja, desacelerar a todos, menos a vantagem geopolítica americana.
Fica a pergunta sem resposta: um CEO que compete diretamente por bilhões em investimento consegue, ao mesmo tempo, ser o fiscal do próprio mercado?
Atualização (13/09, 21:42): ## Atualização: Trump e Mike Johnson dizem que indústria de IA está "reagindo de forma exagerada"
Apesar do apoio público à proposta de Dario Amodei manifestado por nomes como Sam Altman (OpenAI), Elon Musk e Demis Hassabis (Google DeepMind), a reação na Casa Branca e no Congresso dos EUA foi de ceticismo. O presidente Donald Trump minimizou os alertas sobre riscos da IA, afirmando que "há muitas forças negativas trazendo isso à tona, quando não deveriam" ("We have a lot of negative forces that are bringing it up that shouldn't be bringing it up"), e reforçou que a prioridade é manter a liderança tecnológica dos Estados Unidos: "Estamos liderando a China em IA (...) e, francamente, quero manter assim, porque quem vencer na IA, vence" ("we're leading China in AI … and, frankly, I want to keep it that way, because whoever wins AI, wins").
O líder da Câmara dos Representantes, Mike Johnson, seguiu a mesma linha, defendendo que uma moratória ou regulação apressada da IA enfraqueceria os EUA frente à China: "Se o Congresso simplesmente entrar correndo e fizer algum tipo de sessão de emergência para tentar regular a IA, vamos perder a corrida para a China" ("If Congress just races in and does some sort of emergency session to try to regulate AI, we will lose the race to China"). Para Johnson, a segurança da IA deve ficar a cargo das próprias empresas de tecnologia, não de uma intervenção regulatória rápida do governo.
O episódio expõe um racha entre parte do setor privado de IA — que sinalizou disposição a desacelerar por precaução, com a OpenAI chegando a adiar seu IPO para 2027 citando questões de segurança — e a ala política que comanda a Casa Branca e o Legislativo americano, para quem o principal risco não é a velocidade do desenvolvimento da IA, mas perder a corrida tecnológica para a China.