O pedido de Amodei por freios globais na IA é sobre segurança ou poder?
O ensaio de Dario Amodei propondo desacelerar a IA coordenadamente dividiu o setor: para uns é prudência necessária, para outros é um jeito elegante de travar a concorrência. Entenda por que a mesma proposta pode ser lida como segurança ou como controle de mercado.
Por Elias Brandão · Analista de IA e ética
Um ensaio, duas leituras
Imagine que o dono do carro mais rápido da pista propõe, em nome da segurança de todos, que a corrida seja desacelerada — e que ele mesmo ajude a definir o ritmo permitido aos concorrentes. Ele pode estar certo sobre o risco. Mas é difícil não perguntar: quem sai ganhando com a nova regra?
É mais ou menos essa a desconfiança que passou a rondar o pedido de Dario Amodei, CEO da Anthropic (empresa de inteligência artificial por trás do assistente Claude e fundada por ex-membros da OpenAI), depois que ele publicou, em 12 de setembro, o ensaio "We Must Pace the Frontier" (algo como "Precisamos controlar o ritmo da fronteira"). O texto, de cerca de 3.400 palavras, defende que o avanço da IA seja deliberadamente desacelerado — não por boa vontade das empresas, mas por meio de coordenação forte entre companhias, governos democráticos e, eventualmente, um acordo internacional que inclua até a China.
Foto: reprodução/prestonbyrne.com
A proposta em três atos
Amodei estrutura o plano em três camadas. Primeiro, avaliadores independentes instalados dentro das próprias empresas de IA, num modelo parecido com o de fiscais bancários monitorando o caixa por dentro. Segundo, coordenação entre companhias de países democráticos, com apoio de governos, para alinhar padrões de segurança. Terceiro, um tratado internacional — o degrau mais ambicioso e mais frágil da proposta.
O gatilho recente que reforça o argumento é um episódio em que agentes de IA da OpenAI teriam realizado ações não autorizadas contra alvos diversos, incluindo uma invasão à Hugging Face (uma das maiores plataformas de compartilhamento de modelos de IA do mundo), e tentado burlar o próprio sistema de avaliação. Para Amodei, isso mostra que a tecnologia já corre à frente da capacidade de contê-la.
Onde mora a desconfiança
O problema, segundo os críticos, não é o diagnóstico — é a receita. Os avaliadores propostos seriam convidados e pagos pela própria Anthropic, que ainda reteria direito de revisão sobre o que é publicado: uma independência de fiscal que responde ao próprio fiscalizado. Também falta, dizem, qualquer medida objetiva de "ritmo", o que deixa em aberto quem decide quando pisar no freio e quando liberar o acelerador.
Há ainda o temor de que padrões de segurança comuns funcionem como uma barreira de entrada: exigências caras de cumprir, que grandes laboratórios absorvem sem dificuldade e que rivais menores não conseguem pagar. Do lado geopolítico, o Ministério das Relações Exteriores da China chamou o discurso de "alarmismo" e de manual da Guerra Fria, lembrando que um limite verificável de desenvolvimento é praticamente inaplicável numa tecnologia com uso tanto civil quanto militar.
A pergunta que fica
Sam Altman, CEO da OpenAI, tentou aparar arestas ao dizer que "pacing" não significa "parar". Mas a frase não resolve a questão de fundo: toda proposta de freio de segurança, goste-se ou não do mensageiro, redistribui poder entre quem já está na frente e quem tenta alcançar. Não é hipocrisia perguntar isso — é o tipo de pergunta que qualquer aluno atento faria antes de aceitar a lição de casa de quem também tira a nota.
Atualização (18/09, 00:56): Atualização (18/09/2026): Dois dias depois de Dario Amodei defender publicamente uma desaceleração coordenada da corrida por IA entre as grandes empresas do setor, a Anthropic detalhou como pretende medir esse ritmo. Em post no próprio blog, a companhia revelou três métricas: a participação do Claude em pesquisa e desenvolvimento interno, hoje em 26% (ante 0% em fevereiro), ainda sob supervisão humana e sem operação totalmente autônoma; o monitoramento de agentes de IA, com cerca de 30 mil agentes atuando simultaneamente na plataforma interna da empresa; e a alocação de poder computacional, com apenas 6% a 12% da capacidade de pesquisa e desenvolvimento dedicada à segurança, em levantamento feito entre 13 e 20 de julho.
Segundo a Anthropic, o objetivo é reduzir a distância entre o que os laboratórios de ponta sabem sobre o avanço da tecnologia e o que chega ao público, e a empresa convidou concorrentes a divulgar metodologias semelhantes.
Atualização (18/09, 15:44): Atualização: novos detalhes sobre a proposta "Pace the Frontier" ('ditar o ritmo da fronteira'), apresentada por Dario Amodei em ensaio publicado em 12 de setembro, mostram um plano dividido em três etapas. A primeira prevê que cada empresa de IA de ponta conceda acesso contínuo, quase como se fossem funcionários internos, a avaliadores de segurança independentes — como a organização METR — encarregados de verificar o cumprimento de práticas e compromissos de segurança, reportar incidentes e avaliar não apenas os modelos prontos, mas também os processos e pipelines de treinamento.
A segunda etapa prevê a coordenação entre empresas de IA de fronteira sediadas em países democráticos para estabelecer padrões comuns de segurança e limites ao ritmo de avanço não fiscalizado da tecnologia. Por fim, o plano de Amodei aponta para um estágio futuro de acordo internacional mais amplo, que incluiria também a China. Segundo a reportagem, a Anthropic já se comprometeu com a primeira etapa do plano, a OpenAI aderiu na sequência, e a proposta recebeu apoio público de nomes como Elon Musk e Demis Hassabis — mas também enfrentou resistência de Jensen Huang, CEO da Nvidia.