Anthropic admite que está perto de criar IA que se autoaperfeiçoa
Em documento enviado à SEC para seu IPO, a Anthropic alertou que pode estar próxima do limiar de RSI — o ponto em que uma IA fica tão boa em treinar a si mesma que acelera drasticamente seu próprio desenvolvimento. A empresa diz que nenhum modelo cruzou essa linha ainda.
Por Elias Brandão · Analista de IA e ética
O aviso que a Anthropic colocou no papel
Imagine uma fábrica que, em vez de produzir carros, produz versões melhoradas de si mesma — e cada versão nova constrói a próxima ainda mais rápido. É mais ou menos essa a imagem que a Anthropic, criadora do assistente de IA Claude e rival da OpenAI, tentou descrever num documento bem pouco glamouroso: uma emenda ao seu formulário S-1A, o registro que toda empresa precisa apresentar à SEC (a comissão de valores mobiliários dos EUA) antes de estrear na bolsa.
No documento, enviado em 2 de novembro, a empresa afirma que seus modelos atuais ainda não cruzaram a linha, mas que "nossas estimativas internas e expectativas sobre modelos futuros indicam que podemos atingir iminentemente" a definição que a própria Anthropic usa para RSI — sigla de recursive self-improvement, ou melhoria recursiva autossuficiente, em bom português. Explicando sem jargão: é o momento em que uma IA se torna tão eficiente em ajudar a treinar a próxima geração de IA que o progresso dá um salto, em vez de avançar aos poucos.
Por que isso assusta (ou não)
Na Política de Escalonamento Responsável da própria empresa — o conjunto de regras internas que a Anthropic criou para monitorar o quão poderosos seus modelos estão ficando — esse salto tem até uma métrica: equivale a dobrar o ritmo normal de avanço da IA. A empresa reconhece algo desconfortável: já aconteceu de não perceber uma aceleração relevante até ela já ter ocorrido.
Para os chamados "doomers" — os que enxergam risco existencial na IA — esse é exatamente o cenário temido: uma tecnologia que aprende a melhorar a si mesma mais rápido do que os humanos conseguem entender ou controlar. A própria Anthropic usa linguagem parecida, dizendo que usar IA para construir IA mais capaz "pode representar um risco de segurança considerável".
Já o lado mais cético vê nesse tipo de aviso uma função dupla e conveniente: ao mesmo tempo que cumpre a obrigação legal de alertar investidores sobre riscos, também funciona como vitrine. Para esses críticos, declarações grandiosas em documentos de abertura de capital — momento em que a empresa mais precisa seduzir investidores — merecem ser lidas com uma pitada de ceticismo.
O que a empresa promete
A Anthropic tenta equilibrar o discurso: afirma não esperar permitir que o Claude projete e construa sozinho, sem supervisão humana significativa, as próximas gerações de modelos, e sinaliza que está revisando sua própria política de segurança. Resta saber se essa promessa resistirá à pressão comercial de uma empresa que, pela primeira vez, responde também a acionistas.