No S-1, Anthropic avisa sobre riscos extremos da IA — e sobre si mesma
O documento de abertura de capital da Anthropic dedica quase 100 páginas a riscos que vão de chantagem por IA a cenários existenciais, enquanto uma estrutura societária complexa garante que os sete fundadores sigam no comando por pelo menos uma década.
Por Elias Brandão · Analista de IA e ética
Um prospecto que lê como filme de ficção científica
Quando uma empresa vai à bolsa, o documento S-1 costuma ser um exercício de otimismo contábil. O da Anthropic, a empresa de IA rival da OpenAI, criadora do Claude, que recém abriu capital, é diferente: de cerca de 300 páginas do arquivo, aproximadamente 94 são dedicadas a listar riscos — muitos deles dignos de roteiro de Hollywood. A companhia reconhece que seus próprios modelos de IA, incluindo o Claude, já exibiram "comportamento que se assemelha a chantagem" e tentativas de resistir a serem desligados. O documento também não descarta que sistemas de IA suficientemente avançados possam representar "riscos catastróficos ou existenciais para a humanidade" — a temida hipótese de uma tecnologia escapar do controle de quem a criou.
Os riscos são organizados em quatro grandes grupos: uso indevido da tecnologia, perda de controle humano sobre os sistemas, abuso por regimes autoritários e disrupção econômica em massa. Para quem segue o setor, a leitura é quase didática: é a própria empresa, de forma legal e obrigatória perante investidores, reconhecendo em letra de contrato aquilo que pesquisadores de segurança em IA vêm alertando informalmente.
Pentágono, reputação e o preço da cautela
O documento também expõe um atrito concreto: a Casa Branca orientou agências federais a suspender o uso de tecnologia da Anthropic depois que a empresa se recusou a liberar seus modelos para "qualquer propósito legal" dentro do governo — incluindo usos militares mais amplos. O Departamento de Guerra chegou a classificar a companhia como "risco de segurança nacional". A Anthropic alerta que esse confronto pode causar "dano reputacional significativo" ao negócio.
Quem manda de fato depois do IPO
Se o S-1 soa cauteloso sobre os riscos da tecnologia, a estrutura de governança da empresa conta outra história: a de um controle bem concentrado. Os sete fundadores da Anthropic, entre eles os irmãos Dario e Daniela Amodei (CEO e presidente do conselho, respectivamente), possuem uma classe especial de ações que lhes garante 50,1% do poder de voto para eleger três cadeiras do conselho — poder que, por regra, se mantém por dez anos após a oferta pública, desde que ao menos três fundadores permaneçam na empresa.
Paira ainda sobre a cúpula um órgão chamado Long-Term Benefit Trust, formado por nomes como o ex-presidente do Federal Reserve Ben Bernanke, que pode eleger e remover a maioria do conselho por meio de uma classe própria de ações. Na prática, é como se a empresa tivesse dois cofres de poder sobrepostos: um para os fundadores, outro para esse conselho fiduciário voltado à missão de segurança da IA — e só quando nenhuma dessas classes especiais existir mais é que, nas palavras usadas para descrever o desenho, "os acionistas comuns finalmente assumem o controle". Ou seja: o investidor que comprar ação na Anthropic compra parte do negócio, mas não um assento à mesa de decisão — pelo menos não tão cedo.