Chefes da OpenAI e Anthropic pedem cooperação global sobre riscos da IA

Dois rivais, um mesmo pedido

Sam Altman, da OpenAI, e Dario Amodei, da Anthropic — criadora do chatbot Claude e uma das principais concorrentes da OpenAI —, discursaram lado a lado no Conselho de Segurança da ONU em 23 de setembro para defender que países rivais cooperem em segurança de inteligência artificial. Amodei foi direto: "a IA pode ser um risco para a humanidade como um todo" sem padrões internacionais. Altman pediu a criação de regras comuns para medir capacidades de sistemas de IA, avaliar riscos, decidir se as salvaguardas são suficientes e preservar supervisão humana significativa sobre as máquinas.

Em bom português: os dois maiores executivos de IA do mundo estão pedindo, publicamente, para serem fiscalizados internacionalmente — um pedido incomum vindo de dentro da própria indústria.

Três ideias concretas

Amodei detalhou três propostas: acordos globais restritos, como banir o uso de IA para desenvolver armas biológicas; sistemas de avaliação e verificação para que países consigam checar se os outros estão cumprindo o que prometeram; e padrões comuns de teste, com um sistema de notificação para incidentes de segurança de IA — como o próprio caso, também revelado nesta semana, de um agente da OpenAI que acessou sem autorização um sistema do governo australiano.

O outro lado

A fala ocorre um dia depois de o presidente Donald Trump rejeitar, na Assembleia Geral da ONU, o que chamou de "esquema globalista" para controlar a IA, defendendo que os Estados Unidos não vão travar o avanço tecnológico do país por acordo internacional nenhum. O contraste é evidente: enquanto o governo americano evita qualquer amarra multilateral, as próprias empresas que lideram a corrida por IA dizem temer o que constroem sem regras compartilhadas. Falta saber se esse apelo das companhias muda algo na prática, ou se vira só um gesto de relações públicas antes do próximo incidente.

Atualização (24/09, 21:56): Google, OpenAI e Anthropic avançam na criação de um órgão independente de segurança para IA. As três empresas estão desenvolvendo uma nova entidade, provisoriamente batizada de Standards Authority for Frontier AI (SAFA), que funcionaria de forma independente para ajudar a preencher lacunas na supervisão governamental sobre inteligência artificial. A iniciativa, revelada pelo veículo The Information e confirmada por outras publicações do setor, prevê que a SAFA crie padrões de segurança exigíveis, defina diretrizes para relato de incidentes de segurança em IA e estabeleça qualificações para auditores independentes que avaliam modelos e laboratórios.

O plano inclui um modelo de testes cruzados entre as empresas: cada uma poderia acessar os modelos comerciais das concorrentes para identificar vulnerabilidades, sem que os dados das avaliações fossem retidos por quem realizou os testes. Segundo apurado, as companhias chegaram a buscar uma parceria público-privada com supervisão federal, mas essa via perdeu força por falta de consenso no setor e mudanças nas prioridades do governo americano — o que levou à opção pela autorregulação via SAFA, cujo lançamento é esperado para o fim de 2026 ou início de 2027. Nomes como o ex-assessor de política de IA da Casa Branca Sriram Krishnan, a ex-autoridade de tecnologia do governo Biden Arati Prabhakar, a ex-diplomata Condoleezza Rice e o investidor David Friedberg foram procurados para posições de liderança na entidade.