OpenAI, Anthropic e Google DeepMind negociam regras de segurança em IA

Rivais sentam à mesma mesa

Imagine três oficinas mecânicas concorrentes decidindo, juntas, criar um manual comum de segurança para não explodir nenhuma garagem. É mais ou menos isso que está acontecendo no mundo da inteligência artificial. Chris Lehane, chefe de política global da OpenAI, confirmou nesta terça-feira (15/9), em Washington, que a empresa mantém conversas com Anthropic e Google DeepMind sobre segurança em IA há várias semanas — antes mesmo de virarem notícia.

O estopim foi um ensaio publicado no último sábado (12/9) pelo CEO da Anthropic (empresa de segurança em IA por trás do assistente Claude), Dario Amodei. Nele, Amodei defendeu que a indústria trabalhe em conjunto para reduzir o ritmo de desenvolvimento dos modelos mais avançados, evitando riscos que ele classifica como catastróficos. Em bom português: a ideia é combinar o freio antes que o carro saia da pista.

Concorrentes de mãos dadas (por enquanto)

O apelo de Amodei ganhou apoio rápido de nomes pesados: Sam Altman, da própria OpenAI, Demis Hassabis, do Google, e até Elon Musk, da xAI. Altman foi além e disse que a OpenAI vai adotar avaliadores externos independentes para monitorar a segurança de seus sistemas — um pouco como um carro que passa por vistoria de uma oficina que não é a mesma que o fabricou.

Segundo Lehane, as três empresas também trabalham para criar um órgão de padronização para o setor de IA, e a OpenAI apoia um trecho do chamado FRONTIER Act que obrigaria os laboratórios de ponta a aceitar "organizações de verificação independente" dentro de casa. Ele fez questão de frisar que essa coordenação entre concorrentes não depende de uma liberação especial do governo para escapar de leis antitruste — ainda que analistas já tenham levantado essa bandeira amarela.

Enquanto isso, em Washington

O outro lado da história é político. O governo Trump tem tratado essas preocupações de segurança quase como um exagero, argumentando que qualquer desaceleração da IA americana só favoreceria a China na disputa por essa tecnologia. É a lógica da corrida: se um competidor pisa no freio e o outro não, quem freia primeiro perde a prova.

David Sacks, principal assessor de Trump para IA, foi na mesma linha, chamando os temores sobre riscos existenciais de "exagerados" e sugerindo que são os próprios líderes do setor — como Amodei — quem dita o ritmo acelerado da corrida.

O resultado é um cabo de guerra: de um lado, as empresas tentando se autorregular antes que um acidente force a mão do governo; do outro, a Casa Branca torcendo para que ninguém pise no freio primeiro.

Atualização (16/09, 09:42): ## Atualização: um padrão que se repete há anos

O pedido conjunto de OpenAI, Anthropic e Google DeepMind por regras de segurança para IA não é inédito — e a imprensa internacional já vem chamando atenção para o padrão. Em 12 de setembro, o CEO da Anthropic, Dario Amodei, publicou o ensaio "We Must Pace the Frontier", defendendo que as empresas de IA precisam desacelerar deliberadamente o ritmo de avanço das capacidades dos modelos, com avaliadores independentes tendo acesso a nível de funcionário dentro das companhias para verificar práticas de segurança. Sam Altman (OpenAI) e Elon Musk (xAI) manifestaram apoio à proposta — Musk resumiu em uma frase: "Dario is right" —, enquanto Demis Hassabis (Google DeepMind) endossou a direção geral do texto, mas defendeu seu próprio modelo, um órgão de padrões financiado pela indústria e supervisionado pelo governo, nos moldes da Finra americana.

Esse tipo de manifestação pública tem histórico: em maio de 2023, Altman já havia dito ao Senado americano que "a intervenção regulatória por parte dos governos será fundamental para mitigar os riscos de modelos cada vez mais poderosos". Passados mais de três anos, os mesmos executivos — à frente de empresas avaliadas em dezenas de bilhões de dólares e em corrida direta entre si — voltam a pedir publicamente por regras, o que tem gerado leitura cética entre analistas e veículos como a Reason: a coincidência entre quem mais lucra com o avanço acelerado da IA e quem agora pede para desacelerar "todo mundo" levanta a suspeita de que o movimento também sirva para consolidar a posição das líderes atuais do mercado antes que percam o controle da corrida, dificultando a entrada de concorrentes menores sob regras mais rígidas.

Procurada, nenhuma das empresas citadas nega o interesse comercial envolvido; o próprio Amodei reconheceu, no ensaio, que "algumas formas de coordenação que seriam eficazes para o ritmo são juridicamente difíceis e vão exigir apoio dos governos" — ou seja, o setor sabe que não pode se autorregular sozinho, mas também é quem está desenhando o formato da regulação que deseja receber.

Atualização (16/09, 21:53): Atualização: as negociações entre as gigantes de IA ganharam um contorno mais concreto. Anthropic e OpenAI se comprometeram a permitir que avaliadores externos independentes trabalhem dentro de seus próprios laboratórios, com acesso a sistemas e a modelos em diferentes estágios de treinamento (os chamados "checkpoints") e direito de publicar suas descobertas sobre riscos. Pesquisadores de organizações como Apollo Research, FAR.AI, Palisade Research e Safer AI foram citados como possíveis parceiros nessa fiscalização, com acesso equivalente ao de um funcionário, incluindo crachá da empresa.

Apesar do avanço, especialistas ouvidos pela TechCrunch questionam a independência real da iniciativa: nem Anthropic nem OpenAI detalharam quais avaliadores vão atuar, quando o acesso começa ou quais sistemas poderão ser examinados, e casos anteriores — como a análise do Hugging Face e o teste do modelo GPT-6 Astra — tiveram prazo de apenas alguns dias para investigações que normalmente exigem semanas. A proposta está inserida em conversas mais amplas entre Google, OpenAI e Anthropic sobre regras de segurança em IA; Meta, SpaceX e Google DeepMind ainda não aderiram ao modelo de avaliadores embutidos.