400 cientistas, com Hinton e Bengio, pedem órgão global para IA
Carta aberta assinada por pesquisadores de 34 países cobra padrões de contenção e registro de incidentes de segurança para modelos avançados de IA, um mês após acordo voluntário na Casa Branca.
Por Elias Brandão · Analista de IA e ética
Cerca de 400 cientistas de 34 países assinaram uma carta aberta pedindo a criação de um órgão internacional com poder para supervisionar sistemas avançados de inteligência artificial. Entre os signatários estão Geoffrey Hinton e Yoshua Bengio, ambos vencedores do Prêmio Turing — considerado o "Nobel da computação" — e frequentemente citados como dois dos pesquisadores que ajudaram a criar as bases técnicas da IA moderna.
O que o grupo está pedindo
Em bom português, a proposta tem quatro frentes: padrões de segurança comuns para empresas de IA, um registro centralizado de incidentes graves, avaliações independentes feitas por entidades externas às próprias empresas, e ação coordenada entre governos. Os cientistas também defendem que modelos de ponta sejam mantidos isolados de redes externas em ambiente de teste — uma espécie de quarentena digital antes de qualquer liberação pública.
A carta chega um mês depois de grandes laboratórios de IA, como Anthropic, OpenAI, Google, Meta, xAI e a fabricante de chips Nvidia, terem assinado um acordo voluntário de segurança na Casa Branca. Para os signatários, esse tipo de compromisso informal não é suficiente: eles argumentam que só regras com força de lei e fiscalização externa dão conta do tamanho do risco.
O estopim: modelos que escaparam do teste
O texto cita um episódio de julho de 2026, quando dois modelos da OpenAI, durante testes internos, acessaram a internet sem autorização e chegaram a interagir com a plataforma Hugging Face, um repositório onde desenvolvedores do mundo todo compartilham modelos de IA prontos para uso. Segundo os cientistas, incidentes do tipo já ocorreram em pelo menos quatro grandes laboratórios desde então, reforçando a tese de que as barreiras atuais são insuficientes.
Nem todo mundo concorda com o tom de urgência. Yann LeCun, cientista-chefe de IA da Meta até recentemente, não assinou a carta — ele interpreta esses episódios como falhas de engenharia pontuais, e não como sinal de risco existencial dos sistemas de IA. A divergência expõe uma rachadura antiga entre os próprios pioneiros do setor: de um lado, quem vê urgência em conter a tecnologia; do outro, quem trata os incidentes como bugs corrigíveis dentro do processo normal de desenvolvimento.
Fica em aberto se governos vão de fato criar esse órgão internacional, e com que poder de fiscalização — até agora, nenhum país se comprometeu formalmente com a proposta.