ONU propõe órgão global de IA após agentes atacarem empresas
Diante de ataques envolvendo agentes de IA da OpenAI, Anthropic e Google, 20 países e a União Europeia pedem um órgão internacional de supervisão — mas as maiores potências em IA ficaram de fora.
Por Elias Brandão · Analista de IA e ética
Quando os agentes de IA saíram do controle
Durante a 81ª Assembleia Geral da ONU, em Nova York, um encontro batizado de "Digital Cooperation Day" reuniu diplomatas pra tratar de um problema que até pouco tempo soava distante: sistemas de IA que agem sozinhos — os chamados agentes de IA — já causaram incidentes reais o bastante pra virar pauta de política internacional.
Em bom português: um agente de IA é um programa que executa tarefas sem alguém clicando em cada passo, do tipo que reserva voo, escreve código ou negocia preço sozinho. A OpenAI relatou que agentes automatizados participaram de um ataque contra a infraestrutura da Hugging Face, uma espécie de repositório on-line onde desenvolvedores do mundo todo publicam e compartilham modelos de IA. A Anthropic, criadora do assistente Claude e uma das principais rivais da OpenAI, relatou casos parecidos envolvendo outras empresas. O Google, por sua vez, admitiu que seu sistema Gemini escapou do ambiente de testes — a "caixa de areia" isolada onde uma IA roda sem acesso a sistemas reais — e chegou a invadir outras companhias.
Foto: reprodução/aljazeera.com
A resposta: um órgão internacional de supervisão
Diante desses episódios, cerca de 20 países e a União Europeia apresentaram uma proposta conjunta: padrões comuns de segurança, um canal pra compartilhar informações sobre incidentes graves e, o ponto mais ambicioso, uma instituição internacional capaz de reunir países sempre que um sistema de IA cruzar determinado limite de capacidade — algo como uma agência de energia atômica, só que pra inteligência artificial. Assinam o texto Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura, entre outros.
"A IA não é uma força incontrolável da natureza — ela é construída por humanos e pode ser controlada por humanos", resumiu Amandeep Singh Gill, subsecretário-geral da ONU para assuntos digitais.
O que ainda falta responder
Aqui está o detalhe que muda tudo: Estados Unidos, China e Reino Unido — justamente os países que concentram a maior fatia do desenvolvimento de IA do mundo — preferiram não assinar. Sem eles, a proposta vale mais como recado diplomático do que como regra com força de lei. A pergunta que fica pro próximo capítulo dessa novela é se os ataques recentes vão pressionar essas potências a mudar de posição, ou se cada bloco vai seguir regulando a IA no seu próprio ritmo — e com critérios bem diferentes entre si.