ONU alerta que IA sem limites pode virar ameaça existencial
O alto-comissário da ONU para Direitos Humanos, Volker Türk, pediu regras obrigatórias e fiscalização independente para a inteligência artificial, além de proibição urgente de armas autônomas que atacam sem decisão humana.
Por Elias Brandão · Analista de IA e ética
Um alerta que soa mais grave do que o de praxe
Não é a primeira vez que alguém fala em risco existencial ligado à inteligência artificial, mas quando o discurso vem do alto-comissário das Nações Unidas para Direitos Humanos, o peso muda de categoria. Volker Türk, que ocupa o cargo desde 2022, subiu ao Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7), para dizer, em bom português, que a IA pode sair do controle se ninguém colocar cercas ao redor dela a tempo.
A preocupação central de Türk não é a IA de hoje, mas a de amanhã: sistemas tão poderosos que "nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle". Para ilustrar o temor, ele citou cenários em que agentes de IA "escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento" — como um funcionário que se recusa a ser demitido e ainda tranca a sala por dentro. É um cenário hipotético, mas que já circula com frequência em relatórios técnicos de segurança de IA.
Foto: reprodução/news.un.org
Poder concentrado em poucas mãos
Outro ponto forte do discurso foi a crítica à concentração do desenvolvimento de IA em, segundo suas palavras, "um pequeno grupo de empresas e executivos" que hoje decide praticamente sozinho os rumos da tecnologia mais transformadora da década. Türk defendeu a criação de "regras obrigatórias e mecanismos independentes de fiscalização" — ou seja, não bastam códigos de conduta voluntários que as próprias empresas assinam e podem, na prática, ignorar quando conveniente.
Foto: reprodução/abc.net.au
O alto-comissário também pediu a proibição urgente de armas autônomas capazes de "selecionar e atacar alvos sem uma decisão humana direta". O tema não é abstrato: relatos recentes de drones totalmente autônomos usados em conflitos armados reforçam a urgência do pedido, já que a decisão de tirar uma vida passaria a ser tomada por um algoritmo, sem intervenção humana no momento crítico.
Dois lados de um mesmo dilema
O discurso de Türk se encaixa numa onda crescente de alertas vindos de organismos internacionais, mas enfrenta um obstáculo conhecido: a ONU tem poder de recomendação, não de imposição. Cabe aos países-membros, individualmente, decidir se vão de fato criar as tais "regras obrigatórias". Por outro lado, empresas de tecnologia argumentam que a inovação não pode parar à espera de um consenso internacional que, historicamente, demora anos para sair do papel — como aconteceu com acordos climáticos e de comércio.
Fica o retrato de um momento em que a tecnologia avança em ritmo de sprint, enquanto a diplomacia internacional ainda caminha em ritmo de maratona.