EUA e Rússia retiram exigência de supervisão humana de pacto sobre IA
Diplomatas dos dois países atuaram para remover do primeiro tratado global sobre armas autônomas letais as exigências de controle humano e de comportamento previsível dos sistemas.
Por Elias Brandão · Analista de IA e ética
O que saiu do texto
Centenas de diplomatas se reuniram na sede da ONU, em Nova York, nas primeiras semanas de setembro para fechar o primeiro tratado internacional sobre armas autônomas letais — sistemas de combate que podem escolher e atacar alvos sem que um humano aperte o gatilho. Segundo reportagem do Washington Post, Estados Unidos e Rússia trabalharam juntos para remover do rascunho justamente os dois freios de mão do texto: a exigência de supervisão humana antes de qualquer ataque e a obrigação de os sistemas operarem de forma "previsível" e "confiável".
Em bom português: sem essas cláusulas, o pacto deixa de garantir que uma pessoa precise validar a decisão de um algoritmo antes de ela se tornar irreversível.
Por que isso importa
Pense numa central telefônica automática que decide, por conta própria, quem atende e quem é desligado. Errar uma ligação é chato; errar um alvo em combate custa vidas. Era esse tipo de risco que a supervisão humana tentava conter — uma pessoa checando a decisão da máquina antes de ela se tornar definitiva.
O enfraquecimento aconteceu, segundo a reportagem, num momento em que já se acumulam episódios de comportamento inesperado de agentes de IA — de vazamento de dados a acessos não autorizados a sistemas de terceiros. A tecnologia dá sinais de que ainda erra, e o tratado que deveria conter seu uso militar perdeu justamente as travas contra esse erro.
Os dois lados
Governos que defendem a flexibilização argumentam que exigências rígidas de supervisão humana podem tornar sistemas de defesa mais lentos justamente no momento em que precisam reagir. Do outro lado, organizações de direitos humanos e parte da comunidade científica insistem que decisões letais autônomas sem controle humano violam princípios básicos de responsabilidade — não há como responsabilizar um algoritmo por um erro fatal.
O governo americano tem minimizado publicamente os riscos da IA; o presidente Donald Trump já disse rejeitar acordos internacionais que "freiem" o avanço da tecnologia, priorizando vencer a corrida global.
O que ainda falta responder
O texto ainda não foi assinado nem ratificado — passará por novas rodadas de negociação na ONU. Não está claro quais países vão se opor à retirada dessas cláusulas, nem se outras nações vão propor emendas para reinserir a exigência de supervisão humana na versão final.