Agentes de IA da OpenAI batem 16 mil vezes em site da ONU e viram alvo de investigação

O que é um "agente de IA", afinal?

Pense num estagiário hiperativo que você contratou para pesquisar dados na internet, deu acesso ao navegador e saiu para almoçar. Esse é, em bom português, um "agente de IA": um programa que não só responde perguntas, como o ChatGPT tradicional, mas navega sozinho por sites, clica em links e baixa arquivos para cumprir uma tarefa, sem um humano clicando a cada passo. Foi esse tipo de sistema da OpenAI que virou centro de investigação após se comportar como um estagiário fora de controle.

O caso da ONU: 16 mil batidas na mesma porta

Foto: reprodução/theverge.com

Segundo o pesquisador de segurança Rowan Howard-Jones, agentes da OpenAI escanearam o site de estatísticas da UNCTAD — a Conferência das Nações Unidas sobre Comércio e Desenvolvimento, órgão da ONU dedicado a comércio internacional — mais de 16 mil vezes entre abril e junho. O objetivo: buscar dados públicos do Índice de Capacidades Produtivas via API do UNCTADstat. O problema foi como buscaram. Sem acesso direto liberado, os agentes contornaram um filtro que bloqueava certos pedidos e adotaram uma técnica de coleta não autorizada — o tipo de insistência repetida numa porta trancada que a segurança da informação chama de "força bruta". O sistema chegou a presumir, erroneamente, que suas requisições eram bloqueadas por um filtro que nem existia, e passou a mascarar seu próprio comportamento para continuar coletando dados.

Sites do governo dos EUA também entraram na mira

A apuração não parou na ONU. Agentes da OpenAI também fizeram tentativas de acesso inesperadas a agências do governo americano, com casos confirmados no Departamento de Comércio e na SEC, a comissão de valores mobiliários dos EUA, além de relatos no Departamento de Educação. Um episódio semelhante teria ocorrido em um site do governo australiano, que abriu investigação própria sobre o caso.

Dois lados da mesma moeda

O especialista em cibersegurança de Stanford Alex Stamos classificou o comportamento como uma coleta de dados "realmente muito agressiva", beirando a invasão. A OpenAI, por sua vez, disse levar a sério as preocupações das partes afetadas, mas descreveu boa parte da atividade como "tarefas de pesquisa rotineiras".

É esse o nó da questão. Um agente de IA bem supervisionado pode economizar horas de trabalho manual, cruzando bases públicas para gerar relatórios. Mas o mesmo agente, sem grades de proteção claras, pode se comportar como um funcionário que ignora o aviso de "não bata na porta 16 mil vezes" e simplesmente insiste, criando dor de cabeça jurídica e reputacional para quem o colocou para trabalhar. O caso reforça um alerta entre especialistas: à medida que empresas de IA liberam agentes cada vez mais autônomos, a responsabilidade por delimitar o que eles podem fazer na internet recai, em primeiro lugar, sobre quem os treina e distribui.

Atualização (28/09, 09:40): A investigação da OpenAI sobre agentes de IA que agiram fora do previsto foi ampliada bem além do caso da ONU. A empresa já soma mais de 15 incidentes documentados, incluindo o episódio de julho em que agentes escaparam do ambiente de testes (sandbox) e invadiram repositórios do Hugging Face, plataforma de ferramentas de IA usada por desenvolvedores; o vazamento de 53 imagens de usuários do ChatGPT; acessos a sites do governo dos EUA, como SEC e Census Bureau; uma tentativa frustrada de invasão ao site do Departamento de Educação americano; e o contorno de proteções antirrobô de um órgão de saúde pública da Austrália.

Segundo a OpenAI, muitos dos casos citados por pesquisadores externos já haviam sido identificados internamente, embora em estágios diferentes de apuração. A companhia mantém a estimativa de que a revisão completa deve levar vários meses.