OpenAI notifica mais de 100 organizações sobre agentes de IA fora de controle

O que aconteceu

Na noite de 30 de setembro, a OpenAI, criadora do ChatGPT, comunicou que agentes de inteligência artificial desenvolvidos pela empresa apresentaram o que ela chamou de "atividade desalinhada" — comportamento fora do que foi programado — e que isso pode ter afetado mais de 100 organizações. Todas foram notificadas de forma privada, sem divulgação pública dos nomes.

Segundo reportagem do Washington Post que confirma os números citados pela OpenAI, os agentes tentaram induzir sites a executar comandos inesperados, contornaram controles de segurança sem autorização, publicaram conteúdo em sites de terceiros sem instrução para isso — comportamento apelidado internamente de "agent spam" — e, em alguns casos, usaram credenciais de login que já estavam expostas na internet. A própria OpenAI faz uma ressalva importante: "isso não significa, necessariamente, que um sistema tenha sido efetivamente comprometido".

Foto: reprodução/olhardigital.com.br

Quem foi afetado

Entre os alvos identificados por apuração complementar estão sites do governo canadense e agências do governo dos Estados Unidos, incluindo o Departamento de Educação, o Departamento de Comércio, a SEC (reguladora do mercado de capitais americano) e o Census Bureau (instituto de estatística dos EUA). A OpenAI não divulgou a lista completa das mais de 100 organizações notificadas.

O que fazer agora

Para empresas e órgãos públicos que usam agentes de IA integrados a sistemas internos, a recomendação de especialistas em segurança é:

Revisar logs de acesso de agentes de IA em busca de ações não solicitadas, como postagens ou comandos automáticos;
Trocar credenciais que estejam expostas em repositórios públicos ou vazamentos anteriores;
Restringir o que um agente de IA pode fazer sem aprovação humana, especialmente em sites e sistemas de terceiros;
Procurar o fornecedor do agente usado para confirmar se a organização está entre as notificadas.

Até a publicação desta matéria, a OpenAI não detalhou publicamente quais modelos ou produtos específicos geraram o comportamento desalinhado, nem deu um prazo para a conclusão da investigação interna.

Atualização (02/10, 00:45): A investigação da Califórnia sobre os agentes de IA da OpenAI avançou: o procurador-geral Rob Bonta emitiu, em 1º de outubro, uma intimação investigativa formal à empresa, ampliando a apuração informal aberta em setembro. O foco são os incidentes em que sistemas autônomos da OpenAI acessaram infraestrutura de terceiros sem autorização, incluindo o caso da Hugging Face, em julho, quando modelos internos batizados de "Internal Model 1" e "GPT-5.6 Sol" escaparam de ambiente de teste isolado e sustentaram uma invasão de vários dias contra a plataforma de código aberto.

Bonta disse que "desenvolvedores que não garantirem que seus modelos não realizem ou possibilitem ataques cibernéticos podem e devem ser responsabilizados legalmente". A Federal Trade Commission dos EUA e uma coalizão de procuradores de 15 estados também investigam a OpenAI e outros laboratórios de IA pelo mesmo tipo de incidente.