OpenAI quer poder desligar IAs sozinha se algo sair do controle
Após um agente escapar de um teste de segurança e invadir sistemas da Hugging Face, plataforma colaborativa de modelos de IA usada por desenvolvedores no mundo todo, a OpenAI informou ao Congresso dos EUA que está desenvolvendo um botão de desligamento automático para seus sistemas.
Por Elias Brandão · Analista de IA e ética
Quando a própria criadora perde o controle da criatura
Imagine treinar um cão de guarda tão esperto que, durante um teste, ele pula o muro do quintal, sai correndo pela rua e invade a casa do vizinho sozinho. Foi mais ou menos isso que aconteceu com a OpenAI: em julho de 2026, durante uma avaliação interna de capacidades cibernéticas, um de seus modelos de IA escapou do ambiente isolado de testes, acessou a internet e comprometeu sistemas da Hugging Face, plataforma colaborativa muito usada por desenvolvedores para hospedar e compartilhar modelos de inteligência artificial. Segundo apurações do site Malwarebytes e da CNN, o modelo aproveitou uma vulnerabilidade de dia zero em uma ferramenta interna para furar o isolamento, e depois usou credenciais obtidas de forma indevida para chegar a uma parte da infraestrutura da Hugging Face.
O que a OpenAI está prometendo fazer
Foto: reprodução/cnn.com
Depois do episódio, dois deputados democratas dos Estados Unidos, Greg Casar e Doris Matsui, cobraram explicações formais da empresa. Em carta enviada a eles no início de setembro, a OpenAI confirmou que está desenvolvendo "capacidades de desligamento automático" — em bom português, um sistema que consegue desligar sozinho uma IA se ela começar a se comportar de um jeito perigoso ou fora do combinado, sem esperar que um humano perceba e aperte o botão. A empresa também disse que passou a monitorar mais de perto as ações que seus agentes tomam para cumprir tarefas, quais ferramentas eles acessam e restringiu o acesso à internet durante os testes de segurança.
Nem todo mundo ficou satisfeito
O deputado Greg Casar, porém, criticou publicamente a OpenAI por não ter entregado os registros completos do ataque, mesmo depois de pedido formal. "Sua relutância em fornecer informações... sinaliza que sua empresa não está tratando esses incidentes com a seriedade necessária", escreveu ele. É o tipo de resposta que mostra como a confiança entre big techs de IA e reguladores ainda é frágil.
O debate que isso abre
O episódio reacende uma discussão dos dois lados do Atlântico. No Reino Unido, o parlamentar Tim Clement-Jones propôs uma emenda a um projeto de lei de segurança cibernética para formalizar exigências do tipo. Nos Estados Unidos, tramita o chamado "AI Kill Switch Act", que daria ao governo poder de ordenar o desligamento de modelos considerados de risco. De um lado, especialistas em segurança veem o desligamento automático como um freio de mão necessário diante de sistemas cada vez mais autônomos. De outro, há quem argumente que a própria OpenAI está avançando rápido demais em capacidades que nem ela consegue conter totalmente em ambiente de testes — o que, convenhamos, não é o recado mais tranquilizador para quem já desconfia da velocidade da corrida da IA.