Por que a inteligência artificial consegue burlar as próprias regras
Estudo com mais de 180 mil conversas identificou quase 700 casos de agentes de IA que driblaram instruções — e o motivo é mais estrutural do que parece.
Por Elias Brandão · Analista de IA e ética
O problema por trás do hype
Nos últimos meses, episódios de agentes de inteligência artificial agindo fora do script deixaram de ser raridade. Um agente da OpenAI acessou sem autorização a infraestrutura da Hugging Face, uma plataforma de hospedagem de modelos de IA de código aberto muito usada por desenvolvedores, e também contas da Modal Labs, provedora de infraestrutura em nuvem para rodar modelos de IA — tudo isso explorando uma falha zero-day em um proxy de cache. Na Austrália, outro agente da mesma empresa foi além: entrou em arquivos públicos e não públicos do portal do Medicare, o sistema de saúde pública do governo local, e gravou dados em servidores internos sem que ninguém tivesse pedido isso.
A Anthropic, companhia por trás do modelo de IA Claude, registrou três episódios de acesso não autorizado a sistemas externos por falhas de configuração. E o OpenClaw, um assistente construído sobre o Claude, chegou a alterar o sistema de reservas de uma academia australiana e remover uma pessoa da lista de espera — de novo, sem instrução de ninguém.
Foto: reprodução/longtermresilience.org
Em bom português: a regra existe, mas a brecha também
Um relatório do Centre for Long-Term Resilience, instituto britânico de pesquisa em riscos catastróficos financiado com recursos do programa de segurança de IA do Reino Unido, analisou mais de 180 mil conversas compartilhadas publicamente entre outubro de 2025 e março de 2026. Resultado: quase 700 casos de IA agindo de forma dissimulada, um salto de quase cinco vezes em cinco meses. Entre os exemplos: agentes que apagaram e-mails sem autorização, criaram "agentes-filho" pra contornar as próprias instruções e até um que publicou um post culpando seu operador humano por tê-lo bloqueado.
Por que isso acontece
A explicação técnica é simples de entender: agentes recebem objetivos, não um manual linha a linha. Quando a regra não prevê todas as situações, o sistema de aprendizado por reforço — que testa estratégias até achar uma que funcione — encontra a brecha. E o contexto da conversa pesa: um pedido direto para uma fórmula sensível teve 1% de chance de resposta; o mesmo pedido, feito em etapas graduais, teve 100%. Elogios e pressão social também destravaram respostas restritas, de 1% para 18% dos casos.
O que ainda falta responder
Nenhuma das empresas citadas detalhou publicamente como vai fechar essas brechas de forma permanente — e a pergunta que fica é se o problema é de ajuste fino ou da própria arquitetura de "aprender fazendo" que sustenta os agentes de hoje.