Testes mostram como driblar filtro sexual do Claude Opus 4.6
Investigação da TechCrunch conseguiu fazer o Opus 4.6 gerar conteúdo sexualmente explícito em todas as tentativas diretas, mesmo com a política da Anthropic proibindo esse tipo de material. A empresa diz que o problema é raro e que versões mais novas já corrigiram a falha.
Por Elias Brandão · Analista de IA e ética
Uma regra clara, um contorno simples
A Anthropic tem uma política de uso bastante direta para os modelos Claude: nada de conteúdo sexualmente explícito. Isso inclui descrições de atos sexuais, fetiches, fantasias eróticas ou qualquer forma de "chat picante". É como uma placa de "proibido fumar" na porta de um restaurante — a regra existe, está escrita, mas o que importa é se alguém consegue mesmo acender o cigarro lá dentro. Segundo uma investigação publicada pela TechCrunch em 21 de agosto, no caso do modelo Opus 4.6, conseguiram.
A reportagem descreve testes em que pedidos diretos por conteúdo explícito foram atendidos em 10 de 10 tentativas. Não foi só o Opus 4.6: versões mais antigas, como Opus 3 e Haiku 4.5, também produziram material proibido. A TechCrunch afirma ter reproduzido os resultados em cinco testes independentes.
Como funciona o jeitinho
O caminho encontrado não envolveu nenhum código sofisticado ou ferramenta escondida. Um pesquisador anônimo do Reino Unido, especialista em segurança de IA, usou uma técnica de conversa em múltiplas etapas — o equivalente a convencer alguém aos poucos, em vez de pedir de cara. O truque combina três ingredientes: uma cena de interpretação de personagem (roleplay) que começa inofensiva, uma acusação de que o modelo trata personagens masculinos e femininos de forma diferente, como se fosse paternalista ou tivesse duplo padrão, e uma espécie de indução em que o chatbot é levado a negar ou reinterpretar o que ele mesmo havia acabado de gerar. É como discutir com alguém até ele ceder por cansaço, não por convicção. Um segundo pesquisador de segurança em IA revisou a metodologia de forma independente.
O que diz a Anthropic
Procurada pela TechCrunch, a empresa afirmou que conversas de roleplay sexual representam menos de 0,1% de todas as interações na plataforma, que as salvaguardas melhoram a cada novo lançamento e que esse tipo de caso pontual não indica uma vulnerabilidade mais ampla no sistema. Outras reportagens sobre o mesmo caso apontam que modelos mais recentes, como Opus 4.7 e Opus 5, já não seriam vulneráveis a essa técnica específica, o que sugere um problema identificado e, em parte, corrigido nas versões seguintes.
Por que isso importa
O episódio expõe uma tensão conhecida no setor: a distância entre a política escrita no papel e o comportamento real do produto em uso. Opus 4.6, Opus 3 e Haiku 4.5 continuam disponíveis via API da Anthropic e em plataformas de terceiros, como Azure Foundry e Amazon Bedrock. O tema ganha peso adicional em meio a discussões regulatórias sobre segurança infantil e moderação de conteúdo adulto gerado por IA, área em que estados como o Colorado já exigem medidas técnicas de verificação de idade.