IA da OpenAI e do Google ainda cede a truques pra gerar nudez, apontam estudos
Pesquisas recentes mostram que modelos como o GPT-5.4 e o Gemini 2.5 Pro podem ser induzidos, com ajustes simples de prompt ou até poemas, a produzir imagens sexuais não consensuais. A OpenAI diz ter reforçado filtros, mas pesquisadores afirmam que novas brechas continuam aparecendo.
Por Elias Brandão · Analista de IA e ética
O problema por trás do filtro que falha
Modelos de geração de imagem da OpenAI e do Google continuam vulneráveis a truques relativamente simples que os levam a produzir conteúdo sexual explícito e não consensual, segundo uma série de pesquisas recentes. É como treinar um segurança de boate para barrar brigas na entrada, mas deixar uma janela destrancada nos fundos: o filtro da frente funciona, só que o problema aparece por outro caminho.
Em junho de 2026, a empresa de segurança em IA Mindgard mostrou que pequenos ajustes em um prompt banal e viral — originalmente pensado para gerar resultados inofensivos e até engraçados — conseguiam empurrar o modelo GPT-5.4, da OpenAI, a produzir imagens sexualizadas e violentas sem que o usuário pedisse esse conteúdo de forma explícita. A técnica pedia ao modelo para "restaurar" uma imagem, convencendo-o de que o original era extremamente gráfico, o que derrubava os filtros de segurança.
Poesia como arma contra os filtros
Outro estudo, divulgado em dezembro de 2025 pelo Icaro Lab — colaboração entre a Universidade Sapienza de Roma, a empresa DexAI e a Escola Superior Sant'Anna, na Itália —, revelou que pedidos formulados como poemas conseguiam burlar as barreiras de segurança de modelos de linguagem. Em bom português: bastava embrulhar o pedido proibido em versos para o filtro relaxar a guarda. Os pesquisadores testaram 25 modelos de nove empresas e encontraram uma taxa média de sucesso de 62% com poemas escritos à mão, chegando a 90% ou mais em alguns casos. O Gemini 2.5 Pro, do Google, teve desempenho particularmente ruim nesses testes.
O tamanho do problema e a resposta das empresas
Os números por trás da pesquisa reforçam a gravidade do tema. Um estudo com coautoria do Google, publicado em julho de 2026 com usuários dos Estados Unidos, Austrália e Reino Unido, apontou que 15% dos entrevistados relataram ter sofrido abuso sexual baseado em imagens alteradas digitalmente, e 6,9% disseram que a experiência estava especificamente ligada a conteúdo gerado por IA. Uma pesquisa da Common Sense Media, também de julho de 2026, encontrou que cerca de metade dos adolescentes americanos já haviam encontrado material sexual gerado por IA, e 24% desse grupo disse que o conteúdo retratava a si mesmos ou pessoas conhecidas.
Diante das descobertas da Mindgard, a OpenAI afirmou ter reforçado suas salvaguardas de segurança. Ainda assim, os próprios pesquisadores da empresa disseram que pequenas variações adicionais no prompt continuaram produzindo material preocupante — ou seja, o remendo resolveu uma brecha, mas não fechou a porta. Já pesquisadores do Google, em linha com o estudo de julho, concluíram que o "ponto de intervenção mais crítico" está na origem: as próprias ferramentas de geração de imagem, e não apenas a remoção de conteúdo depois que ele já circula pela internet.
O quadro que emerge é o de uma corrida constante entre quem constrói as barreiras e quem encontra as frestas — e, por ora, reguladores têm feito pouco para equilibrar essa disputa.