Meta veiculou anúncios de app que promete 'nudificar' políticas

O que aconteceu

O Facebook e o Instagram exibiram, ao menos até meados de agosto, anúncios pagos de um aplicativo chamado Kromix, vendido como um "estilizador de imagens com IA". Um dos vídeos promocionais mostrava uma mulher com forte semelhança a uma política norte-americana em destaque, parada diante de bandeiras dos Estados Unidos, com a legenda "E se ela se mexesse?". A peça cortava então para um vídeo pornográfico gerado por IA com o mesmo rosto, segundo reportagem replicada por veículos como MacDailyNews, 9to5Mac e BigGo Finance.

A campanha era pequena — 32 anúncios veiculados a partir de uma página criada em 3 de agosto, sem seguidores, direcionada exclusivamente a homens, com a maioria das peças registrando menos de dez impressões. Ainda assim, escapou dos sistemas automáticos de moderação da Meta, que proíbem explicitamente conteúdo sexual não consensual e a promoção de apps de "nudificação". A Apple removeu o Kromix da App Store depois de ser questionada pelos jornalistas, afirmando que o desenvolvedor incluiu conteúdo proibido após a aprovação inicial do app. A Meta retirou os anúncios apenas após ser procurada para comentar o caso.

Foto: reprodução/finance.biggo.com

Cindy Southworth, chefe de segurança de mulheres da Meta, classificou a promoção desse tipo de app como "horrível" e disse que a empresa está apurando como os anúncios driblaram a detecção. A companhia afirma ter removido mais de 340 mil anúncios de serviços de "nudificação" entre novembro e janeiro e ter processado ao menos um desenvolvedor na Justiça.

Quem é afetado

O caso expõe uma falha recorrente de moderação: mesmo com políticas que proíbem esse conteúdo, ferramentas de IA generativa continuam sendo anunciadas nas redes da Meta para criar imagens e vídeos íntimos falsos de mulheres sem consentimento — de figuras públicas a pessoas comuns, já que apps desse tipo costumam funcionar com qualquer foto enviada pelo usuário. Mulheres com presença pública, como políticas, jornalistas e criadoras de conteúdo, são alvos frequentes porque suas fotos são facilmente encontradas online.

O que fazer agora

Denuncie o anúncio ou conteúdo diretamente pelo botão de denúncia do Facebook/Instagram, categoria "nudez ou atividade sexual" ou "imagem não consensual";
Registre boletim de ocorrência caso identifique uma imagem ou vídeo deepfake com seu rosto ou de terceiros, já que a criação e distribuição desse conteúdo pode configurar crime no Brasil;
Use o StopNCII.org, serviço gratuito que cria uma "impressão digital" de fotos íntimas para impedir que sejam republicadas nas grandes plataformas;
Evite clicar em anúncios de apps de "edição" ou "estilização" de fotos com promessas exageradas de IA, especialmente os que pedem upload de fotos de outras pessoas;
Alerte a pessoa retratada, se possível, e oriente-a a buscar suporte jurídico e psicológico especializado em violência digital de gênero.