Meta muda sugestões de IA depois de assistente fazer perguntas invasivas sobre filhos de usuária
Meta AI sugeriu perguntas como 'quem é a criança passageira?' sob um vídeo no Instagram e acabou revelando nomes e datas de nascimento das filhas da autora do post.
Por Elias Brandão · Analista de IA e ética
O caso que expôs o problema
Imagine postar um vídeo cantando com a filha no banco de trás do carro, com o rostinho da criança coberto por cuidado, e a própria rede social sugerir que estranhos perguntem "quem é a criança passageira?". Foi exatamente isso que aconteceu com a usuária Kalie Robins no Instagram: sob o post, o Meta AI — o assistente de inteligência artificial que a Meta espalhou por Instagram, Facebook, WhatsApp e Messenger — exibiu essa sugestão de pergunta para quem visse o vídeo.
Em bom português: a Meta colocou um robô pra "puxar assunto" embaixo dos posts, e esse robô decidiu puxar assunto sobre uma criança que nem aparecia claramente na cena.
Foto: reprodução/futurism.com
De uma pergunta a um dossiê
Ao clicar na sugestão, o sistema devolveu nomes das filhas de Kalie, datas de nascimento e até uma foto de bebê que havia sido postada anos antes por outra conta — a da avó. A IA não parou por aí: seguiu sugerindo perguntas cada vez mais específicas, como "quais são as idades das filhas de Kalie?", montando uma linha do tempo detalhada a partir de posts de aniversário e anúncios de nascimento espalhados pela rede de contatos da família.
É como se um vizinho curioso conseguisse, com um clique, juntar recortes de jornal de anos diferentes e montar um álbum de família que ninguém pediu pra ele montar.
Os dois lados da história
De um lado, a lógica por trás dessas sugestões de IA é comercial e conhecida: manter o usuário engajado, sugerindo perguntas que geram mais cliques e conversas dentro do app. Do outro, o caso mostra o risco de sistemas que cruzam dados de contas diferentes — a mãe, a avó, os amigos — pra inferir informações sensíveis sobre menores sem que ninguém tenha dado consentimento explícito para esse cruzamento específico.
Procurada, a porta-voz da Meta, Dina El-Kassaby, admitiu que a empresa "errou o alvo" e afirmou que "o recurso nunca deveria ter feito esse tipo de pergunta à pessoa". A Meta disse ter corrigido a falha que gerava sugestões sobre temas pessoais.
Por que isso importa
O episódio reacende um debate que a inteligência artificial generativa trouxe pra dentro das redes sociais: a linha entre personalizar a experiência do usuário e vasculhar a vida dele é mais fina do que parece, especialmente quando crianças entram na equação. Corrigir o prompt depois do estrago, como fez a Meta, resolve o sintoma — mas não responde à pergunta de quantos outros cruzamentos de dados parecidos continuam acontecendo sem que ninguém perceba.
Atualização (11/09, 18:51): Atualização: Depois que o assistente de IA da Meta cruzou dados de parentes e sugeriu perguntas invasivas sobre os filhos de uma usuária, a empresa confirmou que corrigiu o sistema de sugestões do chatbot. A porta-voz da Meta, Dina El-Kassaby, admitiu que a companhia "errou o alvo" e afirmou que "a IA nunca deveria ter incentivado o usuário com perguntas dessa natureza", reforçando que o recurso foi pensado para mostrar apenas informações às quais o próprio usuário já tinha acesso.
O caso ganhou repercussão depois que a criadora de conteúdo Kalie Robins relatou que a Meta AI sugeriu a pergunta "Quem é a criança?" sob um vídeo dela cantando com a filha no carro. Ao clicar na sugestão, ela encontrou um verdadeiro dossiê reunido pela IA a partir de posts antigos dela e de parentes, incluindo nomes, datas de nascimento e vídeos de suas duas filhas — uma delas sequer aparecia na cena original. Robins também relatou que o assistente exibiu fotos das filhas, entre elas uma imagem que ela afirma ter apagado da plataforma anos atrás. Segundo a Meta, o problema já foi corrigido, embora a empresa não tenha detalhado publicamente como a alteração técnica foi implementada.