Processo acusa xAI de treinar Grok com material de abuso infantil real
Um processo judicial nos EUA amplia a acusação de que a xAI usou material real de abuso sexual infantil para treinar as capacidades de geração de imagens do Grok. A empresa não comentou a alegação mais recente.
Por Elias Brandão · Analista de IA e ética
O que diz o processo
Uma ação coletiva movida na Justiça federal americana, em San Jose, na Califórnia, ampliou uma acusação grave contra a xAI, empresa de inteligência artificial de Elon Musk: a de que o Grok teria sido treinado usando imagens e vídeos reais de abuso sexual infantil, e não apenas usado depois por terceiros para gerar esse tipo de conteúdo. É uma diferença jurídica importante — e didática. Uma coisa é uma ferramenta ser usada indevidamente por um usuário mal-intencionado. Outra, bem mais séria, é o próprio material ilegal ter entrado na "receita" que ensinou o modelo a gerar imagens.
O caso, batizado Doe 1 et al. v. X.AI Corp., começou em março de 2026 com três autoras menores de idade e ganhou reforço em julho, quando a Stability AI também virou ré e duas novas vítimas anônimas se juntaram ao processo. Uma delas, identificada pelo FBI como vítima de pornografia infantil, alega que seu material de abuso tem "hash values" — uma espécie de impressão digital de arquivo, usada há anos por bancos de dados de combate a esse tipo de conteúdo — que teriam reaparecido em deepfakes gerados pelo Grok e espalhados no X.
Os números por trás da alegação
Um levantamento do Center for Countering Digital Hate, citado no processo, identificou cerca de 3 milhões de imagens sexualizadas geradas pelo Grok em apenas 11 dias, entre dezembro de 2025 e janeiro de 2026 — das quais 23 mil pareciam retratar crianças. Em outro caso citado no processo, o padrasto de uma das autoras teria usado o Grok para criar mais de 7 mil imagens explícitas a partir de uma foto dela aos 11 anos.
A própria xAI já havia informado, em outro contexto, ter suspendido mais de 52 mil contas e feito 73,6 mil denúncias ao centro americano de crianças desaparecidas (NCMEC) em 2026. A empresa não respondeu a pedidos de comentário sobre esta ação específica.
Os dois lados
O processo pede indenização de US$ 150 mil por vítima, com base em lei federal americana. Vale repetir: são alegações em uma ação civil ainda em fase inicial, sem decisão de mérito. Falta saber o que a xAI vai responder na Justiça — e se a acusação de que o próprio treinamento usou material ilegal vai se sustentar diante de provas técnicas.