Matemático acusa OpenAI de treinar IA com suas conversas privadas no ChatGPT

Um problema de 27 anos e uma suspeita nova

Imagine treinar um aluno de matemática só com livros públicos — e, num passe de mágica, ele resolve exatamente o problema que você vinha discutindo em segredo com um tutor particular. É mais ou menos a desconfiança do matemático alemão Andreas Thom, da TU Dresden, sobre a OpenAI.

Em 1º de agosto, a OpenAI anunciou que seu modelo Astra — sistema de IA da empresa ainda não lançado publicamente, usado em pesquisa matemática avançada — havia resolvido dez problemas matemáticos abertos havia décadas, com direito a manuscrito de 249 páginas e provas formalizadas em Lean 4. O destaque da lista era a construção explícita de um grupo "não-sofic", resposta a uma pergunta proposta pelo matemático Mikhail Gromov em 1999. Em bom português: soficidade é uma propriedade que mede se um grupo matemático (uma estrutura algébrica abstrata) pode ser "aproximado" por estruturas finitas mais simples, como tentar reconstruir uma escultura complexa usando só peças de Lego. Por quase três décadas, ninguém sabia dizer com certeza se existia algum grupo que escapasse dessa aproximação — até a Astra apresentar um.

A prova nasceu do trabalho de quem?

A demonstração da OpenAI se apoiou diretamente em artigos de Gábor Kun (2016) e de Kun com o próprio Thom (2019) sobre o chamado "problema do emparelhamento de expansores". O detalhe é que Thom e um colega de Dresden passaram meses debatendo extensões desse trabalho dentro de conversas privadas com o ChatGPT. Depois do anúncio, ele escreveu aos pesquisadores da OpenAI Mark Sellke e Sébastien Bubeck perguntando se esses diálogos alimentaram o treinamento do modelo. Sellke respondeu, em uma linha, que "isso não aconteceu". Para Thom, a resposta tratou apenas do acesso direto ao conteúdo, evitando a pergunta real — e ele a classificou como "unjustifiably broad and, in hindsight, dishonest" (injustificadamente ampla e, em retrospecto, desonesta).

O matemático reforça a suspeita com um argumento técnico: a abordagem de Kun-Thom nunca foi a aposta favorita da comunidade para resolver a não-soficidade — outras linhas, ligadas a jogos quânticos, pareciam mais promissoras. Por isso ele estranha que a Astra tenha mirado justamente na sua técnica.

Não é caso isolado

Dias antes, o matemático Tristan Buckmaster, da NYU, já havia levantado suspeita parecida sobre a resolução da equação de Navier-Stokes pela OpenAI, envolvendo também Levent Alpöge, hoje na Anthropic. A empresa reconheceu que não pode descartar que "dados de-identificados derivados do uso" dos pesquisadores tenham ajudado seus modelos, embora negue acesso direto a trabalhos não publicados.

Os dois lados

Thom não afirma ter prova definitiva de má conduta — pediu que a OpenAI seja transparente sobre a base da negativa. A OpenAI, por sua vez, não respondeu publicamente aos posts dele no Mathstodon. Fica a pergunta que devia incomodar qualquer usuário de chatbot: até onde vai a privacidade de uma conversa que parece só um rascunho entre você e a máquina?