OpenAI forma painel de matemáticos de elite após polêmica sobre autoria
Depois de mais de 20 medalhistas Fields acusarem a empresa de atropelar normas acadêmicas ao divulgar resultados matemáticos gerados por IA, a OpenAI criou um grupo independente para assessorar como esses achados devem ser comunicados.
Por Elias Brandão · Analista de IA e ética
Uma prova que virou motivo de briga acadêmica
No início de setembro, a OpenAI anunciou algo que soava como um marco histórico: seus modelos internos teriam produzido uma prova para a existência de singularidades em tempo finito nas equações de Navier-Stokes, um dos problemas mais difíceis da matemática, associado a um dos sete "Problemas do Milênio" do Clay Mathematics Institute. O feito, obtido por um sistema com milhares de agentes de IA rodando por 88 horas, rendeu manchetes. Só que a comunidade matemática reagiu com desconfiança, não com aplausos.
Em 11 de setembro, um grupo que hoje soma 27 medalhistas Fields — considerada a mais alta honraria da matemática mundial, equivalente a um Nobel da área — e mais de 7.800 signatários publicou uma carta aberta intitulada "Um Sério Desalinhamento da IA na Matemática". O texto, encabeçado por nomes como Terence Tao, não questionava a correção matemática da prova, mas sim a forma como ela foi divulgada: o ritmo acelerado dos anúncios e a falta de créditos adequados a pesquisadores cujo trabalho teria alimentado os resultados dos modelos.
Foto: reprodução/theverge.com
A resposta: um conselho que a própria OpenAI não controla
Diante da pressão, a OpenAI anunciou o Advisory Group on Mathematics and Artificial Intelligence (AGMAI), um grupo de nove matemáticos de peso — incluindo o próprio Terence Tao, Timothy Gowers, Martin Hairer, Edward Witten e representantes de instituições como Stanford, Harvard, Oxford e Cambridge. O grupo está sediado no Institute for Advanced Study, em Princeton, um dos centros de pesquisa mais respeitados do mundo, e funciona sem remuneração para seus integrantes.
A missão do AGMAI é avaliar a relevância de novos resultados matemáticos produzidos por IA, orientar como e quando divulgá-los, e zelar por padrões acadêmicos. É importante notar o que o grupo não faz: ele não tem poder de decisão sobre a OpenAI, não recebe pagamento e não pode ditar o ritmo interno de pesquisa da empresa.
Nem todo mundo está convencido
A reação dentro da própria comunidade acadêmica é mista. Alguns matemáticos, como Simon Machado, da ETH Zurich, uma das principais universidades técnicas da Europa, questionaram os critérios de seleção dos integrantes do painel. Já Francesco Fournier-Facio, que assumirá cargo na Heriot-Watt University, na Escócia, descreveu-se como "ambivalente" em relação à iniciativa.
O episódio ilustra uma tensão que deve se repetir: à medida que sistemas de IA produzem resultados científicos cada vez mais sofisticados, a pergunta sobre quem recebe crédito — o modelo, a empresa que o treinou, ou os pesquisadores humanos cujo trabalho serviu de base — só tende a ficar mais espinhosa.