Pesquisadores de IA gravam vídeos alertando: risco de extinção é real
Uma série de cerca de uma dúzia de entrevistas reunidas pela organização Palisade Research traz atuais e ex-funcionários de OpenAI, Google e Anthropic estimando entre 10% e 50% a chance de a superinteligência levar à extinção humana. O tom é grave, mas os próprios entrevistados pedem desconfiança.
Por Elias Brandão · Analista de IA e ética
Uma dúzia de alertas, a mesma pergunta no fundo
Imagine pedir a doze engenheiros que constroem o mesmo avião para responderem, em vídeo, qual a chance de ele cair. É mais ou menos o que a Palisade Research — uma organização sem fins lucrativos dedicada a estudar as capacidades e motivações de sistemas de inteligência artificial — fez ao reunir cerca de uma dúzia de entrevistas com pesquisadores atuais e ex-funcionários de OpenAI, Google (por meio do laboratório DeepMind) e Anthropic. Os vídeos foram publicados no site frominside.ai e tratam de um único tema: os riscos de uma futura superinteligência artificial, um sistema hipotético mais capaz que os humanos em praticamente todas as tarefas cognitivas.
Cara ou coroa para a humanidade
O nome que resume o tom do projeto é Geoffrey Irving, que passou pela OpenAI e pela Google DeepMind (a divisão de pesquisa em IA do Google) antes de seguir carreira independente na área de segurança. Ele resume sua visão de forma direta: a chance de extinção humana é "tipo cara ou coroa", ou seja, algo próximo de 50%. Irving já explicou publicamente que considerou por anos uma faixa entre 10% e 90% sem se sentir seguro em nenhum ponto específico dela — e decidiu que a atitude mais honesta era simplesmente adotar a média.
Já Neel Nanda, cientista de pesquisa do Google DeepMind que lidera a equipe de interpretabilidade mecanicista (a linha de pesquisa que tenta "abrir a caixa-preta" das redes neurais para entender como elas pensam), é mais comedido, mas não menos preocupado: para ele, há "pelo menos 10% de chance de causar extinção humana, e isso já é um número absurdamente alto". Nanda chega a afirmar que largaria o emprego se não acreditasse que seu trabalho reduz diretamente esse risco.
O peso das palavras de quem já saiu
Daniel Kokotajlo, que deixou a OpenAI em 2024 recusando um acordo de confidencialidade — abrindo mão de milhões de dólares em ações da empresa para poder falar livremente sobre os riscos que via internamente — descreve sistemas superinteligentes como algo que seria "basicamente poderoso como um deus", complementando que, infelizmente, "não sabemos como controlá-los". Uma frase sua, "isso é exatamente tão perigoso quanto parece", dá título à série de vídeos.
Nem todo mundo fala do alto de uma torre de marfim
O projeto também traz vozes que pedem cautela com o próprio alarme. Mary Phuong, pesquisadora do Google, avisa que "vocês deveriam desconfiar do que estou dizendo, porque sou paga pelo laboratório" — um lembrete de que, mesmo entre os que soam pessimistas, há interesses e vieses institucionais em jogo. É esse equilíbrio entre urgência e ceticismo que torna a série mais um retrato da incerteza real do campo do que um veredito fechado sobre o fim do mundo.