Google DeepMind cria instituto para debater os riscos e promessas da AGI
Batizado DeepMind Institute, o novo braço reúne pesquisadores de dentro e fora da empresa para discutir publicamente — e sem obrigação de concordar — os dilemas da inteligência artificial geral.
Por Elias Brandão · Analista de IA e ética
O que é AGI, em bom português
Antes de mais nada, vale explicar do que estamos falando. AGI é a sigla para "inteligência artificial geral" — um sistema hipotético capaz de aprender e raciocinar sobre qualquer tarefa intelectual como um humano faria, e não apenas em uma função específica, como reconhecer imagens ou escrever textos. Ninguém sabe ao certo quando (ou se) ela vai existir, mas as principais empresas de IA já organizam suas equipes e discursos públicos em torno dela.
O que a DeepMind anunciou
O Google DeepMind, laboratório de inteligência artificial do Google, lançou nesta semana o DeepMind Institute, dedicado a ampliar o debate público sobre os impactos da AGI. A ideia, segundo o ensaio que apresenta a iniciativa, é reunir vozes de dentro do Google, do próprio DeepMind e da comunidade científica global — mesmo quando elas discordam entre si. A liderança ficou com três nomes: Demis Hassabis, CEO do Google DeepMind; Shane Legg, cofundador da empresa e cientista-chefe de AGI, que atua como uma espécie de editor-chefe do instituto; e James Manyika, executivo sênior do Google para pesquisa, tecnologia e sociedade.
As primeiras publicações do instituto tratam de quatro temas: como lidar com as disrupções econômicas que a AGI pode causar; como preservar a transparência do raciocínio dos modelos, hoje visível no chamado "chain-of-thought" (a cadeia de passos que a IA segue até chegar numa resposta); acesso equitativo à tecnologia entre países ricos e pobres; e princípios para o que chamam de "florescimento humano" na era da AGI.
Os dois lados da mesma mesa
A criação de um instituto "para debater" é, ao mesmo tempo, um gesto de transparência e uma jogada de relações públicas — e as duas leituras não se anulam. Por um lado, abrir esse debate publicamente, com pesquisadores que podem discordar da própria empresa, é mais do que a maioria dos laboratórios de IA faz hoje. Por outro, é a própria DeepMind quem escolhe os temas, os convidados e o ritmo da conversa, o que limita o quanto o debate é de fato independente.
O que falta responder
Não foi divulgado orçamento nem prazo para os próximos passos do instituto, nem se as conclusões terão algum peso nas decisões de produto do Google. Também não está claro se pesquisadores críticos ao ritmo atual de lançamentos de IA — inclusive de dentro do próprio Google — terão voz real nesse espaço, ou se o instituto vai funcionar mais como vitrine do que como fórum de fato aberto.