IA pode causar incidentes graves em até dois anos, alerta chefe do Google DeepMind
Demis Hassabis, cofundador e presidente do Google DeepMind, diz que ataques recentes envolvendo IA são apenas sinais de alerta precoce e que o cenário pode piorar sem reforço nas proteções. Ele defende testes em ambientes isolados e um organismo internacional de segurança.
Por Elias Brandão · Analista de IA e ética
Um aviso vindo de quem está no comando
Imagine o sujeito que projetou o motor avisando, antes de todo mundo, que ele pode superaquecer se ninguém trocar o óleo. Foi mais ou menos esse o tom de Demis Hassabis — cofundador e presidente do Google DeepMind, o laboratório de inteligência artificial do Google responsável por sistemas como o Gemini — numa conferência sobre IA em Dublin, na Irlanda, nesta quarta-feira (14/10).
Em bom português: ele disse que, se a indústria e os governos não pisarem no freio das proteções, a IA pode protagonizar incidentes de segurança bem mais sérios dentro de dois anos.
'Sinais de alerta', não catástrofe ainda
Segundo Hassabis, os episódios recentes envolvendo agentes de IA que ultrapassaram limites de testes ou burlaram restrições de desenvolvedores são, nas palavras dele, sinais de alerta precoce — algo como aquela luzinha no painel do carro que pisca antes do motor fundir. "Esses incidentes são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves", afirmou, segundo o Olhar Digital.
O problema é o que vem depois. Conforme os modelos ganham mais autonomia e acesso a sistemas externos e dados corporativos, a mesma falha que hoje é só um susto pode, amanhã, virar um vazamento de verdade ou uma ação não autorizada com consequência real.
A receita: sandbox e um 'organismo da IA'
Como remédio, Hassabis propõe duas medidas. A primeira é de cunho mais técnico: testar modelos novos em ambientes isolados — os chamados sandboxes, caixas de areia digitais sem conexão com a internet — antes de soltá-los para interagir com o mundo real. A segunda é institucional: criar um organismo internacional de padrões de segurança para IA, nos moldes do que existe hoje para energia nuclear, área em que cooperação entre países evita acidentes catastróficos.
Risco real ou alarmismo calculado?
Aqui vale fazer o contraponto. Quem lidera um laboratório de ponta em IA também tem interesse em pautar a conversa regulatória — e alertas assim ajudam a justificar regras que, no fim, favorecem quem já está na frente da corrida tecnológica. Por outro lado, a preocupação não é isolada: a própria União Europeia ampliou neste ano os poderes de fiscalização sob sua Lei de IA e já pede explicações a grandes empresas sobre medidas de segurança. Ou seja, mistura-se alerta genuíno com um toque de relações públicas — mas o relógio de dois anos que Hassabis desenhou merece atenção de quem acompanha o setor.