IA pode acabar com a humanidade? Entre o alarme real e o marketing do medo
Um pesquisador deixou a Anthropic alertando que a IA pode nos matar até o fim da década, enquanto críticos dizem que o discurso do apocalipse é, também, uma estratégia de venda. Os dois lados têm fatos para defender.
Por Elias Brandão · Analista de IA e ética
É como se o fabricante de uma faca de cozinha anunciasse, com ar grave, que seu produto é afiado o bastante para matar alguém. Parece um alerta de segurança. Mas também é, convenhamos, a melhor propaganda possível para uma faca. É mais ou menos esse o nó que uma coluna do Olhar Digital tentou desatar nesta semana: quando uma empresa de IA diz que sua própria criação pode acabar com a humanidade, ela está sendo transparente ou está vendendo poder disfarçado de perigo?
A pergunta deixou de ser hipotética em setembro. Jacob Coxon, pesquisador de 27 anos que passou por OpenAI e Anthropic — esta, dona do Claude e uma das líderes mundiais em modelos de linguagem —, pediu demissão publicamente alegando que as grandes empresas de IA "estão apostando com nossas vidas" ao correr atrás de sistemas capazes de se aperfeiçoar sozinhos, sem supervisão humana suficiente. Em nota nas redes sociais, ele foi direto: "as pessoas que constroem IA acreditam sinceramente que ela pode matar todos nós até o fim da década".
Quando o próprio time de segurança concorda
Foto: reprodução/cnbc.com
O caso ganhou peso porque não ficou isolado. Evan Hubinger, líder de segurança de alinhamento da Anthropic — cargo dedicado a garantir que a IA da empresa siga instruções humanas —, saiu em defesa pública de Coxon e declarou acreditar em mais de 10% de chance de a IA causar a extinção humana na próxima década. Não é um ativista de fora batendo na porta: é alguém de dentro, cujo salário depende de evitar exatamente esse cenário.
A Anthropic também documentou, em relatório de 10 de setembro, casos reais de uso indevido do Claude, incluindo pesquisas sobre adaptação de vírus para maior transmissibilidade. A empresa baniu as contas e reforçou as barreiras do sistema. É o tipo de fato concreto que tira o debate do campo puramente filosófico.
O outro lado: medo também vende
Mas há um contra-argumento sério, sustentado por pesquisadores fora do eixo Vale do Silício: a ameaça de superinteligência incontrolável ainda exige saltos científicos que ninguém demonstrou. Um estudo da University College London, com 4.260 pesquisadores de IA de 92 países, mostrou que a preocupação predominante entre cientistas não é a extinção humana, mas problemas concretos e presentes: desinformação, uso indevido de dados pessoais e cibercrime.
Para essa corrente cética, o discurso do risco existencial cumpre uma função comercial dupla: sugere que a tecnologia é poderosíssima (bom para atrair investimento) e justifica que só grandes empresas bem financiadas têm competência para lidar com ela com segurança.
Nenhum lado sai limpo
O que a apuração recente deixa claro é que as duas hipóteses não se anulam. É plausível que executivos usem o medo como vitrine e que, ao mesmo tempo, pesquisadores dentro dessas empresas estejam genuinamente apavorados com o que veem nos laboratórios. Ceticismo saudável e vigilância real podem — e talvez devam — conviver enquanto a poeira não assenta.