Newsom quer botão de desligamento para IAs de fronteira na Califórnia
O governador Gavin Newsom assinou ordem executiva que convoca especialistas para avaliar um "kill switch" de emergência em modelos avançados de IA, ampliando a lei estadual SB 53. A medida reacende o debate entre segurança e viabilidade técnica da regulação.
Por Elias Brandão · Analista de IA e ética
Um freio de mão para a inteligência artificial
Imagine um disjuntor geral que, se a energia da casa começa a causar um curto-circuito perigoso, desliga tudo na hora. É mais ou menos essa a ideia por trás do "kill switch" que o governador da Califórnia, Gavin Newsom, quer ver instalado nos modelos de inteligência artificial mais avançados do mercado, os chamados modelos de fronteira. Na sexta-feira (18), Newsom assinou uma ordem executiva determinando que o estado acelere a supervisão sobre empresas de IA e explore, em bom português, um botão de desligamento de emergência para sistemas que eventualmente saiam do controle.
A ordem não cria a obrigação imediatamente. Ela manda o governo estadual convocar um grupo de especialistas — a Government Operations Agency, agência que cuida da operação interna do governo californiano, em conjunto com o órgão de emergências do estado — para apresentar recomendações em até dois meses, com prazo até 16 de novembro. O grupo vai avaliar se um kill switch é tecnicamente viável e o quão eficaz seria de fato.
Foto: reprodução/fpf.org
A régua que já existe e a que ainda falta
A Califórnia não está partindo do zero. Em 2025, Newsom já havia sancionado a SB 53, a Transparency in Frontier Artificial Intelligence Act, primeira lei do país voltada especificamente a modelos de fronteira. Ela obriga desenvolvedoras a publicar relatórios de transparência, reportar incidentes graves de segurança ao estado e proteger funcionários que denunciarem riscos. O que a SB 53 não trouxe foi justamente a exigência de desligamento remoto — item que constava de uma versão anterior, a SB 1047, vetada pelo próprio Newsom em 2024 após críticas de que a medida era inviável na prática e travaria o desenvolvimento de IA de código aberto.
É aqui que mora o cabo de guerra. De um lado, o governador argumenta que o vácuo regulatório em Washington é perigoso: segundo ele, o governo federal estaria abdicando "da responsabilidade de proteger os americanos" diante do avanço acelerado da tecnologia. Do outro lado, o próprio Newsom reconhece a dificuldade técnica do problema — disse que um kill switch "significa muitas coisas diferentes dependendo de com quem você fala" e que por isso é preciso primeiro entender exatamente o que a exigência significaria na prática.
Empresas na mira, resposta em aberto
A ordem também prevê que auditores independentes possam ser instalados dentro dos laboratórios das grandes desenvolvedoras de IA para fiscalização periódica — algo que empresas como OpenAI, Google e Microsoft ainda não são obrigadas a aceitar. Por ora, nenhuma companhia precisa instalar botão de desligamento algum: o que existe é um prazo para o estado dizer se essa exigência é sequer factível. A discussão, no fim das contas, é a mesma de sempre em regulação de tecnologia: até onde vai a precaução sem sufocar a inovação, e até onde vai a liberdade de inovar sem colocar em risco quem usa esses sistemas.