Moonshot limita capacidades de seu modelo de IA mais avançado para evitar ataques hackers
A startup chinesa Moonshot AI removeu deliberadamente parte do conhecimento ofensivo de cibersegurança do novo modelo Kimi K3.1 Pro, aceitando perder desempenho em troca de mais segurança.
Por Elias Brandão · Analista de IA e ética
Uma escolha deliberada entre poder e segurança
Imagine um fabricante de facas que decide, de propósito, deixar a lâmina de um modelo um pouco mais cega — não porque não sabe fazer melhor, mas porque não quer que aquele produto específico vire uma arma fácil de usar. Foi essa lógica que a Moonshot AI, startup chinesa de inteligência artificial conhecida pelo assistente Kimi e avaliada em cerca de US$ 35 bilhões em meados de 2026, aplicou ao seu modelo mais avançado.
No último sábado, a empresa apresentou o Kimi K3.1 Pro, modelo de pesos abertos da classe de 3 trilhões de parâmetros, e revelou que removeu deliberadamente dados relacionados a ciberataques tanto do material de treinamento quanto dos ambientes de aprendizado por reforço usados para refinar o sistema. Em bom português: a empresa tirou de propósito o "manual de como invadir sistemas" que a IA teria aprendido, mas manteve intacta a capacidade geral de programação.
Foto: reprodução/yahoo.com
O preço da cautela, em números
A decisão tem custo medido: em um benchmark interno de cibersegurança, que avalia a capacidade de identificar e explorar vulnerabilidades de software em ambiente controlado, o K3.1 Pro atingiu 81% de desempenho — contra 90,5% de uma versão equivalente do mesmo modelo treinada sem essas restrições. Ou seja, a Moonshot abriu mão de quase dez pontos percentuais de capacidade ofensiva de propósito.
O motivo declarado é o temor, compartilhado por governos, empresas de tecnologia e pesquisadores de segurança, de que IAs cada vez mais autônomas tornem ataques hackers mais sofisticados, baratos e automatizados — da descoberta de brechas até a execução de invasões em múltiplas etapas, sem necessidade de um humano especialista comandando cada passo.
O outro lado da moeda: abertura tem riscos
Aqui mora a tensão real da história. A Moonshot é uma das poucas empresas de peso que disponibiliza os pesos do seu modelo mais avançado publicamente — previsto para até 4 de novembro —, ao contrário de sistemas fechados como os da OpenAI e da Anthropic. Abrir o modelo tem vantagens claras: pesquisadores e desenvolvedores de qualquer lugar podem estudar, adaptar e rodar a IA nos próprios servidores, sem depender da nuvem de terceiros. O problema é que, uma vez publicado, não tem como "chamar de volta" se alguém decidir retreinar o modelo para fins maliciosos.
O episódio não é isolado: dias antes, a China propôs controles de exportação para restringir tecnologias de IA capazes de gerar ou modificar malware e para limitar ferramentas de descoberta de vulnerabilidades, citando risco a infraestrutura crítica e sistemas governamentais. O movimento da Moonshot parece alinhado a essa preocupação mais ampla — mesmo que, na prática, a linha entre uma IA "segura o suficiente" e uma IA genuinamente incapaz de causar dano continue sendo definida caso a caso.