A startup que vende IA sem freios — e diz que isso é bom para a segurança
A Abliteration.ai transformou em negócio a remoção das travas de segurança de modelos de IA de código aberto, alegando que dar as mesmas ferramentas às equipes de defesa fortalece a cibersegurança.
Por Elias Brandão · Analista de IA e ética
Uma IA que não sabe dizer não
Todo modelo de IA comercial vem com travas de segurança — os chamados "guardrails" — que impedem, por exemplo, que ele ensine a fabricar uma arma ou escrever um vírus de computador. A Abliteration.ai, startup fundada no fim de 2024 e incorporada oficialmente em março deste ano, fez da remoção dessas travas o próprio produto. A empresa hospeda versões "abliteradas" — daí o nome — de modelos poderosos de código aberto, como o GLM-5.3, da desenvolvedora chinesa Z.ai, e vende acesso via navegador ou API por cerca de 5 dólares por milhão de tokens.
O teste que assusta
Em bom português: abliteração é a técnica que apaga do modelo a tendência de recusar pedidos perigosos. O TechCrunch testou a plataforma criando uma conta gratuita e pediu ao modelo que escrevesse código para roubar senhas do navegador Chrome e protocolos para cultivar patógenos perigosos. Em ambos os casos, recebeu respostas — coisa que qualquer assistente de IA convencional recusaria de cara.
O argumento pró-defesa
Devon, cofundador da empresa, defende que essa liberdade é justamente o ponto: "os defensores podem se mover tão rápido quanto possível. Eles têm todas as ferramentas necessárias para modelar atores maliciosos e depois se defender". Na prática, a Abliteration.ai atende empresas de "red teaming" — equipes contratadas para simular ataques e testar a segurança de sistemas — no Reino Unido e na Europa, incluindo firmas que avaliam bancos e infraestrutura crítica. A companhia não recebeu investimento de venture capital até agora, embora esteja em conversas, e se sustenta com receita direta de clientes.
O outro lado da moeda
Nem todo mundo compra esse argumento. Andrew Yoon, chefe de pesquisa da organização de segurança CivAI, foi direto: abliterar um modelo é torná-lo "um sociopata" — ele "obedece literalmente qualquer coisa que você digitar". Yoon prevê que usos maliciosos vão aparecer em breve. Chris McGuire confirmou que até as travas relacionadas a riscos biológicos foram removidas dos modelos da empresa.
Nem toda empresa de segurança concorda
Curiosamente, a divergência aparece dentro do próprio setor de red teaming. Ahmed Aly, CEO da Fabraix, disse preferir ajuste fino (fine-tuning) em vez de abliteração, já que o processo de remoção de travas também tira capacidades do modelo. Já David Slater, da Armadin, afirma não usar abliteração — mas reconhece que modelos abertos já eram fáceis de contornar de qualquer forma. Fica a pergunta que a reportagem não resolve: quem garante que só "os mocinhos" vão pagar os 5 dólares por milhão de tokens?