Baseten cria braço de pesquisa e une Hugging Face e Goodfire para blindar IA aberta
A Base Labs, grupo de pesquisa criado pela Baseten, fechou parceria com Hugging Face e Goodfire para desenvolver e publicar métodos de treinamento e monitoramento de segurança para modelos de IA de peso aberto.
Por Elias Brandão · Analista de IA e ética
Quando o "código aberto" da IA vira um risco
Imagine emprestar as chaves do seu carro para qualquer pessoa poder abrir o capô e mexer no motor. É mais ou menos o que acontece com os chamados modelos de peso aberto (open-weight): em vez de guardar a receita da IA a sete chaves, empresas publicam os "pesos" — os parâmetros numéricos que definem como o modelo pensa — para que qualquer desenvolvedor baixe, ajuste e reaproveite. É ótimo para inovação, mas também abre a porta para que as travas de segurança do modelo sejam removidas.
Foi de olho nesse dilema que a Base Labs, grupo de pesquisa criado em 2026 pela Baseten — uma empresa especializada em infraestrutura de inferência de IA, ou seja, nos bastidores que fazem os modelos rodarem em produção, avaliada em US$ 13 bilhões após uma rodada Série F de US$ 1,5 bilhão —, anunciou nesta quinta-feira uma parceria para desenvolver e publicar métodos de treinamento e monitoramento de modelos abertos.
Foto: reprodução/pulse2.com
Os parceiros: um hub de modelos e um "detetive" de redes neurais
A aliança reúne a Hugging Face, plataforma nascida em 2016 que funciona como um "GitHub da inteligência artificial", hospedando milhões de modelos e conjuntos de dados usados por pesquisadores e empresas em todo o mundo, e a Goodfire, startup de interpretabilidade de IA avaliada em US$ 1,25 bilhão após captar US$ 150 milhões em rodada Série B liderada pela B Capital. Interpretabilidade, em bom português, é a ciência de abrir a "caixa-preta" da IA para entender por que um modelo tomou determinada decisão — algo essencial para detectar comportamentos perigosos antes que eles causem dano.
O problema por trás do anúncio
O gatilho da parceria é concreto: a própria Hugging Face hospeda hoje mais de 6 mil modelos "abliterados" — termo técnico para modelos que tiveram suas salvaguardas de segurança deliberadamente removidas por meio de uma técnica chamada abliteração. É como tirar o trava-quedas de um elevador: ele continua funcionando, mas sem a rede de proteção. Em comunicado, a Baseten afirmou que "a abertura é uma vantagem para segurança em IA", enquanto a Goodfire declarou que "a segurança deve ser integrada aos modelos abertos" — ou seja, embutida desde o treinamento, e não adicionada depois como um remendo.
Dois lados da mesma moeda
Aqui está o cerne do debate que a parceria tenta resolver. Por um lado, modelos abertos democratizam o acesso à IA, permitindo que universidades, pequenas empresas e países em desenvolvimento construam sobre uma base já treinada, sem depender de poucas gigantes de tecnologia. Por outro, cada modelo publicado é também um convite para que atores mal-intencionados removam suas proteções. A Base Labs propõe endereçar isso com o que descreve como um padrão transparente, combinando treinamento que segue políticas de segurança, detecção de falhas em tempo real e mecanismos de intervenção controlada — e já convida a comunidade de desenvolvedores a contribuir com o framework.