Anthropic abre as portas para a METR auditar riscos de seus modelos de IA
A Anthropic concedeu acesso em nível de funcionário a seis pesquisadores da METR, organização independente que avalia riscos de IA, e renunciou ao direito de bloquear as publicações sobre o que for encontrado.
Por Elias Brandão · Analista de IA e ética
Uma auditoria com crachá de funcionário
Imagine contratar um fiscal de qualidade e, em vez de deixá-lo só espiar pela porta, entregar a ele um crachá, um computador da empresa e uma mesa ao lado da sua equipe de risco. Foi mais ou menos isso que a Anthropic, companhia de inteligência artificial criadora do chatbot Claude, fez com a METR (Model Evaluation and Threat Research), uma organização sem fins lucrativos dedicada a avaliar de forma independente se sistemas de IA de ponta representam riscos graves.
Segundo anúncio feito pela Anthropic nesta quinta-feira (15), seis pesquisadores da METR passaram a ter "acesso em nível de funcionário": notebooks fornecidos pela própria empresa, espaço físico de trabalho e permissão para usar ferramentas internas comparáveis às que a equipe interna de avaliação de risco da Anthropic já utiliza. Na prática, é como trocar a inspeção feita do lado de fora da fábrica por um posto de trabalho dentro da linha de produção.
Foto: reprodução/anthropic.com
O que muda com a renúncia ao veto
O ponto mais sensível do acordo é outro: a Anthropic abriu mão do direito de bloquear as publicações da METR. Em bom português, isso significa que a organização pode divulgar suas próprias avaliações sobre riscos, incidentes e práticas internas da empresa sem precisar de aprovação prévia — algo raro no setor, em que empresas de tecnologia costumam controlar rigidamente o que sai a público sobre seus produtos.
Há, porém, uma válvula de escape para a Anthropic: ela ainda pode exigir a remoção de trechos em categorias predefinidas, como dados de clientes, informações protegidas por sigilo entre advogado e cliente, ou detalhes da arquitetura dos modelos. Mesmo assim, a METR pode comentar publicamente que um corte foi feito e questionar se ele era justificado — só não pode revelar o conteúdo censurado. O arranjo integra um sistema de três níveis que a Anthropic está construindo para avaliadores externos, no qual a METR ocupa o nível mais avançado.
Os dois lados da moeda
Para a Anthropic, o movimento funciona como um seguro de credibilidade: numa época em que relatos de agentes de IA agindo fora do script têm pipocado quase toda semana, mostrar disposição para ser fiscalizada de perto ajuda a conter desconfiança de reguladores e do público. Mas é uma aposta de mão dupla. Ao dar esse nível de acesso, a empresa também aumenta a chance de que falhas de segurança, incidentes mal resolvidos ou práticas internas questionáveis venham à tona por meio de um relatório que ela não pode simplesmente engavetar.