Anthropic testa sistema para provar que resposta é de um modelo real
FlashProve usa criptografia para confirmar qual modelo de IA gerou uma resposta. Código já está no GitHub, mas ninguém se comprometeu a usar o sistema em produção.
Por Marina Sato · Repórter de IA
Uma impressão digital por modelo
A Anthropic, startup de inteligência artificial rival da OpenAI e criadora do chatbot Claude, publicou nesta terça-feira (3) a especificação técnica e o código de um sistema batizado de FlashProve. A função é simples de descrever e difícil de implementar: provar, com matemática, que uma resposta específica saiu de um modelo de IA específico.
O mecanismo lembra a assinatura criptográfica de um e-mail. Cada laboratório de IA publicaria uma espécie de impressão digital de cada modelo lançado. Essa impressão pode depois ser cruzada com uma resposta qualquer para confirmar, ou negar, que ela veio daquele modelo. A verificação roda em dispositivos locais, sem precisar de um servidor central.
O que o sistema não revela
A impressão digital não expõe os pesos do modelo — os números internos que definem como ele se comporta. Esse dado é segredo comercial de empresas como Anthropic e OpenAI. Por isso, o sistema foi desenhado para funcionar mesmo com modelos fechados, sem obrigar ninguém a abrir o código-fonte.
O problema que a Anthropic diz resolver
Segundo os pesquisadores, FlashProve serviria para flagrar três cenários: uma empresa troca secretamente um modelo caro por um mais barato para cortar custo, sem avisar o cliente; um laboratório infla resultados de desempenho usando um modelo diferente do anunciado; ou um impostor se disfarça de outro modelo para enganar o usuário. Esse terceiro caso vale mesmo quando o impostor é o próprio laboratório que criou e opera o modelo original.
O sistema também abriria espaço para terceiros confirmarem, de forma independente, qual modelo executou uma tarefa — útil em disputas sobre autoria de conteúdo gerado por IA.
Onde isso para
A Anthropic chama o lançamento de "progresso intermediário", não uma solução pronta para uso. Não há prazo nem compromisso de a própria empresa adotar o FlashProve em seus produtos, nem sinal de que OpenAI, Google ou outro laboratório vá publicar as impressões digitais dos próprios modelos.
O que falta responder
Sem adesão de outros laboratórios, a impressão digital de um modelo nunca existe para ser verificada. Falta saber se alguma empresa, a própria Anthropic incluída, vai de fato publicar essas impressões em produção — ou se o FlashProve fica só como prova de conceito no GitHub.