Pangram amplia detecção de IA e mira o cinza entre real e falso

US$ 9 milhões para resolver um problema binário demais

A Pangram, startup americana de detecção de conteúdo gerado por inteligência artificial, levantou US$ 9 milhões e acaba de lançar uma ferramenta de detecção de imagens geradas por IA, ampliando o que até então era um produto focado em texto. O cofundador e CEO, Max Spero, resume a tese da empresa numa frase: tratar conteúdo como "real ou falso" é binário demais para o mundo real.

Onde a linha fica borrada

Segundo Spero, o desafio que mais cresce não é identificar textos totalmente gerados por robôs, e sim separar conteúdo "assistido por IA" — um texto humano revisado ou melhorado por um modelo — de conteúdo inteiramente "gerado por IA". Essa linha fina já afeta candidaturas de emprego, avaliações de produtos em e-commerce e até sinistros de seguro, áreas em que confiar demais numa detecção binária pode acusar gente inocente ou deixar passar fraude de verdade.

Como a tecnologia funciona

A Pangram usa duas técnicas principais: "synthetic mirroring", que pega texto escrito por humanos e pede a diferentes modelos de linguagem para gerar versões equivalentes, treinando o sistema a reconhecer os padrões que distinguem um do outro; e "hard negative mining", que caça ativamente falsos positivos dentro de bases de dados para reforçar o treinamento nos casos mais difíceis de acertar. A empresa também fechou parceria com a Substack, plataforma de newsletters pagas, para ajudar a identificar uso de IA entre os autores da plataforma.