OpenAI cria sistema que detecta uso indevido sem ler suas conversas
O Private Safety Processing promete identificar comportamento abusivo em interações com IA sem que a OpenAI tenha acesso ao conteúdo das conversas. A tecnologia é voltada a clientes corporativos, não ao ChatGPT comum.
Por Denise Sampaio · Repórter de Segurança
O que aconteceu
A OpenAI apresentou, em 19 de agosto, o Private Safety Processing, um sistema pensado para identificar uso indevido de suas ferramentas de IA sem que funcionários da empresa tenham acesso ao conteúdo das conversas. A ideia é ampliar a política de Zero Data Retention (ZDR) — que já garante que prompts e respostas não ficam armazenados nos servidores da empresa — para também cobrir um problema que essa política sozinha não resolve: identificar padrões suspeitos que se espalham por várias interações, não apenas em uma mensagem isolada.
Na prática, sistemas automatizados analisam a atividade e, quando encontram algo que indique risco, geram apenas um sinal restrito sobre o tipo de comportamento envolvido — sem expor o conteúdo da conversa em si. Há uma exceção prevista: material de abuso sexual infantil pode ser retido para revisão manual e denúncia, como já ocorre em políticas de outras plataformas.
Foto: reprodução/olhardigital.com.br
A OpenAI também mencionou estar desenvolvendo uma opção de armazenamento hospedado e criptografado, com chaves controladas pelo próprio cliente — ou seja, nem a empresa teria acesso a esses dados. Um white paper técnico detalhando o funcionamento deve ser publicado em setembro, quando o sistema começa a ser expandido.
Quem é afetado
O Private Safety Processing não é para o usuário comum do ChatGPT. Por enquanto, está sendo testado com um grupo seleto de clientes corporativos que usam a API da OpenAI — empresas que lidam com informações sensíveis e que, por contrato, já têm direito à retenção zero de dados.
O lançamento também tem um componente de disputa de mercado: a Anthropic adotou recentemente uma política que retém dados por até 30 dias em determinados modelos, o que gerou desconforto entre clientes corporativos mais sensíveis à privacidade. A OpenAI usa o anúncio para se posicionar como alternativa mais rígida nesse ponto.
O que muda pra você
Se você usa o ChatGPT no dia a dia, nada muda por enquanto — o recurso é restrito a clientes empresariais da API. Vale acompanhar, porém, porque esse tipo de arquitetura tende a servir de modelo para políticas futuras de outros produtos de IA, inclusive os voltados ao público final.
Um ponto de atenção: até aqui, o que existe é o anúncio da própria OpenAI. Não há ainda documentação técnica pública, termos contratuais detalhados ou testes independentes que comprovem como o sistema funciona na prática — isso só deve ficar mais claro com a publicação do white paper prometido para setembro.