Deepfakes cada vez mais perfeitos podem complicar provas na Justiça, alertam OpenAI e Meta
Em audiência de um comitê da Justiça americana, representantes da OpenAI e da Meta disseram que vídeos e imagens gerados por IA estão tão realistas que pode não existir, no futuro, uma forma científica confiável de distingui-los de material autêntico.
Por Elias Brandão · Analista de IA e ética
Quando a prova vira suspeita
Imagine um tribunal como uma sala de aula onde cada prova precisa "provar" que é quem diz ser, como um aluno apresentando a carteirinha na entrada. Durante décadas, bastou perguntar: esse vídeo foi editado, essa foto foi forjada? Hoje, segundo representantes da OpenAI e da Meta, essa carteirinha está ficando cada vez mais fácil de falsificar e cada vez mais difícil de checar.
A preocupação foi levada, em 15 de outubro, ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, reunido em Boston. O colegiado, formado por juízes federais, discute desde 2023 como adaptar as regras de autenticação de provas à era da inteligência artificial generativa.
O que disseram OpenAI e Meta
Shira Anderson, advogada de políticas públicas da OpenAI, foi direta: "as imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las" no futuro. Em bom português: a empresa que construiu um dos geradores de imagem mais usados do mundo admite que pode não existir um teste de laboratório capaz de separar, com certeza, o verdadeiro do fabricado.
Devin Norder, diretor de gerenciamento de produtos da Meta, complementou o quadro. Segundo ele, o conteúdo produzido pelos modelos mais avançados de IA já é indistinguível de material autêntico para quem olha com os próprios olhos — e o custo e o tempo para fabricar esse tipo de conteúdo são baixos. É como comparar uma nota falsa antiga, que tremia na mão de qualquer caixa de loja, com uma versão tão bem impressa que passa pelo detector e pelo olho humano ao mesmo tempo.
A trava técnica das marcas d'água
Uma das apostas do setor para resolver o problema são as marcas d'água digitais, uma espécie de "etiqueta invisível" embutida no arquivo para indicar que ele foi gerado por IA. Califórnia e União Europeia já exigem esse tipo de sinalização por lei. O problema, segundo os representantes das empresas, é que cada companhia usa seu próprio sistema, sem um padrão universal — como se cada fabricante de carro tivesse seu próprio formato de cinto de segurança, incompatível com o banco do carro vizinho.
Nem toda profecia já se cumpriu
Curioso é que, apesar do alarme, os números ainda são pequenos. Uma pesquisa do Centro Judicial Federal dos EUA, com 931 juízes respondentes, identificou apenas 15 casos em que alguma das partes contestou uma prova alegando que seria deepfake — pouco mais de 1,6% do total. O próprio juiz Jesse Furman, que preside o comitê, reconheceu que as previsões sobre deepfakes nos tribunais ainda não se traduziram em uma onda de disputas reais.
Isso não significa que o risco seja infundado: tecnologia que evolui rápido tende a gerar efeitos defasados em relação ao debate que provoca. O comitê já preparou uma proposta de regra, ainda não aprovada, que inverteria o ônus da prova em casos de suspeita de deepfake, exigindo primeiro indícios concretos de quem alega a fraude.