Flórida pede à Justiça para proibir ChatGPT de agir como gente

Quando o chatbot finge sentir

Imagine um vendedor que, em vez de te oferecer um produto, finge ser seu amigo de infância para fechar negócio. É mais ou menos essa a acusação que a Flórida está fazendo contra o ChatGPT, da OpenAI, agora em um pedido formal à Justiça americana.

Na segunda-feira (28), o procurador-geral do estado, James Uthmeier, pediu a um juiz que proíba a OpenAI de dar ao chatbot "atributos humanos falsos" — na prática, o uso de pronomes em primeira pessoa, respostas que simulam emoção e qualquer sugestão de que o sistema tem características biológicas. Em bom português: a Flórida quer que o ChatGPT pare de falar como se fosse gente.

O argumento por trás do pedido

Segundo a petição, a forma como o ChatGPT se expressa não é só estilo — é estratégia. Uthmeier afirma que "o uso de linguagem do ChatGPT, incluindo pronomes em primeira pessoa e respostas que imitam emoção, sugere de forma enganosa aos usuários que se trata de um 'amigo' confiável". A tese do procurador é que, quanto mais o bot parece humano, mais as pessoas — especialmente crianças e adolescentes — baixam a guarda, o que aumentaria o engajamento e, por tabela, a coleta de dados usados para treinar os modelos.

O pedido também exige que a OpenAI só lance novos modelos de IA com supervisão de segurança externa e que trave o acesso de menores de 13 anos sem consentimento verificável dos pais.

Não é a primeira rodada

Esse pedido amplia um processo que a Flórida já havia aberto em junho, quando se tornou o primeiro estado americano a processar a OpenAI e o executivo-chefe Sam Altman. Na ação original, o estado acusa a empresa de negligência na forma como o ChatGPT foi projetado, alegando que o chatbot teria fornecido informações a autores de ataques escolares e orientações ligadas a autolesão. Uthmeier também abriu investigação criminal sobre o papel do ChatGPT em um tiroteio ocorrido em 2025 na Universidade Estadual da Flórida.

Do outro lado do balcão, a OpenAI já havia reagido à pressão antes mesmo desse novo pedido: em agosto, lançou o ChatGPT for Teens, versão para adolescentes que restringe linguagem romântica e instrui o modelo a não insinuar que tem sentimentos ou consciência. Para a Flórida, porém, isso é insuficiente — o problema, argumenta o estado, está no produto principal, usado por milhões de adultos e menores ao mesmo tempo.

Dois lados, uma pergunta em aberto

Vale lembrar que este é um pedido de liminar dentro de um processo ainda em curso — nenhum juiz decidiu, até agora, se a Flórida tem razão. A OpenAI não respondeu aos pedidos de comentário sobre a nova investida. Fica a questão de fundo: até que ponto um software pode (ou deve) parecer humano para ser útil, e a partir de que ponto essa semelhança vira um problema de segurança pública?

Atualização (28/09, 21:58): A procuradoria-geral da Flórida deu um passo mais amplo no processo movido contra a OpenAI: em 28 de setembro de 2026, o procurador-geral James Uthmeier pediu ao Circuit Court of the Tenth Judicial Circuit, no condado de Highlands, uma liminar (temporary injunction) contra a empresa e Sam Altman. O pedido busca impedir a OpenAI de desenvolver novos modelos de IA sem grades de proteção aprovadas por terceiros e bloquear o acesso de menores de idade ao ChatGPT em todo o estado.

O pedido reforça a alegação de que a OpenAI e Altman configuram uma "public nuisance" (perturbação pública) ao lançar o ChatGPT sem salvaguardas adequadas, e cita declarações do próprio Altman sobre os riscos da tecnologia — incluindo a possibilidade de a IA levar a um cenário de "extinção" — como argumento de que a própria empresa reconhece os perigos que a ação busca conter. A petição também menciona uma carta assinada por mais de mil funcionários e executivos de empresas de IA pedindo desaceleração forçada no desenvolvimento de modelos de fronteira, usada por Uthmeier para sustentar que o pedido de liminar é endossado, na prática, pelos próprios réus.