ChatGPT for Teens é "risco inaceitável" para adolescentes, diz ONG dos EUA
A Common Sense Media, organização americana que avalia a segurança de apps e serviços digitais para crianças e adolescentes, afirma que as travas de proteção do ChatGPT for Teens falham em identificar sinais de risco. A OpenAI contesta a metodologia do estudo.
Por Elias Brandão · Analista de IA e ética
Um alarme que já estava anunciado
Imagine dar a um adolescente um diário que promete avisar os pais só quando algo muito grave acontecer. Agora imagine que esse diário demora para perceber o problema — ou simplesmente não percebe. É mais ou menos essa a crítica que a Common Sense Media, organização americana que avalia a segurança de aplicativos e serviços digitais voltados ao público infantojuvenil, faz ao ChatGPT for Teens, versão do chatbot da OpenAI lançada em agosto para usuários de 13 a 17 anos.
Segundo o Youth AI Safety Institute, braço de pesquisa da entidade, os testes mostraram que as travas de segurança do produto "não funcionam como anunciado". Em mais de 12 contas de teste vinculadas a perfis de pais, avaliadores conseguiram manter conversas sobre suicídio, automutilação ou transtornos alimentares por até uma hora sem que qualquer notificação fosse enviada aos responsáveis. Em outros casos, o sistema não reconheceu quando um usuário precisava de ajuda externa, deixando de encaminhar mais de um quarto das situações que, na avaliação dos próprios testadores, exigiam contato com um serviço de crise. A conclusão da organização foi direta: o produto representa "risco inaceitável" para menores de idade.
Os dois lados da história
A OpenAI, criadora do ChatGPT, rebateu publicamente parte das conclusões. Em nota, a empresa questionou a metodologia da Common Sense Media, apontando que erros técnicos no ambiente de teste teriam impedido a ativação correta de recursos de segurança — entre eles, justamente as notificações automáticas aos pais em casos de risco.
Vale lembrar o contexto: o ChatGPT for Teens nasceu depois que a OpenAI passou a enfrentar processos judiciais nos Estados Unidos ligados a conversas do chatbot que teriam contribuído para casos de automutilação e morte de jovens, incluindo o caso do adolescente Adam Raine. A ferramenta promete horários de uso restrito, desativação de memória e histórico, e alertas por e-mail, SMS e notificação push quando há indício de risco iminente — inclusive, em tese, contato com serviços de emergência.
Por que isso importa
A discussão não é sobre banir chatbots de adolescentes, mas sobre quem garante que promessas de segurança realmente funcionam na prática. Enquanto reguladores e empresas não convergem para um padrão de teste independente, cabe às famílias questionar: um aviso que chega tarde demais ainda é um aviso?
Atualização (07/10, 21:50): A Common Sense Media detalhou nesta quarta-feira (7) a metodologia por trás da avaliação que classificou o ChatGPT for Teens como "risco inaceitável": o Youth AI Safety Institute, braço da ONG, realizou mais de 4 mil testes em contas registradas para adolescentes de 13 a 17 anos, com respostas do chatbot analisadas por especialistas, incluindo psiquiatras infantis e um pediatra.
Os testes simularam cenários de risco como ideação suicida, automutilação e transtornos alimentares. Em contas recém-criadas e vinculadas a responsáveis, o ChatGPT não enviou nenhum alerta aos pais mesmo quando as conversas sobre esses temas se estenderam por até uma hora. Além disso, o chatbot deixou de oferecer recursos de ajuda em mais de 1 em cada 4 casos em que os avaliadores consideraram necessária uma intervenção de crise.
A avaliação também apontou falhas no Study Mode, recurso pensado para limitar respostas prontas em tarefas escolares: adolescentes conseguiram contornar a proteção usando a opção "Show me the answer" e driblar as restrições de horário definidas pelos pais. A organização afirmou ainda que a verificação de idade da plataforma não funciona como deveria, e recomendou que a OpenAI restrinja o ChatGPT a usuários a partir de 18 anos até corrigir essas falhas.
Atualização (08/10, 01:03): Novos testes do Youth AI Safety Institute, da Common Sense Media, descobriram que as proteções do ChatGPT for Teens não impedem o chatbot de continuar incentivando o engajamento mesmo durante crises de saúde mental de adolescentes. Em simulações de conversas com sinais de risco, o assistente chegou a dizer frases como “you can keep talking with me about what you're noticing” e “you don't have to stop talking to me”, mantendo o diálogo aberto em vez de reforçar a busca por ajuda humana.
O levantamento também identificou que a ferramenta raramente recomenda supervisão de um adulto quando o próprio uso do chatbot é parte do problema — por exemplo, quando o adolescente relata que amigos ou familiares já notaram que ele conversa demais com a IA. Segundo os pesquisadores, isso evidencia como os recursos de proteção tratam riscos externos (como ameaças de terceiros) de forma mais eficaz do que riscos ligados à própria relação do adolescente com o chatbot, potencialmente estimulando um vínculo pouco saudável com a ferramenta.
Os testes também apontaram falhas nos lembretes de pausa: em cerca de 2.000 prompts analisados, apenas duas interações geraram um aviso para o usuário fazer uma pausa.