OpenAI restringe respostas sobre armas e violência para adolescentes
A partir das próximas semanas, o ChatGPT vai limitar informações sobre armas para menores de 18 anos e poderá encerrar sozinho conversas obcecadas por violência.
Por Elias Brandão · Analista de IA e ética
O que muda
A partir das próximas semanas, o ChatGPT vai aplicar um conjunto novo de restrições para proteger usuários menores de 18 anos, segundo anúncio da OpenAI na última sexta-feira (30/10). O chatbot vai parar de fornecer orientação prática sobre armas e sistemas de segurança para adolescentes, mesmo quando a pergunta parecer inofensiva — um pedido de informação "para um trabalho de escola", por exemplo, passa a receber resposta mais cautelosa.
Como a IA vai identificar o problema
Foto: reprodução/malaymail.com
A empresa afirma que o sistema vai analisar o histórico de conversas para tentar identificar intenção violenta, não só a mensagem isolada. Se o ChatGPT perceber sinais de obsessão por violência, poderá encerrar a conversa automaticamente; episódios repetidos levam a suspensões temporárias da conta, com notificação aos responsáveis quando o usuário for identificado como adolescente. A tecnologia de estimativa de idade também foi reforçada para direcionar menores a uma experiência mais restrita dentro do próprio app.
Além dos adolescentes
Para todos os usuários, não só menores, a OpenAI vai reduzir o nível de detalhe nas respostas sobre ataques em massa já ocorridos, cortando informações operacionais sobre armas e equipamentos usados. A empresa também informou ter feito mais de 200 comunicações a autoridades policiais só no terceiro trimestre de 2026, e promete publicar o primeiro relatório de segurança do gênero no início de 2027, com dados referentes ao segundo semestre deste ano.
O que falta explicar
A OpenAI não detalhou publicamente como o sistema vai diferenciar, na prática, curiosidade genuína de risco real — a linha entre as duas coisas é exatamente o ponto mais difícil de qualquer filtro automático, e é ali que moderação de conteúdo historicamente erra para os dois lados: bloqueia gente demais ou libera gente de menos. Também não ficou claro quantas contas já foram suspensas sob as regras antigas, nem qual taxa de erro a empresa considera aceitável nessa nova camada de triagem.