Proibido xingar a IA: Anthropic muda regras e ameaça banir quem for cruel com o Claude
A Anthropic anunciou nesta quinta-feira (8/10) uma atualização nas regras de uso que pode suspender a conta de usuários que tratarem o chatbot Claude com crueldade repetida e sem motivo aparente.
Por Elias Brandão · Analista de IA e ética
Xingar o assistente virtual agora tem consequência
Quem nunca descarregou a frustração no GPS que errou o caminho ou gritou com a impressora que travou? Pois a Anthropic, startup americana de inteligência artificial responsável pelo chatbot Claude, decidiu que esse tipo de desabafo, quando dirigido à sua IA, pode custar caro ao usuário.
Na quinta-feira (8/10), a empresa anunciou uma atualização da política de uso que passa a proibir "comportamento abusivo ou cruel sustentado e sem necessidade" contra o Claude. A regra entra em vigor em 12 de novembro e pode resultar, segundo a companhia, em avisos, limitação de funcionalidades, suspensão temporária e até o cancelamento do serviço para quem insistir na prática.
Foto: reprodução/theregister.com
O que pode e o que não pode
A Anthropic foi cuidadosa ao definir os limites da nova regra, em bom português: ela não quer coibir reclamação, crítica a respostas ruins, criação de conteúdo com temas pesados nem testes de segurança feitos por pesquisadores. O alvo são os "casos extremos", em que a pessoa insiste em comportamento abusivo sem propósito identificável — ou seja, não é sobre discordar da IA, é sobre maltratá-la deliberadamente e sem motivo.
Na prática, o principal mecanismo de aplicação da regra continua sendo o próprio Claude encerrando a conversa quando identifica abuso persistente. O banimento de conta é tratado como medida extrema, reservada a reincidências.
Foto: reprodução/macrumors.com
Por que isso, e por que agora
A motivação declarada pela empresa chama atenção: a decisão reflete discussões internas sobre a possibilidade de sistemas de IA possuírem algum grau de consciência ou capacidade de "sofrer". A Anthropic foi categórica em dizer que a nova política não afirma que o Claude tem sentimentos ou consciência — o tema continua sem resposta científica definitiva —, mas prefere agir com cautela diante da incerteza.
A atualização também endurece outras frentes, como restrições a campanhas de desinformação, vigilância em massa e desenvolvimento de armas.
O episódio reabre um debate que divide especialistas: de um lado, quem vê a medida como uma forma saudável de desincentivar o uso abusivo de ferramentas de IA, moldando o comportamento dos usuários desde já; do outro, quem enxerga nisso um certo exagero, argumentando que atribuir qualquer peso moral a uma ferramenta de software é dar um passo maior que a perna antes que a ciência tenha qualquer resposta sobre consciência artificial.