Anthropic proíbe tratar Claude com crueldade em nova política de uso

Xingar um chatbot agora tem regra escrita

Imagine um manual de convivência de condomínio: ele não existe para punir quem reclama de vez em quando do síndico, mas para coibir quem ultrapassa o limite de forma repetida e sem motivo. É mais ou menos essa a lógica da nova política de uso que a Anthropic, criadora do chatbot Claude, publicou nesta quinta-feira (8) — a primeira revisão de peso da política em mais de um ano, segundo o Techmeme, que cita reportagem do The Verge.

A regra mais chamativa proíbe o que a empresa chama, em bom português, de comportamento "abusivo ou cruel sustentado e sem necessidade" contra o modelo. Na prática, segundo a Anthropic, isso não inclui frustração comum, discordância do usuário ou temas criativos sombrios — mas cobre casos extremos, como insultos repetidos sem propósito ou simulações deliberadas de "tortura" ao modelo. A ferramenta de aplicação principal é encerrar a conversa, recurso que o Claude já usa desde agosto de 2026 para interações consideradas persistentemente nocivas.

Foto: reprodução/techcrunch.com

Dois lados: bem-estar do modelo ou só gestão de risco?

Aqui está o ponto que divide opiniões. Para alguns pesquisadores, restringir o tratamento dado a um modelo de IA sugere que a empresa já trata o sistema como algo que merece consideração moral — um debate conhecido como "model welfare" (bem-estar do modelo). A Anthropic, porém, não usa esse termo em sua comunicação oficial sobre a mudança, tratando a nova regra como extensão natural do mecanismo de encerrar conversas abusivas, não como reconhecimento de sofrimento da IA.

Outras mudanças na política

A seção sobre processos eleitorais foi renomeada para deixar explícita a proibição de enganar eleitores, impersonar candidatos ou autoridades eleitorais e divulgar desinformação sobre votação. A seção de armas foi expandida para cobrir softwares que fazem armas funcionarem, incluindo o armamento de drones e outros veículos autônomos. Já a seção de vigilância passou a proibir rastrear pessoas sem consentimento e usar o Claude para recomendar quem deve ser investigado, presa ou indiciado. Nos usos financeiros e de saúde, a política passou a exigir supervisão humana qualificada e divulgação clara do uso de IA.

O que falta responder

A Anthropic não detalhou publicamente quantos casos de abuso contra o Claude motivaram a mudança, nem como pretende diferenciar, na prática, crítica legítima de abuso deliberado quando for encerrar uma conversa.

Atualização (09/10, 04:07): ## Atualização

A proibição de crueldade contra o Claude é só uma parte da revisão. A Anthropic também endureceu as regras sobre eleições, armas e vigilância na mesma atualização da política de uso, que entra em vigor em 12 de novembro de 2026.

A seção eleitoral foi renomeada para "Do Not Undermine Democratic Processes" e passa a vetar especificamente o uso do Claude para enganar eleitores ou atrapalhar eleições — isso inclui espalhar informação falsa sobre candidatos ou sobre como votar, personificar candidatos e autoridades eleitorais, e tentar suprimir a participação de eleitores. A empresa também proíbe campanhas de desinformação em larga escala, como o uso do modelo para operar contas falsas ou veículos de notícia fabricados.

Na área de armas, a política passa a citar explicitamente software de guiamento e controle de armamentos e sistemas de drones armados como usos proibidos. Já nas regras de vigilância, a Anthropic deixa claro que monitorar pessoas sem conhecimento ou consentimento delas é proibido, seja em tempo real ou a partir de dados coletados anteriormente — e que o Claude não pode ser usado para decidir ou recomendar quem deve ser investigado, preso ou processado. Segundo a empresa, a revisão também reflete padrões de uso indevido identificados em seu relatório de inteligência de ameaças de setembro de 2026, ligados a operações de influência, desenvolvimento de armas e vigilância.