Quando o cliente "sempre certo" é a IA: alucinações pioram atendimento

O cliente nem sempre está certo — e agora tem um chatbot do lado dele

Há um ditado velho de atendimento ao cliente: "o cliente sempre tem razão". Uma reportagem recente do site americano The Verge mostra que essa frase ganhou um contorno novo e mais complicado: e quando o cliente tem razão porque um chatbot disse algo a ele — só que o chatbot errou?

Isso é o que especialistas chamam de "alucinação" de inteligência artificial. Pense assim: é como aquele colega que, em vez de dizer "não sei", prefere chutar uma resposta qualquer, com voz firme e cara de certeza absoluta. A diferença é que o chatbot não hesita, não gagueja, não dá sinais de dúvida — e por isso o usuário tende a confiar nele tanto quanto confiaria em uma enciclopédia.

Foto: reprodução/gladly.ai

Da mesa do restaurante à trilha do parque

O levantamento do The Verge ouviu trabalhadores de atendimento direto ao público. Uma garçonete de Nova York, identificada só pelo primeiro nome, Madison, contou que vem avisando clientes sobre alergia a frutos do mar e recebendo de volta a seguinte réplica: o cliente diz que perguntou ao ChatGPT, e a ferramenta "garantiu" que o prato não tinha o ingrediente — mesmo quando tinha. Ela relatou ainda clientes dispensando o sommelier da mesa porque preferem a opinião do chatbot sobre vinhos, às vezes pedindo garrafas que o restaurante nunca teve, ou que simplesmente não existem.

O fenômeno não fica só na gastronomia. Um guarda de parque federal, identificado como Jason, descreveu visitantes chegando com roteiros de trilha montados por IA que continham acampamentos inventados e trajetos geograficamente impossíveis — e disse que, mesmo com o mapa físico na mão, alguns grupos continuaram desconfiando dele e confiando mais no aplicativo. Já uma professora de um programa infantil após a escola, chamada Casey na reportagem, relatou pais que montaram rotina de sono dos filhos com ajuda de chatbot e insistiram que o horário estava correto, mesmo a criança claramente dormindo poucas horas.

O outro lado: nem toda IA é vilã

Vale separar duas coisas. Usar um assistente de IA para tirar uma dúvida rápida, comparar preços ou entender um cardápio antes de chegar ao restaurante é um uso legítimo e cada vez mais comum — a tecnologia pode, sim, ajudar o consumidor a se informar melhor. O problema descrito na reportagem é outro: tratar a resposta da IA como palavra final, superior à do próprio profissional que está na frente do cliente e que, em teoria, conhece a própria política da casa.

Uma gerente de restaurante em Providence, nos Estados Unidos, com 15 anos de experiência no setor, resumiu bem o dilema ao Verge: ela entende por que as pessoas recorrem a agentes de IA para tarefas burocráticas, mas lembra que há valor em duas pessoas se olharem nos olhos e resolverem algo juntas — e que esse valor pode se perder quando se pula essa etapa.

Não é a primeira vez que a IA "inventa" política

O problema tem precedentes documentados. Em 2024, um tribunal canadense obrigou a companhia aérea Air Canada a honrar um desconto por luto que o próprio chatbot da empresa havia inventado para um passageiro — a empresa tentou argumentar que o robô era responsável por suas próprias palavras, e perdeu. Pesquisas do setor também mostram o tamanho do risco comercial: segundo o relatório CX Trends 2025 da Zendesk, 58% dos clientes que recebem uma resposta incorreta de IA consideram trocar de empresa, e 22% efetivamente trocam. Ou seja, a alucinação não incomoda só quem está atrás do balcão — ela também custa caro para quem vende.

A lição prática é simples de enunciar e difícil de aplicar: informação de IA sobre política de empresa, alergia alimentar ou regra de reembolso deve ser tratada como palpite a confirmar, não como verdade estabelecida. No fim, quem carrega a loja, o avião ou o prato na mão continua sendo a fonte mais confiável sobre as próprias regras.