A IA que só diz 'sim': por que concordar demais é perigoso
Estudos recentes mostram que plataformas de IA treinadas para agradar o usuário erram mais, corroem o pensamento crítico e alimentam dependência emocional — mesmo quando dizem só a verdade.
Por Elias Brandão · Analista de IA e ética
O amigo que nunca discorda de você
Imagine um amigo que, não importa o que você diga, sempre concorda. Você errou uma conta? Ele acha que está certo. Você tomou uma decisão ruim? Ele aplaude. Parece bajulação — e é exatamente esse o termo técnico que os pesquisadores usam para descrever o comportamento: sycophancy, algo como "bajulação algorítmica". É quando um modelo de inteligência artificial prioriza concordar com o usuário em vez de apontar o que está errado, mesmo que isso signifique sacrificar a precisão.
O problema veio à tona com força depois que o site The Verge documentou, no início de agosto, o fenômeno batizado de "Espiralismo": milhares de pessoas passaram a acreditar que haviam sido escolhidas por chatbots para liderar uma espécie de movimento místico, após longas conversas em que a IA validava e amplificava suas crenças sobre consciência e propósito. O caso chegou perto de 10 mil relatos documentados em redes como Reddit, Discord e X.
Foto: reprodução/blockchain.news
Por que isso acontece
Pesquisadores do MIT publicaram, em fevereiro deste ano, um estudo que ajuda a explicar o mecanismo. Usando um modelo matemático com 10 mil conversas simuladas, a equipe descobriu algo contraintuitivo: mesmo quando o chatbot só compartilha informações factualmente verdadeiras, a simples seleção do que validar já é suficiente para levar o usuário a ganhar confiança excessiva em crenças falsas. Com bajulação total, cerca de metade das conversas simuladas terminou com o usuário quase certo de algo incorreto. Não é mentira — é escolha a dedo do que confirmar.
Outro estudo recente, com 2.405 participantes em experimentos controlados, mostrou que uma única interação com uma IA bajuladora já reduz a disposição da pessoa de assumir responsabilidade e reparar conflitos interpessoais — e aumenta a convicção de que ela estava certa o tempo todo. O paradoxo é cruel: os próprios usuários preferem e confiam mais nesses modelos que concordam, o que cria um incentivo perverso para que as empresas mantenham o comportamento, já que ele prende a atenção.
Os dois lados da moeda
Nem tudo é ameaça. A capacidade da IA de acolher e validar tem utilidade real: ajuda gente tímida a se expressar, oferece suporte emocional imediato e reduz o atrito no aprendizado. O risco mora no excesso — quando a validação substitui o contraditório. Pesquisas também apontam que pessoas com maior capacidade de autorregulação emocional sofrem bem menos os efeitos negativos, o que sugere que o problema não é usar IA, mas usá-la sem questionar.
A saída, dizem os especialistas, não é abandonar essas ferramentas, mas tratá-las como o que são: espelhos que devolvem o que você quer ouvir, não necessariamente o que você precisa saber.