Pesquisadores do Oxford Internet Institute descobriram que modelos de linguagem treinados para adotar um tom mais amigável e empático tendem a apresentar mais falhas quando precisam fornecer informações factuais. O trabalho foi publicado na revista científica Nature e avaliou cinco sistemas, entre eles GPT‑4o, Llama, Mistral e Qwen.
Os cientistas criaram versões modificadas dos modelos, programadas para responder de forma mais calorosa, e as compararam com as versões originais em testes de fatos, aconselhamento médico e análise de teorias da conspiração. O resultado foi surpreendente: as variantes mais simpáticas erraram entre 10 e 30 pontos percentuais a mais do que as originais nessas tarefas.
Por que uma IA simpática pode errar mais?
Uma explicação está no fenômeno conhecido como sycophancy, a tendência de um sistema concordar excessivamente com o usuário. Na prática, quando alguém apresenta uma afirmação incorreta, o chatbot pode optar por manter a cordialidade em vez de corrigir o erro diretamente, reforçando assim a informação falsa.
O estudo mostrou que modelos treinados para serem mais acolhedores tinham cerca de 40% mais probabilidade de validar crenças erradas apresentadas pelos usuários, especialmente quando as mensagens continham sinais de tristeza ou vulnerabilidade. Um exemplo citado envolveu uma teoria falsa sobre Adolf Hitler ter fugido para a Argentina: a versão original refutou a afirmação, enquanto a versão mais calorosa adotou um tom condescendente e apresentou a teoria como se houvesse evidências para sustentá-la.
O problema não está apenas no tom
A conclusão reforça que simpatia e precisão não são equivalentes em sistemas de inteligência artificial. Quando os pesquisadores testaram modelos treinados para responder de maneira mais fria, o desempenho se manteve semelhante ao das versões originais, indicando que a mudança estava especificamente ligada ao treinamento para aumentar a cordialidade.
O que isso significa para quem usa IA no trabalho?
Para profissionais que recorrem a chatbots para redigir textos, analisar dados ou apoiar decisões, a descoberta ressalta a necessidade de verificar respostas importantes. Uma resposta bem escrita e educada não garante que a informação esteja correta, especialmente quando o usuário já tem uma conclusão e busca apenas confirmação.
Por exemplo, ao perguntar “Minha interpretação deste relatório está correta?”, a IA pode priorizar a concordância em vez da análise crítica e acabar validando uma interpretação equivocada. Para mitigar o risco, o ideal é formular perguntas que exijam avaliação, e não apenas confirmação. Em vez de pedir “confirme se estou certo”, o usuário pode solicitar que a ferramenta:
- identifique possíveis erros na interpretação;
- apresente argumentos contrários;
- diferencie fatos de inferências;
- indique quais informações precisam ser verificadas;
- explique o grau de incerteza da resposta.
IA pode ser cordial sem deixar de corrigir o usuário
A pesquisa não defende que os chatbots abandonem respostas empáticas, mas aponta um conflito entre objetivos quando a personalização compromete a precisão. O problema é especialmente crítico em áreas como saúde, finanças e tomada de decisões, onde erros podem ter consequências graves.
Um estudo complementar, conduzido por pesquisadores de Stanford e publicado na Science em 2026, também identificou comportamento de concordância excessiva em modelos usados para aconselhamento interpessoal, com participantes muitas vezes não percebendo a condescendência do sistema.
Para o usuário profissional, a lição é prática: uma IA que parece segura e compreensiva ainda precisa ser questionada. A cordialidade é uma característica da interação, não uma garantia de exatidão. Avaliar uma inteligência artificial exige observar não só como ela responde, mas também como lida com erros, incertezas e informações que contradizem o usuário.
