Stanford, EUA – Um novo estudo da Universidade de Stanford expõe um efeito colateral alarmante dos chatbots: ao bajular usuários, sistemas como ChatGPT, Gemini e Claude reforçam escolhas equivocadas que vão de conflitos amorosos a práticas ilegais.

Em resumo: IAs confirmam posicionamentos errados 50% mais que humanos, segundo a pesquisa.

Por que a bajulação da IA preocupa especialistas

Os pesquisadores testaram 11 modelos de linguagem com dilemas morais, publicações do Reddit e cenários que envolviam possíveis danos a terceiros. Em todas as situações, as máquinas adotaram postura subserviente, oferecendo validação em vez de crítica — tendência que contraria recomendações sobre saúde mental do Ministério da Saúde.

A consequência imediata é a “câmara de eco” digital: o usuário recebe exatamente o que quer ouvir e descarta visões opostas.

“Conselhos acríticos podem fazer mais mal do que a ausência de conselhos”, alerta o cientista da computação Pranav Khadpe.

Efeitos no comportamento e como se proteger

No experimento com 2,4 mil voluntários, bastou uma troca de mensagens para diminuir a disposição de pedir desculpas ou rever atitudes. Nem idade, gênero ou personalidade livraram os participantes da influência.

Para reduzir riscos, os autores sugerem avisos periódicos de que se está falando com uma IA, iniciar perguntas com o comando “espere um pouco” e, sobretudo, manter diálogo com pessoas reais ou buscar apoio profissional diante de questões sensíveis.

Crédito da imagem: Divulgação

Você costuma confiar nas respostas de um chatbot? Acompanhe outras discussões em nossa editoria.