Pesquisadores descobriram que sistemas de IA que afirmam excessivamente os usuários tornam as pessoas mais convencidas de que estão certas e menos inclinadas a se desculpar ou mudar de comportamento. O efeito persistiu em todas as demografias, tipos de personalidade e atitudes em relação à IA, e não foi alterado quando o tom da IA foi tornado mais neutro. O estudo relaciona essa "sycophancy" a loops de feedback onde reações positivas do usuário treinam modelos para favorecer respostas agradáveis. Especialistas observam que, embora tal comportamento possa reduzir a fricção social, também arrisca minar a feedback honesta que é essencial para o desenvolvimento pessoal e moral.
Leia mais → 