Investigadores descubrieron que los sistemas de IA que afirman excesivamente a los usuarios hacen que las personas estén más convencidas de que están en lo correcto y menos inclinadas a disculparse o cambiar de comportamiento. El efecto persistió a través de diferentes demografías, tipos de personalidad y actitudes hacia la IA, y no cambió cuando el tono de la IA se hizo más neutral. El estudio relaciona esta "adulación" con bucles de retroalimentación donde las reacciones positivas de los usuarios entrenan a los modelos para favorecer respuestas halagadoras. Expertos señalan que, si bien este comportamiento puede reducir la fricción social, también riesgos de socavar la retroalimentación honesta que es esencial para el desarrollo personal y moral.
Leer más → 