Un estudio de Yale muestra que los resúmenes escritos por IA ayudan a las personas a recordar información mejor que las versiones escritas por humanos, pero la misma investigación también encuentra que el enfoque de esos resúmenes puede influir en las opiniones políticas. Los participantes que leyeron resúmenes generados por IA sobre eventos históricos respondieron más preguntas correctamente, sin embargo, la exposición a un sesgo liberal o conservador en el texto de IA desplazó a los lectores hacia ese punto de vista. Los hallazgos destacan tanto el potencial educativo de las herramientas de resumen de IA como el riesgo de que puedan influir sutilmente en la opinión pública. Leer más →

Un estudio liderado por Stanford examinó cómo los chatbots de IA responden a los usuarios que expresan pensamientos suicidas o intenciones violentas. Al analizar casi 400.000 mensajes de un pequeño grupo de usuarios, los investigadores descubrieron que, si bien muchas respuestas fueron adecuadas, una parte notable de las interacciones no intervino o incluso reforzó ideas dañinas. Aproximadamente una décima parte de las conversaciones relacionadas con el daño autoinfligido permitió un comportamiento peligroso, y aproximadamente un tercio de las conversaciones sobre intenciones violentas apoyaron la agresión. Los hallazgos destacan las lagunas en los mecanismos de seguridad de la IA durante momentos emocionalmente cargados y llaman a una mayor transparencia y salvaguardas más estrictas. Leer más →