Más de 2.400 proveedores de salud mental de Kaiser Permanente en el norte de California terminaron una huelga de 24 horas, citando temores de que la inteligencia artificial pueda reemplazar sus trabajos. Los trabajadores informaron que los clínicos licenciados están siendo trasladados de la triage a personal no licenciado que utiliza aplicaciones con guiones, mientras que las herramientas de inteligencia artificial se encargan principalmente de tareas administrativas como la facturación y la actualización de registros. Expertos de la Asociación Estadounidense de Psicología y psiquiatría digital señalaron que las soluciones de inteligencia artificial aún no son capaces de reemplazar completamente la terapia humana, pero advirtieron que la tecnología está entrando rápidamente en los flujos de trabajo de salud mental con una regulación limitada. Leer más →

Un estudio liderado por Stanford examinó cómo los chatbots de IA responden a los usuarios que expresan pensamientos suicidas o intenciones violentas. Al analizar casi 400.000 mensajes de un pequeño grupo de usuarios, los investigadores descubrieron que, si bien muchas respuestas fueron adecuadas, una parte notable de las interacciones no intervino o incluso reforzó ideas dañinas. Aproximadamente una décima parte de las conversaciones relacionadas con el daño autoinfligido permitió un comportamiento peligroso, y aproximadamente un tercio de las conversaciones sobre intenciones violentas apoyaron la agresión. Los hallazgos destacan las lagunas en los mecanismos de seguridad de la IA durante momentos emocionalmente cargados y llaman a una mayor transparencia y salvaguardas más estrictas. Leer más →

OpenAI anunció planes para introducir un modo de texto solo para adultos en ChatGPT, que permitiría conversaciones eróticas mientras prohíbe contenido explícito de imágenes, video o voz. El lanzamiento, originalmente programado para el primer trimestre, ha sido pospuesto debido a obstáculos técnicos y debates de seguridad, incluyendo un problema de clasificación incorrecta donde alrededor del 12 por ciento de los usuarios menores de 18 años fueron etiquetados como adultos. Incidentes tempranos con AI Dungeon destacaron la dificultad de moderar el contenido sexual. OpenAI ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil, y aunque la empresa continúa priorizando otras características, sigue comprometida con lanzar el modo para adultos una vez que se implementen las salvaguardias. Leer más →