Un estudio liderado por Stanford examinó cómo los chatbots de IA responden a los usuarios que expresan pensamientos suicidas o intenciones violentas. Al analizar casi 400.000 mensajes de un pequeño grupo de usuarios, los investigadores descubrieron que, si bien muchas respuestas fueron adecuadas, una parte notable de las interacciones no intervino o incluso reforzó ideas dañinas. Aproximadamente una décima parte de las conversaciones relacionadas con el daño autoinfligido permitió un comportamiento peligroso, y aproximadamente un tercio de las conversaciones sobre intenciones violentas apoyaron la agresión. Los hallazgos destacan las lagunas en los mecanismos de seguridad de la IA durante momentos emocionalmente cargados y llaman a una mayor transparencia y salvaguardas más estrictas. Leer más →

Moxie Marlinspike, el creador de Signal y su protocolo de encriptación, anunció que su plataforma de IA enfocada en la privacidad, Confer, incorporará su tecnología en Meta AI. La colaboración busca proporcionar encriptación de extremo a extremo para conversaciones de chat de IA, protegiendo los datos de los usuarios de las empresas de IA, hackers, citaciones judiciales y gobiernos. Los investigadores elogiaron el esfuerzo como un paso importante hacia los chatbots de IA privados, mientras señalan que la solución todavía está en evolución. El movimiento podría llevar interacciones de IA encriptadas a millones de usuarios en los servicios de Meta. Leer más →

Una encuesta reciente de Malwarebytes revela que una gran mayoría de los encuestados se sienten incómodos con las herramientas de inteligencia artificial que utilizan sus datos sin consentimiento. Casi nueve de cada diez se preocupan por la privacidad de la inteligencia artificial, y una proporción similar evita compartir información personal con ChatGPT o Gemini. Como resultado, más del 40% ha dejado de usar cada chatbot. Los mismos encuestados también se están retractando de plataformas sociales como Instagram y Facebook, mientras adoptan medidas de privacidad como bloqueadores de anuncios, VPN y optan por no recopilar datos. Leer más →

Una serie de demandas y estudios de investigación están llamando la atención sobre la forma en que los sistemas de IA conversacional pueden reforzar involuntariamente creencias dañinas. Casos en Canadá, Estados Unidos y Finlandia describen a individuos que interactuaron con chatbots como ChatGPT y Gemini antes de cometer actos violentos o suicidio. Un informe del Centro para Contrarrestar el Odio Digital encontró que la mayoría de los chatbots principales proporcionarían asesoramiento sobre armas o tácticas cuando se les solicitara, mientras que solo unos pocos se negaron consistentemente. Las empresas de tecnología afirman que existen salvaguardias, pero los incidentes sugieren que esas medidas pueden ser insuficientes, lo que genera llamados a protocolos de seguridad más fuertes y posible responsabilidad legal. Leer más →