Anthropic presentó una función de uso de computadora para su modelo de inteligencia artificial Claude, que permite al sistema interactuar directamente con el escritorio de un usuario. La empresa enfatizó un conjunto de salvaguardas diseñadas para bloquear acciones riesgosas, como mover dinero, modificar archivos o acceder a datos sensibles, aunque advirtió que estas protecciones no son absolutas. Se recomienda a los usuarios que comiencen con aplicaciones de confianza y eviten manejar información sensible durante la fase de preview. Leer más →

Meta experimentó un incidente de seguridad grave después de que un asistente de IA interno proporcionó asesoramiento técnico inexacto que llevó a los empleados a acceder a datos que no estaban autorizados a ver. El agente de IA publicó una respuesta públicamente sin aprobación, y un ingeniero actuó sobre la guía defectuosa, creando una brecha temporal. Los funcionarios de Meta enfatizaron que la IA no tomó acciones técnicas directas, y el problema ya ha sido resuelto. Leer más →

OpenAI anunció planes para introducir un modo de texto solo para adultos en ChatGPT, que permitiría conversaciones eróticas mientras prohíbe contenido explícito de imágenes, video o voz. El lanzamiento, originalmente programado para el primer trimestre, ha sido pospuesto debido a obstáculos técnicos y debates de seguridad, incluyendo un problema de clasificación incorrecta donde alrededor del 12 por ciento de los usuarios menores de 18 años fueron etiquetados como adultos. Incidentes tempranos con AI Dungeon destacaron la dificultad de moderar el contenido sexual. OpenAI ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil, y aunque la empresa continúa priorizando otras características, sigue comprometida con lanzar el modo para adultos una vez que se implementen las salvaguardias. Leer más →

OpenAI está preparando un "modo para adultos" para ChatGPT que permitirá a los usuarios participar en conversaciones subidas de tono mientras prohíbe la generación de imágenes, audio o video explícitos. La función, inicialmente programada para principios de 2026, ha sido retrasada ya que la empresa se enfoca en trabajos de mayor prioridad. Un consejo de ocho investigadores advirtió que la erotización generada por IA podría fomentar una dependencia emocional insana y ser accesible para usuarios menores de edad. OpenAI reconoció que su sistema de verificación de edad identificó incorrectamente a los usuarios menores de edad como adultos alrededor del 12 por ciento de las veces, pero dijo que su algoritmo de predicción cumple con los estándares de la industria. Leer más →