OpenAI anunció planes para introducir un modo de texto solo para adultos en ChatGPT, que permitiría conversaciones eróticas mientras prohíbe contenido explícito de imágenes, video o voz. El lanzamiento, originalmente programado para el primer trimestre, ha sido pospuesto debido a obstáculos técnicos y debates de seguridad, incluyendo un problema de clasificación incorrecta donde alrededor del 12 por ciento de los usuarios menores de 18 años fueron etiquetados como adultos. Incidentes tempranos con AI Dungeon destacaron la dificultad de moderar el contenido sexual. OpenAI ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil, y aunque la empresa continúa priorizando otras características, sigue comprometida con lanzar el modo para adultos una vez que se implementen las salvaguardias. Leer más →

Expertos en seguridad internos de OpenAI han expresado públicamente su oposición al lanzamiento de un nuevo "modo adulto" para ChatGPT, cuestionando la capacidad de la empresa para evitar que los menores accedan a contenido explícito. La disidencia sigue la partida de un ejecutivo senior de seguridad que se había opuesto a la función, y un segundo ex empleado que advirtió a los padres que no confíen en las garantías de OpenAI. Un error reciente que permitió a los menores ver contenido gráfico erótico aumenta las preocupaciones, lo que lleva a OpenAI a prometer un plan de monitoreo mientras los críticos siguen siendo escépticos sobre su efectividad. Leer más →

OpenAI anunció planes para lanzar un modo de solo texto para adultos en su chatbot ChatGPT, lo que permitirá a los usuarios participar en conversaciones con temas para adultos mientras bloquea el audio, imágenes o video eróticos. Esta medida sigue a un debate interno, con un consejo asesor que advirtió que los menores podrían evadir los controles de edad y que la función podría fomentar dependencias poco saludables. OpenAI dijo que está retrasando el lanzamiento para centrarse en mejorar la inteligencia, la personalización y la tecnología de predicción de edad, que ha clasificado incorrectamente a menores como adultos alrededor del 12% de las veces. Los controles parentales y las salvaguardas siguen siendo parte de la estrategia de seguridad más amplia de la empresa. Leer más →

Meta está desarrollando un detector de IA que se integrará en su interfaz de Meta AI. La función, detectada por primera vez por un sitio de pruebas, aparece como una opción de menú "Detección de IA" pero aún no es funcional, lo que lleva a un enlace roto. Aunque los detalles son limitados, la herramienta puede inicialmente marcar texto generado por IA y podría expandirse más adelante a imágenes, audio o video. No está claro si el detector reconocerá contenido de cualquier modelo generativo o solo de las herramientas de IA de Meta. El movimiento llega en un momento en que Meta se enfrenta a un aumento de material generado por IA en sus plataformas. Leer más →

OpenAI está preparando un "modo para adultos" para ChatGPT que permitirá a los usuarios participar en conversaciones subidas de tono mientras prohíbe la generación de imágenes, audio o video explícitos. La función, inicialmente programada para principios de 2026, ha sido retrasada ya que la empresa se enfoca en trabajos de mayor prioridad. Un consejo de ocho investigadores advirtió que la erotización generada por IA podría fomentar una dependencia emocional insana y ser accesible para usuarios menores de edad. OpenAI reconoció que su sistema de verificación de edad identificó incorrectamente a los usuarios menores de edad como adultos alrededor del 12 por ciento de las veces, pero dijo que su algoritmo de predicción cumple con los estándares de la industria. Leer más →