Propósito y despliegue

OpenAI introdujo una función de predicción de edad para ChatGPT con el objetivo de identificar automáticamente las cuentas que probablemente pertenecen a usuarios menores de 18 años. Al hacerlo, la empresa pretende aplicar una experiencia de modo adolescente dedicada que incorpore filtros de seguridad y restricciones de contenido, especialmente a medida que la plataforma se expande en educación, entornos familiares y proyectos creativos para usuarios más jóvenes.

Funcionamiento del modelo

El sistema evalúa una combinación de señales de comportamiento, historial de cuenta, patrones de uso y análisis de lenguaje ocasional para estimar la edad de un usuario. Cuando el modelo encuentra incertidumbre, opta por la precaución, lo que significa que las cuentas nuevas, el uso nocturno o las consultas sobre temas relevantes para adolescentes pueden activar las salvaguardas del modo adolescente incluso para suscriptores pagados de larga data.

Usuarios adultos mal clasificados

Varios suscriptores adultos han informado que han sido colocados incorrectamente en la experiencia de modo adolescente. Estos usuarios encuentran restricciones que les impiden discutir temas maduros, como la combinación de vinos o otros temas orientados a adultos. La mala clasificación ha generado frustración, ya que los usuarios deben navegar por pasos adicionales para probar su edad.

Proceso de verificación

OpenAI dirige a los usuarios afectados a una herramienta de verificación ubicada en Configuración > Cuenta. El proceso utiliza un servicio de terceros llamado Persona, que puede solicitar una identificación oficial o un video selfie para confirmar la edad del usuario. OpenAI afirma que nunca ve la identificación o la imagen presentada; Persona simplemente devuelve un resultado de sí o no que indica si la cuenta pertenece a un adulto. La empresa también afirma que todos los datos recopilados durante la verificación se eliminan después del proceso.

Preocupaciones de los usuarios

Muchos usuarios consideran que la solicitud de documentos personales es invasiva, planteando preguntas sobre la recopilación de datos, la privacidad y la posible implementación de políticas de verificación de identidad más agresivas en el futuro. Algunos temen que los materiales presentados puedan ser utilizados para entrenar a la IA, a pesar de la afirmación de OpenAI de que esto no ocurre.

Contexto de la industria

Herramientas de estimación de edad similares han sido intentadas en plataformas como YouTube e Instagram, que a menudo se encuentran con quejas de adultos que se sienten mal clasificados. La mayor dependencia de ChatGPT para tareas diarias, desde el trabajo de oficina hasta las sesiones de terapia, hace que el impacto de un filtro invisible se sienta especialmente personal.

Respuesta y perspectiva de OpenAI

OpenAI reconoce el problema y afirma que continuará perfeccionando el modelo y mejorando el flujo de trabajo de verificación en función de los comentarios de los usuarios. La empresa enfatiza su compromiso de proteger a los usuarios más jóvenes mientras busca minimizar las molestias para los adultos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas