OpenAI Lanza Predicción de Edad para ChatGPT

OpenAI es la última empresa en unirse a la creciente tendencia de restringir el acceso según la edad de los usuarios. La empresa está comenzando a implementar globalmente una herramienta de predicción de edad diseñada para determinar si un usuario de ChatGPT es menor de edad. Según el anuncio de la empresa, el modelo examina una combinación de señales de comportamiento y de nivel de cuenta, incluyendo el tiempo que lleva existiendo una cuenta, los momentos típicos del día en que alguien está activo, los patrones de uso con el tiempo y la edad declarada por el usuario.

Si el sistema categoriza incorrectamente a un individuo como menor de edad, el usuario deberá presentar una selfie para corregir el error a través de la plataforma de verificación de edad Persona. Este paso de verificación tiene como objetivo garantizar que la estimación de edad pueda ser cuestionada y validada, reduciendo el riesgo de restricción incorrecta.

Contexto y Prácticas de la Industria

La introducción de la herramienta llega en medio de una crítica más amplia a las empresas de inteligencia artificial por introducir nuevas características antes de implementar salvaguardias de seguridad comprehensivas. Los observadores señalan que muchas empresas tienden a agregar medidas de protección solo después de que una característica cause daño. En el caso de OpenAI, la empresa fue implicada en una demanda por muerte incorrecta relacionada con un adolescente que supuestamente usó ChatGPT para planificar un suicidio. Después de ese incidente, OpenAI comenzó a considerar restricciones de contenido automáticas para usuarios menores de edad y lanzó un consejo asesor de salud mental.

Planos Futuros y Riesgos Potenciales

OpenAI también está preparando el lanzamiento de un "modo para adultos" que permitiría a los usuarios crear y consumir contenido clasificado como no apto para el trabajo (NSFW). La introducción de dicho modo plantea preocupaciones de que los menores de edad puedan buscar formas de eludir el sistema de verificación de edad para acceder a material restringido. Desafíos similares han sido observados en plataformas como Roblox, donde los esfuerzos por proteger a los usuarios más jóvenes a veces han sido sorteados por adolescentes decididos.

Aunque la herramienta de predicción de edad representa un paso proactivo hacia la protección de los menores de edad, la efectividad del sistema dependerá de la precisión de sus señales y la robustez del proceso de verificación. Los críticos argumentan que cualquier solución técnica debe ir acompañada de una supervisión de políticas y educación continua para los usuarios para prevenir el mal uso.

Implicaciones para el Paisaje de la IA

La implementación señala un cambio en cómo los proveedores de IA abordan la seguridad del usuario, pasando de parches reactivos a medidas más anticipatorias. Al integrar la estimación de edad directamente en la experiencia del usuario, OpenAI espera equilibrar la apertura de su modelo conversacional con la responsabilidad de proteger a los usuarios vulnerables. La industria probablemente observará de cerca para ver si la herramienta reduce los incidentes que involucran a menores de edad y cómo puede ser aplicada de manera efectiva sin imponer una fricción indebida a los usuarios legítimos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas