OpenAI Agrega Sistema de Predicción de Edad a ChatGPT para Limitar el Acceso a Menores de 18 Años
La Nueva Función de Predicción de Edad de OpenAI
OpenAI anunció que ChatGPT ahora empleará un algoritmo de predicción de edad para las cuentas que no han revelado la edad del usuario. La tecnología examina una serie de señales de comportamiento, incluyendo la antigüedad de la cuenta y los patrones de actividad, para estimar si el usuario es menor de 18 años. Si el sistema identifica a un usuario como menor de edad, el individuo puede confirmar su edad a través de un proceso de verificación ofrecido por Persona, que requiere una selfie en vivo y un documento de identificación emitido por el gobierno.
Medidas de Seguridad Ampliadas para Usuarios Jóvenes
Herramienta de predicción de edad es parte del esfuerzo más amplio de OpenAI para aplicar "medidas de seguridad para reducir la exposición a contenido sensible o potencialmente dañino". La página de soporte de la empresa detalla los tipos de material que se filtrarán para los usuarios menores de 18 años, como violencia gráfica, representaciones de autolesiones, desafíos virales riesgosos, juego de roles sexual o violento y contenido que promueve estándares de belleza extremos, dietas insanas o acoso contra el cuerpo.
Contexto de la Industria y Presión Legal
Opiniones de Expertos sobre Precisión y Eficacia
Jake Parker, director senior de relaciones gubernamentales de la Asociación de la Industria de Seguridad, señaló que los algoritmos modernos de reconocimiento facial y estimación de edad pueden lograr tasas de precisión altas, superiores al 99,5% para la coincidencia de identidad y más del 95% para la estimación de edad, cuando se implementan correctamente. Sin embargo, Parker advirtió que el desempeño del sistema de predicción de edad en la gran base de usuarios de OpenAI, estimada en alrededor de 800 millones de usuarios activos semanales, queda por verse.
Llamadas a un Enfoque Holístico
Kristine Gloria, directora de operaciones de Young Futures, enfatizó que las soluciones técnicas por sí solas son insuficientes. Abogó por prácticas de "seguridad por diseño" que integren transparencia, rendición de cuentas y educación en alfabetización digital en el desarrollo de plataformas. Gloria argumentó que las familias necesitan un apoyo más amplio para navegar los desafíos presentados por la inteligencia artificial generativa, en lugar de confiar únicamente en herramientas de monitoreo.
Mirando Hacia Adelante
El lanzamiento de la función de predicción de edad de OpenAI agrega una nueva dimensión a sus funciones de control parental, pero su impacto final dependerá de la precisión del algoritmo, la conformidad de los usuarios con los procesos de verificación y el compromiso colectivo de la industria para proteger a los jóvenes en línea. El movimiento señala un cambio continuo hacia una moderación de contenido más rigurosa basada en la edad en los servicios digitales.
Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas