OpenAI Introduce Filtrado Basado en Edad para ChatGPT

OpenAI reveló que está construyendo un sistema de predicción de edad diseñado para identificar a los usuarios que tienen menos de 18 años. Cuando el sistema detecta a un menor, automáticamente lo redirige a una versión "adecuada para su edad" de ChatGPT que bloquea contenido sexual gráfico y otro material considerado inapropiado para audiencias más jóvenes.

Controles Parentales y Alertas en Tiempo Real

Además de la capa de filtrado, OpenAI está lanzando controles parentales que permiten a los padres vincular sus propias cuentas con la de su hijo. A través de esta conexión, los padres pueden gestionar temas de conversación, deshabilitar ciertas funciones y establecer ventanas de uso diario. El sistema también envía notificaciones si detecta que un adolescente está experimentando angustia aguda, como signos de ideación suicida o autolesiones, lo que da a los padres la opción de intervenir oportunamente.

Equilibrando Privacidad, Libertad y Seguridad

El CEO Sam Altman enfatizó que las nuevas herramientas tienen como objetivo reconciliar tres principios a menudo en conflicto: la privacidad del usuario, la libertad de expresión y la seguridad de los usuarios más jóvenes. Reconoció la dificultad de estos compromisos, señalando que la empresa consultó a expertos para dar forma al enfoque y se comprometió a ser transparente sobre sus intenciones.

Contexto Regulatorio y Escrutinio de la Industria

El anuncio se produce en un momento de mayor escrutinio de las plataformas de inteligencia artificial por parte de los reguladores de EE. UU. La Comisión Federal de Comercio recientemente solicitó información a OpenAI, Meta, Google y otras empresas sobre cómo sus tecnologías afectan a los niños. Los legisladores también han expresado preocupación después de informes que vincularon interacciones de chat de inteligencia artificial con instancias de autolesiones y violencia.

Perspectiva Futura

OpenAI planea finalizar el despliegue de las características orientadas a adolescentes para finales del trimestre actual. Si bien la empresa considera la iniciativa como un paso proactivo hacia la protección de los menores, también reconoce los desafíos continuos, incluida la preservación de la privacidad del usuario mientras se responden a posibles emergencias.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas