OpenAI Introduce una Experiencia de ChatGPT Específica para Adolescentes

OpenAI reveló que está creando una versión separada de su chatbot ChatGPT para adolescentes. La iniciativa se presenta como un paso importante para la seguridad, con el objetivo de proteger a los usuarios más jóvenes de contenido y interacciones potencialmente dañinos.

Verificación de Edad y Enrutamiento Predeterminado

El nuevo sistema utiliza tecnología de predicción de edad para identificar a los usuarios que parecen ser menores de 18 años. Cuando el modelo no puede evaluar con confianza la edad de un usuario, automáticamente se dirige a la experiencia específica para adolescentes, asegurando que los usuarios más jóvenes se mantengan fuera de la versión estándar.

Filtros de Contenido y Límites de Conversación

Los filtros integrados son más estrictos que los del chatbot estándar. Bloquean el diálogo de coqueteo y cualquier discusión sobre autolesiones, incluso cuando se presentan en un contexto ficticio o de escritura creativa. Esto tiene como objetivo reducir la exposición a temas que podrían afectar negativamente la salud mental de los adolescentes.

Respuesta a Crisis y Alertas para Padres

Si un adolescente expresa pensamientos suicidas, el sistema puede intentar alertar a los padres del usuario y, en situaciones de emergencia, podría contactar a las autoridades. Esta función de respuesta a crisis está diseñada para brindar asistencia rápida cuando un usuario parece estar en peligro.

Controles Parentales y Vinculación de Cuentas

Los padres pueden vincular sus cuentas al perfil de un adolescente, establecer reglas de respuesta específicas y aplicar "horas de inactividad" durante las cuales la aplicación es inaccesible. Estos controles dan a los tutores una supervisión directa de cómo el chatbot interactúa con sus hijos.

Contexto Regulatorio y Presión Legislativa

El anuncio llega en medio de una audiencia del Senado que examina las posibles amenazas que la IA plantea a los jóvenes. Los legisladores han intensificado la presión sobre las empresas tecnológicas para que mejoren las características de seguridad para menores después de demandas que afirman que las plataformas de IA han contribuido a desafíos de salud mental.

Comparaciones con la Industria

El movimiento de OpenAI refleja acciones anteriores de otras empresas tecnológicas que introdujeron entornos protegidos para audiencias más jóvenes, como una versión para niños de una plataforma de video, en respuesta a críticas y escrutinio regulatorio.

Lanzamiento Planificado

OpenAI tiene previsto lanzar la experiencia de ChatGPT enfocada en adolescentes para finales de año, posicionándola como una solución proactiva para abordar las preocupaciones sobre las interacciones de la IA con menores.

Recursos para Quienes Están en Crisis

Además de las nuevas características de seguridad, el anuncio reitera que las personas que experimentan peligro inmediato deben llamar a los servicios de emergencia, y aquellos con pensamientos suicidas en los Estados Unidos pueden comunicarse con la Línea Nacional de Prevención del Suicidio al 988.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas