OpenAI introduce controles parentales para ChatGPT

OpenAI está agregando una serie de herramientas de control parental a su plataforma ChatGPT. Las nuevas funciones permiten a los padres vincular sus propias cuentas a las de los niños a partir de los 13 años, lo que les da la capacidad de restringir ciertas funcionalidades y monitorear el uso para detectar signos de angustia emocional. Cuando la IA detecta lenguaje que sugiere depresión, ansiedad u otras preocupaciones de salud mental, los padres reciben alertas en tiempo real.

Más allá de las alertas, el sistema puede limitar si el chatbot conserva el historial de conversación o utiliza su función de memoria, lo que proporciona un nivel adicional de control de privacidad para las familias. Las pautas de contenido adecuadas para la edad están habilitadas de forma predeterminada, lo que garantiza que las respuestas estén adaptadas a los usuarios más jóvenes.

OpenAI también anunció que las conversaciones marcadas como potencialmente sensibles, particularmente aquellas que involucran luchas de salud mental o ideación suicida, se enrutarán a través de una versión especializada del modelo. Esta versión emplea un método llamado alineación deliberada, que está diseñado para responder de manera más cauta, resistir las solicitudes adversas y adherirse estrictamente a las pautas de seguridad.

Orientación de expertos y supervisión médica

Para definir cómo se detecta la angustia y cómo debe responder la IA, OpenAI creó un Consejo de Expertos en Bienestar y IA y reunió una Red Global de Médicos. La red incluye a más de 250 profesionales médicos especializados en salud mental, uso de sustancias y cuidado de adolescentes. Estos asesores ayudan a definir los protocolos de escalada y garantizan que las intervenciones del modelo se alineen con las mejores prácticas clínicas.

La implementación está programada para comenzar dentro del próximo mes, con el panel de control de los controles parentales disponible para los usuarios que opten por participar. OpenAI enfatiza que las herramientas están destinadas a ser proactivas, con el objetivo de intervenir antes de que una conversación llegue a un punto de crisis en lugar de reaccionar después del hecho.

En general, las nuevas mejoras de seguridad representan un cambio hacia una mayor responsabilidad para las interacciones de IA que involucran a adolescentes. Al combinar la supervisión parental, el enrutamiento de modelos especializados y la entrada de expertos médicos, OpenAI busca hacer que ChatGPT sea un compañero más seguro para los usuarios más jóvenes mientras conserva la utilidad que ha hecho que el servicio sea popular en todos los grupos de edad.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas