Nueva Salvaguardia de Predicción de Edad de OpenAI

OpenAI anunció el despliegue de un modelo de predicción de edad para su servicio ChatGPT. El sistema analiza una combinación de información proporcionada por el usuario, edad de la cuenta, momento de actividad y patrones de uso para estimar si un usuario probablemente tiene menos de 18 años. Esta evaluación activa un conjunto de medidas de protección diseñadas para reducir la exposición de los menores a contenido potencialmente dañino.

Restricciones de Contenido para Menores Estimados

Cuando un usuario es identificado como menor, ChatGPT limita automáticamente el acceso a varias categorías de material. Estas incluyen violencia gráfica o imágenes gore, desafíos virales que podrían fomentar comportamientos riesgosos, roleos sexuales, románticos o violentos, representaciones de autolesiones y contenido que promueve estándares de belleza extremos, dietas insalubres o acoso por la apariencia física. El objetivo es crear un entorno de conversación más seguro para los usuarios más jóvenes, mientras aún permite que el chatbot funcione de manera efectiva.

Proceso de Verificación para Adultos

Los adultos que son clasificados incorrectamente como menores tienen la opción de restaurar el acceso sin restricciones. El método de verificación implica enviar una selfie para confirmar la edad, asegurando que los usuarios adultos legítimos puedan continuar utilizando la gama completa de funciones de ChatGPT sin barreras innecesarias.

Lanzamiento Global y Consideraciones Regionales

La función de predicción de edad se está introduciendo en todo el mundo. OpenAI señaló una excepción para la Unión Europea, donde el lanzamiento se retrasará para cumplir con las regulaciones regionales específicas. La empresa indicó que el lanzamiento en la UE ocurrirá en las próximas semanas.

Contexto y Motivación

Este desarrollo sigue un aumento en la escrutinio del impacto de los chatbots de IA en las audiencias más jóvenes, incluidas acciones legales y discusiones en entornos gubernamentales. Al incorporar salvaguardias basadas en la edad, OpenAI busca abordar las preocupaciones sobre los menores que se encuentran con contenido sensible o dañino durante las interacciones con la IA.

Mirando Hacia Adelante

El sistema de predicción de edad de OpenAI representa un paso proactivo hacia la implementación responsable de la IA. La empresa planea monitorear la efectividad de las salvaguardias y ajustar el modelo según sea necesario para equilibrar la seguridad con la experiencia del usuario en mercados diversos.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas