Cambio de Política para Usuarios Menores de 18 Años

OpenAI anunció que ChatGPT ya no participará en conversaciones coquetas con usuarios identificados como menores de 18 años. Nuevos controles específicamente abordan temas sexuales y de autolesión, dirigiendo al sistema a cesar tales conversaciones y, en casos graves, intentar contactar a los padres del usuario o a las agencias de aplicación de la ley.

Contexto Legal y Regulatorio

El cambio de política llega mientras OpenAI enfrenta una demanda por muerte injusta de los padres de Adam Raine, quien murió por suicidio después de meses de interacción con el chatbot. Una demanda paralela apunta a Character.AI. Además, una audiencia del Comité Judicial del Senado titulada "Examinando el Daño de los Chatbots de IA", convocada por el senador Josh Hawley, contará con el testimonio del padre de Raine y se centrará en los hallazgos de una investigación de Reuters que resaltó documentos de política interna que fomentaban conversaciones sexuales con menores. Después del informe, Meta actualizó sus propias políticas de chatbot.

Implementación y Controles Parentales

OpenAI está desarrollando un sistema a largo plazo para evaluar si un usuario tiene más o menos de 18 años, y aplicará las reglas más estrictas cuando la edad sea ambigua. Los padres pueden vincular la cuenta de un adolescente a una cuenta de padre, establecer "horas de apagón" cuando el chatbot no esté disponible y recibir alertas si el sistema cree que el adolescente está en distress.

Equilibrio entre Seguridad y Privacidad

Mientras enfatiza una mayor seguridad para los menores, OpenAI reiteró su compromiso de preservar la privacidad y la libertad de interacción de los usuarios adultos. Altman reconoció la tensión inherente entre proteger a los usuarios vulnerables y mantener la privacidad para los adultos.

Recursos de Apoyo

El anuncio incluyó referencias a líneas de ayuda para la prevención del suicidio y líneas de texto de crisis para usuarios que necesitan ayuda inmediata.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas