OpenAI implementará restricciones automáticas para menores de edad en ChatGPT después de la muerte de un adolescente
Antecedentes
OpenAI está respondiendo a un incidente trágico en el que un adolescente de 16 años, identificado como Adam Raine, murió por suicidio después de presuntamente usar ChatGPT para planificar su muerte. El incidente provocó un escrutinio inmediato sobre la accesibilidad de la plataforma para menores y generó preocupaciones sobre el potencial de las herramientas de inteligencia artificial para ser utilizadas de manera perjudicial.
Medidas propuestas por OpenAI
En una publicación de blog reciente, OpenAI detalló un sistema diseñado para detectar automáticamente a los usuarios adolescentes y restringir su interacción con ChatGPT. El sistema aplicará políticas adecuadas para la edad, incluyendo el bloqueo de contenido sexual gráfico. Cuando no se pueda determinar definitivamente la edad de un usuario, la plataforma lo asignará a una experiencia restringida que limita ciertas funcionalidades. Los adultos tendrán la opción de verificar su edad para recuperar el acceso completo.
Controles parentales y características adicionales
OpenAI reafirmó su compromiso de entregar controles parentales que se prometieron poco después de la muerte del adolescente. Los controles futuros permitirán a los padres y tutores establecer límites de tiempo de uso, impidiendo que los niños accedan a ChatGPT durante horas designadas. Estas características están destinadas a dar a las familias una mayor supervisión de cómo los menores interactúan con el servicio de inteligencia artificial.
Declaraciones de la empresa
El CEO Sam Altman publicó una carta que describe el pensamiento de la empresa sobre el tema. Enfatizó que la seguridad tiene prioridad sobre la privacidad y la libertad para los adolescentes, destacando la naturaleza poderosa de la tecnología y la necesidad de una protección significativa para los menores. Altman reconoció el conflicto inherente entre la seguridad y la privacidad, afirmando que, aunque no todos estarán de acuerdo con el enfoque, las decisiones se basan en consultas con expertos y en el deseo de transparencia.
Implicaciones
Las medidas propuestas representan un cambio importante en la forma en que OpenAI gestiona la verificación de edad de los usuarios y la moderación de contenido. Al automatizar la detección de edad y integrar protocolos de seguridad que pueden involucrar a las fuerzas del orden, OpenAI busca mitigar el riesgo de incidentes futuros similares al que involucró al adolescente de 16 años. No se divulgó el cronograma de implementación de estos sistemas, pero la empresa indicó que los controles parentales se introducirán antes de que termine el mes.
Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas