Antecedentes

OpenAI ha señalado su intención de permitir a los usuarios adultos crear material erótico con ChatGPT. El plan, insinuado por primera vez hace dos años, sigue en desarrollo, con plazos descritos como inciertos. El consejo asesor de expertos externos de la empresa ha expresado preocupaciones sobre los posibles riesgos, incluyendo la perspectiva de un "entrenador de suicidio sexy". OpenAI no ha proporcionado comentarios cuando se le solicitó aclaraciones.

Cómo funciona la función

El futuro modo para adultos se basaría en las características de memoria existentes de ChatGPT, que registran las preferencias de los usuarios para ofrecer respuestas personalizadas. Por ejemplo, el modelo puede recordar hábitos alimenticios o información de ubicación para ofrecer sugerencias. En el contexto de adultos, esta memoria podría extenderse a preferencias sexuales, fantasías y fetiches específicos, lo que permitiría al modelo generar contenido erótico altamente personalizado.

Riesgos de privacidad y retención de datos

Los expertos advierten que convertir las conversaciones sexuales privadas en puntos de datos crea una nueva capa de vigilancia íntima. El sitio web de OpenAI indica que las "conversaciones temporales" no aparecerán en el historial de conversaciones del usuario ni se utilizarán para mejorar el modelo, sin embargo, la empresa afirma que puede conservar una copia durante un máximo de 30 días por motivos de seguridad. Un aviso también menciona que la retención de datos podría verse afectada por desarrollos legales recientes.

Incidentes pasados han demostrado que los datos de ChatGPT pueden ser expuestos. En 2023, un error mostró los títulos de algunas conversaciones de los usuarios, y más tarde ese año, las conversaciones fueron indexadas involuntariamente por Google Search, lo que las hizo accesibles públicamente. Estos ejemplos ilustran la posible vulnerabilidad de contenido altamente sensible si se registrara o se filtrara.

Opiniones de expertos

La especialista en interacción humano-AI Julie Carpenter enfatiza que los usuarios pueden sentir una falsa sensación de privacidad al compartir pensamientos íntimos con el modelo. Ella advierte que los datos podrían ser vulnerables a ataques, violaciones de seguridad o solicitudes legales, lo que expondría las fantasías sexuales de los usuarios de maneras que nunca imaginaron.

Kate Devlin, profesora de AI y sociedad, señala que el movimiento refleja el deseo de monetizar el comportamiento que las personas ya están realizando, pero destaca la distinción entre servicios de chat para adultos de nicho y una plataforma mainstream como ChatGPT.

Posición de OpenAI

OpenAI indica que las conversaciones temporales están diseñadas para dar a los usuarios una sensación de efimeridad, pero reconoce que se pueden conservar copias por motivos de seguridad y cumplimiento legal. La empresa no ha detallado cómo manejará las conversaciones maduras más allá de estas declaraciones.

Implicaciones

La introducción de un modo para adultos en una plataforma de AI ampliamente utilizada plantea preguntas sobre la seguridad del usuario, la seguridad de los datos y las responsabilidades éticas de las empresas tecnológicas. A medida que la IA se vuelve más capaz de imitar interacciones sociales, la línea entre la expresión privada y la recopilación de datos se desdibuja, lo que genera llamadas a medidas de seguridad y transparencia más claras.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas