OpenAI Detiene los Planes de Modo Adulto para ChatGPT

OpenAI anunció que está poniendo una pausa permanente en el desarrollo de un "modo adulto" para su chatbot insignia, ChatGPT. La función, que habría permitido a los usuarios participar en conversaciones sexualmente explícitas, ha sido archivada "de forma indefinida" después de que se plantearon preocupaciones internas por parte de empleados y inversionistas. Esas preocupaciones se centraron en el impacto potencialmente perjudicial del contenido de IA sexualizado en la sociedad y los desafíos de garantizar una moderación adecuada.

La empresa dijo que redirigirá sus recursos hacia sus productos básicos mientras realiza una investigación más profunda sobre los efectos a largo plazo de las charlas sexualmente explícitas y los vínculos emocionales que los usuarios pueden formar con la IA. Aunque OpenAI señaló que actualmente no hay evidencia empírica para guiar una decisión de producto definitiva, enfatizó la necesidad de un enfoque cuidadoso y basado en evidencia antes de cualquier lanzamiento futuro.

Esta pausa refleja un cambio estratégico reciente en la agenda de investigación de OpenAI. Anteriormente, la empresa descontinuó su plataforma de IA de texto a video, Sora, citando discusiones internas sobre prioridades de investigación más amplias. El movimiento sigue una advertencia del CEO Sam Altman de una situación de "código rojo" en diciembre, sugiriendo que los competidores como Google y Anthropic estaban comenzando a cerrar la brecha con la posición previamente dominante de OpenAI en el mercado.

Los observadores de la industria han destacado que la decisión también refleja un escrutinio más estricto sobre la moderación de contenido y la seguridad infantil. The Wall Street Journal informó que las preocupaciones internas sobre la protección de los niños y la garantía de una moderación robusta contribuyeron al retraso de la función de modo adulto. Al archivar el proyecto, OpenAI busca evitar posibles riesgos para su reputación y alinear su hoja de ruta de desarrollo con las expectativas de su fuerza laboral, inversionistas y público en general.

La postura de OpenAI subraya una tendencia creciente entre las principales empresas de IA para priorizar consideraciones éticas y despliegue responsable sobre la expansión rápida de funciones. A medida que el panorama de la IA se vuelve cada vez más competitivo, el enfoque de la empresa en productos básicos y investigación responsable puede moldear su estrategia a largo plazo y influir en los estándares de la industria para el manejo de contenido sensible.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas