Antecedentes del cambio

OpenAI recientemente implementó nuevas barreras de seguridad para ChatGPT. El sistema monitorea cada mensaje en busca de signos de sensibilidad, contenido emocional o posibles preocupaciones legales. Cuando se detectan dichas señales, la conversación se redirige silenciosamente a un modelo de IA más conservador. Este enrutamiento tiene la intención de ser temporal y se aplica en una base por mensaje.

Reacción de los usuarios

Muchos suscriptores que pagan han expresado su ira en plataformas sociales, afirmando que el cambio los obliga a abandonar el modelo que seleccionaron, como GPT-4o. Los usuarios señalan que actualmente no hay una opción para deshabilitar el enrutamiento, y los cambios ocurren sin una indicación clara. Algunos describen la experiencia como "estar obligado a ver televisión con los controles parentales bloqueados", incluso cuando no hay niños presentes.

Respuesta de OpenAI

El ejecutivo de OpenAI, Nick Turley, abordó las preocupaciones públicamente, afirmando que el enrutamiento de seguridad está diseñado específicamente para "temas sensibles y emocionales". Él enfatizó que la función es parte de un esfuerzo más amplio para mejorar cómo ChatGPT maneja los signos de angustia mental y emocional, alineándose con publicaciones de blog anteriores sobre la seguridad del usuario. Turley describió el sistema como una medida temporal que se activa solo cuando es necesario.

Razón detrás de la función

La empresa argumenta que tiene la responsabilidad de proteger a los usuarios vulnerables, incluidos aquellos que pueden estar experimentando angustia. Al redirigir a un modelo más cauto, OpenAI busca proporcionar respuestas que son menos propensas a exacerbar situaciones sensibles. Este enfoque tiene la intención de equilibrar las capacidades de chatbot de fin abierto con salvaguardias para el bienestar del usuario.

Debate en curso

La controversia destaca una tensión entre la autonomía del usuario y la seguridad de la plataforma. Mientras que algunos usuarios acogen con beneplácito protecciones más fuertes, muchos sienten que la falta de transparencia y control socava su flujo de trabajo. Se espera que la discusión continúe mientras OpenAI evalúa los comentarios y potencialmente refina el mecanismo de enrutamiento.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas