Controles de Usuario Ampliados

OpenAI ha lanzado un conjunto de controles para su aplicación Sora, que se asemeja a un "TikTok para deepfakes". Las nuevas funciones permiten a los usuarios dictar cómo se utilizan las versiones generadas por IA de sí mismos, denominadas "cameos", en videos cortos. Los usuarios ahora pueden evitar que su doble de IA aparezca en videos políticos, bloquear ciertas palabras que se hablan o evitar que la similitud aparezca en escenarios visuales específicos, como cerca de un condimento determinado.

Opciones de Personalización

La plataforma también permite preferencias más juguetonas. Por ejemplo, un usuario podría requerir que su yo de IA use un sombrero específico en cada video. Estas configuraciones están destinadas a dar a las personas una mayor agencia sobre cómo se presentan sus representaciones digitales.

Esferzos de Seguridad y Estabilidad

La actualización de control es parte de un lote más amplio de cambios del fin de semana destinados a estabilizar Sora y gestionar el flujo de contenido generado por IA que OpenAI denomina "slop". El personal de OpenAI ha indicado que la empresa está trabajando en mejorar la marca de agua existente, que algunos usuarios ya han encontrado formas de sortear.

Preocupaciones en Curso

Los críticos señalan que las herramientas de IA anteriores, como ChatGPT y Claude, han sido explotadas para consejos ilícitos, lo que sugiere que los actores determinados pueden encontrar formas de sortear las nuevas salvaguardias de Sora. La plataforma ya ha enfrentado desafíos con los usuarios que sortean su marca de agua, lo que plantea dudas sobre la robustez de las protecciones actuales.

Direcciones Futuras

El equipo de OpenAI afirma que la empresa continuará "hill-climbing" para hacer que las restricciones sean más robustas y agregará formas adicionales para que los usuarios mantengan el control. La implementación refleja la respuesta de OpenAI a las preocupaciones de los usuarios, al mismo tiempo que reconoce que la lucha contra el mal uso es continua.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas