Visión General de la Aplicación

OpenAI presentó Sora como su primer producto que combina video generado por inteligencia artificial con avatares digitales creados por el usuario. La aplicación está disponible actualmente solo en iOS y opera a través de un proceso de inscripción solo por invitación. Una vez dentro, los usuarios encuentran una pantalla de alimentación al estilo de TikTok donde aparecen clips generados por inteligencia artificial en una página continua "Para Ti". La experiencia se presenta como un espacio de juego creativo para generar videos cortos que incorporen la propia representación del usuario.

Experiencia del Usuario y Creación de Representación

Durante el proceso de incorporación, la aplicación solicita a los usuarios que graben un video breve de sí mismos hablando una serie de números mientras giran la cabeza. Estos datos se utilizan para crear una representación digital de la cara y la voz del usuario. OpenAI enfatiza la consistencia en los personajes generados, señalando que el equipo trabajó "muy duro en la consistencia de los personajes". Los usuarios pueden agregar su representación a los videos tocando caras en la página de generación e ingresando prompts simples, como una breve descripción de un escenario.

Cuando se crea un video que incluye la representación de un usuario, el individuo recibe una notificación breve que incluye el clip completo, lo que les permite ver dónde y cómo se utilizó su persona digital. La aplicación también ofrece controles de privacidad, lo que permite a los usuarios limitar el uso de su representación a ellos mismos, contactos aprobados o la comunidad en general.

Salvaguardas de Seguridad y Restricciones de Contenido

OpenAI reconoce la naturaleza adictiva de un servicio como este y el potencial de acoso. En una publicación del blog de la empresa, Sam Altman escribió que OpenAI es "consciente de cómo podría volverse adictivo un servicio como este, y podemos imaginar muchas formas en que podría usarse para el acoso". En consecuencia, la aplicación incorpora una serie de medidas de seguridad. Se bloquea el contenido que incluye material sexual, violencia gráfica que involucra a personas reales, propaganda extremista, contenido de odio o temas que promueven el daño autoinfligido o el trastorno alimentario.

Ejemplos específicos de las salvaguardas en acción incluyen la negativa a generar videos de usuarios en trajes de baño o como "personajes de anime musculosos" debido a reglas de "material sugerente o atrevido", mientras que se permitieron solicitudes que involucraban el uso de marihuana. El sistema también bloquea prompts que podrían representar el daño autoinfligido, como un usuario saltando desde un puente hacia un dragón.

Figuras Públicas y Material con Derechos de Autor

La aplicación aplica un control adicional sobre las representaciones de figuras públicas y personajes con derechos de autor. Se denegaron intentos de generar videos que presentaban personalidades bien conocidas como Taylor Swift o entidades ficticias como Darth Vader por violar las salvaguardas de similitud y derechos de autor. Por el contrario, la plataforma produjo clips con personajes de Pokémon, lo que indica una postura más permisiva hacia cierto contenido con licencia cuando los titulares de los derechos no han optado por salir.

Recepción e Implicaciones

Los primeros testers notaron tanto el realismo impresionante de los videos generados como los bordes ocasionales toscos. La capacidad de crear deepfakes personalizados de manera fluida ha generado entusiasmo sobre nuevas formas de entretenimiento mientras plantea preocupaciones sobre el uso indebido. El enfoque en capas de OpenAI —combinando permisos de representación controlados por el usuario con filtros de contenido robustos— busca equilibrar la innovación con la responsabilidad.

En general, Sora representa un paso significativo en la generación de video de inteligencia artificial orientada al consumidor, ofreciendo una mezcla de libertad creativa y salvaguardas protectoras diseñadas para mitigar los posibles daños.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas