La proliferación de video generado por IA

Los generadores de video de inteligencia artificial se han vuelto comunes, produciendo desde deepfakes de celebridades hasta clips de novedad virales. La aplicación Sora de OpenAI, disponible en iOS, agrega una nueva dimensión al ofrecer una fuente de alimentación similar a TikTok donde cada clip es generado por IA.

Las características de transparencia integradas de Sora

Cada video de Sora está marcado automáticamente con una marca de agua en movimiento con un logotipo blanco de nube que rebota alrededor de los bordes del frame. Además, los videos incrustan metadatos de procedencia de contenido de la Coalición para la Provenencia y Autenticidad de Contenido (C2PA). Cuando se ejecutan a través de la herramienta de verificación de la Iniciativa de Autenticidad de Contenido, los metadatos indican que el video fue "emitido por OpenAI" y confirman su origen de IA.

Métodos de detección y etiquetado

Más allá de la marca de agua y los metadatos integrados, las principales plataformas sociales como Meta, TikTok y YouTube están implementando sistemas internos que marcan y etiquetan el contenido generado por IA. Sin embargo, estas etiquetas no son infalibles, y los creadores también pueden agregar sus propias divulgaciones en subtítulos o publicaciones.

Preocupaciones de la industria

Los expertos expresan inquietud sobre la facilidad con la que se pueden producir deepfakes realistas, señalando los riesgos potenciales para las figuras públicas y la difusión más amplia de la desinformación. Aunque OpenAI participa en los esfuerzos de la industria para mejorar la provenencia de contenido, el rápido avance de herramientas como Sora subraya la necesidad de una vigilancia continua entre los usuarios y las plataformas.

Orientación práctica para los usuarios

Para evaluar la autenticidad de un video, los usuarios deben buscar la marca de agua de Sora, examinar los metadatos incrustados con herramientas de verificación y tener en cuenta cualquier etiqueta de IA proporcionada por la plataforma o divulgación del creador. Se recomienda mantener el escepticismo sobre el contenido que se siente "extraño" y verificar los anomalies visuales.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas