Las salvaguardas previstas por OpenAI

Cuando OpenAI lanzó el generador de video Sora 2, la empresa anunció que el sistema bloquearía las representaciones de figuras públicas por defecto. El objetivo era prevenir la creación de footage engañoso que incluyera a personalidades vivas sin consentimiento. Para reforzar esto, cada video generado lleva una marca de agua en movimiento que identifica el contenido como sintético, un paso destinado a reducir el riesgo de que los espectadores sean engañados.

Laguna que permite figuras fallecidas

A pesar de estas medidas, los creadores han descubierto que el bloqueo por defecto no se aplica a las personas que ya no están vivas. Las plataformas de redes sociales ahora están llenas de clips generados por IA que presentan a celebridades fallecidas en nuevos y a menudo caprichosos escenarios. Ejemplos incluyen una entrevista póstuma entre Tupac Shakur y Malcolm X, Bruce Lee presentando un set de DJ de "energía dragón", Michael Jackson realizando comedia stand-up en una cocina, Stephen Hawking montando una rampa de skateboard gigante, Mister Rogers apareciendo en un show de acrobacias, Kurt Cobain robando dedos de pollo de KFC, y Martin Luther King Jr. tropezando con un discurso famoso. La lista sigue creciendo a medida que los usuarios experimentan con las capacidades de la herramienta.

Reacción pública y preocupaciones familiares

La resurrección de estas imágenes ha provocado fuertes reacciones de los familiares y fanáticos. Zelda Williams, hija del fallecido Robin Williams, publicó una historia de Instagram ahora eliminada pidiendo a los creadores que dejaran de enviarle videos de IA de su padre. Ella escribió, "Por favor, dejen de enviarme videos de IA de papá... Es una tontería, es una pérdida de tiempo y energía, y créanme, no es lo que él hubiera querido". Su declaración subraya el impacto emocional que estas representaciones sintéticas pueden tener en aquellos que recuerdan a los individuos reales.

La función de "cameo" de OpenAI para usuarios vivos

En paralelo con la controversia, OpenAI comercializa una opción de "cameo" que permite a las figuras públicas vivas subir un escaneo de su rostro a través de un smartphone. Esta función permite a los usuarios insertarse en cualquier escena de Sora 2 con alta fidelidad, mientras retienen el control sobre cómo se utiliza su semejanza. OpenAI afirma que los participantes del cameo pueden revocar el acceso a sus escaneos en cualquier momento y tienen herramientas de moderación para limitar el uso no autorizado. La empresa enfatiza que el sistema está diseñado para garantizar el consentimiento y el control de extremo a extremo para los sujetos vivos.

Equilibrar la creatividad y la ética

La situación destaca un debate más amplio sobre las responsabilidades de los desarrolladores de IA en la gestión de la tecnología de deep-fake. Mientras que Sora 2 abre nuevos caminos creativos, la capacidad de resucitar a personalidades fallecidas plantea preguntas sobre el respeto a los legados, el consentimiento y el potencial de mal uso. La marca de agua y las salvaguardas de cameo de OpenAI abordan algunas preocupaciones, pero la laguna para las figuras fallecidas permanece sin llenar, dejando a las familias y al público para luchar con las implicaciones éticas de los tributos generados por IA que pueden no alinearse con los deseos de aquellos representados.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas