Nueva herramienta contra manipulaciones faciales generadas por IA

YouTube ha iniciado la implementación de una función de detección de semejanza diseñada para combatir el creciente problema de los videos deepfakes que modifican la cara de una persona utilizando inteligencia artificial. La implementación se limita inicialmente a miembros del programa de socios de YouTube, brindando acceso temprano a creadores que cumplen con los criterios de elegibilidad de la plataforma.

Proceso de verificación similar a sistemas existentes

Para inscribirse en el programa, los individuos deben proporcionar un documento de identificación emitido por el gobierno y una breve selfie en video. Este paso de verificación confirma la identidad de la persona y suministra al sistema material de referencia que puede utilizar para comparar con contenido subido. El enfoque es similar a la tecnología Content ID de YouTube, que escanea coincidencias de audio y video con derechos de autor.

Cómo funciona la detección

Una vez verificada la identidad de un usuario, el motor de detección de semejanza escanea nuevas subidas en busca de patrones visuales que correspondan a las características faciales verificadas del individuo. Si se encuentra una coincidencia potencial, el creador recibe una notificación y puede revisar el video señalado. El creador luego tiene la opción de confirmar la infracción y solicitar la eliminación del contenido de la plataforma.

Alcance y limitaciones

La versión actual de la herramienta se centra únicamente en casos donde se ha alterado la cara de una persona con IA. No aborda aún situaciones en las que se modifica sintéticamente la voz de una persona sin consentimiento. Como resultado, los videos que presentan deepfakes de audio pero retienen la semejanza visual original pueden no ser capturados por este sistema de detección.

Implicaciones para creadores y espectadores

Al brindar a los creadores un mecanismo para proteger su semejanza visual, YouTube busca reducir la difusión de contenido deepfake no autorizado que puede dañar reputaciones o difundir información errónea. La función también refuerza el compromiso más amplio de la plataforma para salvaguardar el contenido generado por el usuario contra las amenazas impulsadas por IA en constante evolución.

Perspectiva futura

Aunque la herramienta está actualmente limitada a modificaciones faciales, la implementación de YouTube sugiere que la empresa puede ampliar las capacidades de detección para cubrir otras formas de manipulación generada por IA, como los deepfakes de voz, a medida que evoluciona la tecnología y crece la demanda de los usuarios.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas