Nova Ferramenta Visa Manipulações Faciais Geradas por IA

YouTube começou a implantar uma ferramenta de detecção de semelhança projetada para combater o crescente problema de vídeos deepfakes que modificam o rosto de uma pessoa usando inteligência artificial. O lançamento está sendo limitado inicialmente a membros do Programa de Parceiros do YouTube, dando acesso antecipado a criadores que atendem aos critérios de elegibilidade da plataforma.

Processo de Verificação Espelha Sistemas Existente

Para se inscrever no programa, os indivíduos devem fornecer um documento de identificação emitido pelo governo e uma breve vídeo selfie. Esta etapa de verificação confirma a identidade da pessoa e fornece ao sistema material de referência que pode ser usado para comparar com o conteúdo carregado. A abordagem espelha a tecnologia de ID de Conteúdo do YouTube, que verifica áudio e vídeo protegidos por direitos autorais.

Como a Detecção Funciona

Uma vez que a identidade do usuário é verificada, o mecanismo de detecção de semelhança verifica as novas uploads em busca de padrões visuais que correspondam às características faciais do indivíduo verificado. Se um possível combinação for encontrada, o criador recebe uma notificação e pode revisar o vídeo sinalizado. O criador então tem a opção de confirmar a violação e solicitar a remoção do conteúdo da plataforma.

Escopo e Limitações

A versão atual da ferramenta se concentra apenas em casos em que o rosto de uma pessoa foi alterado com IA. Ela ainda não aborda situações em que a voz de uma pessoa é modificada sinteticamente sem consentimento. Como resultado, vídeos que apresentam áudio deepfake, mas mantêm a semelhança visual original, podem não ser capturados por este sistema de detecção.

Implicações para Criadores e Visualizadores

Ao fornecer aos criadores um mecanismo para proteger sua semelhança visual, o YouTube visa reduzir a disseminação de conteúdo deepfake não autorizado que pode danificar reputações ou disseminar desinformação. A funcionalidade também reforça o compromisso mais amplo da plataforma em proteger o conteúdo gerado pelo usuário contra ameaças impulsionadas por IA em evolução.

Perspectiva Futura

Embora a ferramenta seja atualmente limitada a modificações faciais, o lançamento do YouTube sugere que a empresa pode expandir as capacidades de detecção para cobrir outras formas de manipulação gerada por IA, como deepfakes de voz, à medida que a tecnologia evolui e a demanda do usuário cresce.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas