Proliferação de Vídeo Gerado por IA

Geradores de vídeo de inteligência artificial se tornaram comuns, produzindo tudo, desde deepfakes de celebridades até clipes de novidade virais. O aplicativo Sora da OpenAI, disponível no iOS, adiciona uma nova dimensão, oferecendo uma feed estilo TikTok onde cada clipe é gerado por IA.

Recursos de Transparência Incorporados do Sora

Cada vídeo do Sora é automaticamente marcado com uma marca d'água de um logotipo de nuvem branca em movimento que salta pelas bordas do frame. Além disso, os vídeos incorporam metadados de proveniência de conteúdo da Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA). Quando executados pela ferramenta de verificação da Iniciativa de Autenticidade de Conteúdo, os metadados indicam que o vídeo foi "emitido pela OpenAI" e confirmam sua origem de IA.

Métodos de Detecção e Rotulagem

Além da marca d'água e dos metadados incorporados, as principais plataformas sociais, como Meta, TikTok e YouTube, estão implementando sistemas internos que sinalizam e rotulam conteúdo gerado por IA. No entanto, essas rotulagens não são infalíveis, e os criadores também podem adicionar suas próprias divulgações em legendas ou posts.

Preocupações da Indústria

Especialistas expressam preocupação com a facilidade com que deepfakes realistas podem ser produzidos, notando riscos potenciais para figuras públicas e a disseminação mais ampla de desinformação. Embora a OpenAI participe de esforços da indústria para melhorar a proveniência de conteúdo, o avanço rápido de ferramentas como o Sora destaca a necessidade de vigilância contínua entre os usuários e as plataformas.

Orientação Prática para Usuários

Para avaliar a autenticidade de um vídeo, os usuários devem procurar a marca d'água do Sora, examinar metadados incorporados com ferramentas de verificação e notar qualquer rotulagem de IA fornecida pela plataforma ou divulgações do criador. Manter-se cético em relação ao conteúdo que parece "errado" e verificar anomalias visuais são hábitos recomendados.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas