Proliferação de Mídia Gerada por IA

As redes sociais têm sido criticadas por apresentar conteúdo excessivamente polido e aspiracional. Recentemente, o problema se agravou com a chegada de ferramentas de inteligência artificial gerativa — mais notadamente a Sora da OpenAI, a Veo do Google e a plataforma de imagem-para-vídeo Midjourney — que permitem que os usuários produzam vídeos e imagens realistas a partir de prompts de texto simples. Essa capacidade levou a um influxo de posts de baixa qualidade gerados por IA, um fenômeno conhecido como "lixo de IA". O termo captura uma enxurrada de conteúdo que varia de vídeos de animais caprichosos a fotos de férias criadas por IA e personas de influenciadores completamente fabricadas.

Deepfakes e a Erosão da Confiança

Além do lixo de IA, a tecnologia de deepfakes tornou mais fácil criar vídeos convincentes de figuras públicas dizendo ou fazendo coisas que nunca ocorreram. A disseminação desse material fabricado desafia a capacidade dos usuários de discernir fato de ficção. De acordo com um estudo realizado pela firma de mídia Raptive, quando as pessoas suspeitam que um pedaço de conteúdo é gerado por IA, elas são menos propensas a confiar nele e sentem uma conexão emocional mais fraca. O estudo encontrou que quase metade dos respondentes viu o conteúdo criado por IA como menos confiável.

Perspectivas de Especialistas sobre Mudanças nas Plataformas

Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech, observa que as plataformas sociais parecem priorizar manter os usuários engajados com a tecnologia em si, em vez de fomentar conexões humanas genuínas. Ele nota que as empresas de tecnologia estão exibindo capacidades de IA para impulsionar o desempenho das ações, frequentemente às custas da experiência do usuário. Mantzarlis alerta que o conteúdo impulsionado por IA pode amplificar padrões de corpo irrealistas e distorcer ainda mais a realidade para os espectadores.

Resposta da Indústria e Lacunas Regulatórias

Em resposta a preocupações crescentes, as principais plataformas prometeram rotular o material gerado por IA e proibir posts prejudiciais, como aqueles que usam imagens de indivíduos privados de forma indevida. No entanto, o ritmo da regulação fica atrás dos avanços rápidos da IA, deixando as plataformas para policiar o conteúdo principalmente por conta própria. Paul Bannister, diretor de estratégia da Raptive, destaca que, embora as ferramentas de IA democratizem a criação expandindo o pool de potenciais criadores, o volume maciço de mídia gerada apresenta desafios significativos de moderação.

Caminhos Possíveis para o Futuro

Partes interessadas sugerem dar aos usuários mais controle sobre a quantidade de conteúdo de IA que eles encontram, citando os filtros de conteúdo de IA opcionais do Pinterest como um modelo possível. Med!idas como essas poderiam ajudar a restaurar um grau de autenticidade às feeds e mitigar a disseminação de desinformação. Até que quadros regulatórios mais claros surjam, o equilíbrio entre fomentar o uso criativo da IA e preservar a confiança nas mídias sociais permanece uma fronteira contestada.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas