Fundo

OpenAI anunciou que suspendeu a capacidade de sua aplicação de geração de vídeos Sora de produzir vídeos que incluem a semelhança de Martin Luther King Jr. A suspensão veio após uma solicitação da King Inc., a empresa que supervisiona o legado do falecido líder dos direitos civis. Em uma postagem no X, OpenAI disse que trabalhou com a família para abordar como a semelhança de King é representada nas gerações de Sora após os usuários criarem vídeos considerados desrespeitosos.

Vídeos Controversos

Desde o lançamento de Sora, os usuários geraram vídeos que apresentam as semelhanças de figuras públicas falecidas, incluindo Michael Jackson, Robin Williams e Martin Luther King Jr. Alguns conteúdos geraram reações negativas. De acordo com um relatório do The Washington Post, um vídeo mostrou King fazendo barulhos de macaco enquanto fazia seu discurso "Eu Tenho um Sonho", e outro mostrou King lutando com Malcolm X. Ilyasah Shabazz, filha de Malcolm X, questionou por que os desenvolvedores de IA não estavam agindo "com a mesma moralidade, consciência e cuidado... que eles gostariam para suas próprias famílias".

Reações da Família

As famílias das figuras públicas expressaram frustração sobre os vídeos gerados por IA. Zelda Williams, filha do falecido Robin Williams, apelou no Instagram para que as pessoas parassem de enviar vídeos gerados por IA de seu pai, descrevendo a prática como "enlouquecedora". Bernice A. King, filha de Martin Luther King Jr., ecoou o sentimento no Threads, pedindo ao público que parasse de compartilhar vídeos de seu pai.

Resposta da OpenAI

OpenAI reconheceu os fortes interesses de livre expressão em retratar figuras históricas, mas afirmou que "figuras públicas e suas famílias devem ter controle sobre como sua semelhança é usada". A empresa indicou que a pausa é destinada a fortalecer guardrails para figuras históricas e que a capacidade de gerar esses vídeos pode ser restaurada após a implementação de salvaguardas adicionais. OpenAI também observou que os proprietários de outros legados históricos podem solicitar que suas semelhanças não sejam usadas em vídeos de Sora.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas