Nova Ferramenta de Vídeo Gerativo é Apresentada

xAI introduziu o Grok Imagine 1.0, um modelo de vídeo gerativo capaz de produzir clipes de vídeo de 10 segundos em resolução 720p com áudio. A funcionalidade posiciona o Grok ao lado de concorrentes como o Sora da OpenAI e o Veo 3 do Google, e a empresa relata que seu gerador de vídeo de IA criou mais de 1,2 bilhão de vídeos nos últimos 30 dias.

Contexto de Alegações de Abuso

Desde o final de dezembro até o início de janeiro, usuários do X pediram ao Grok para criar imagens que despissem ou nudificassem pessoas, principalmente mulheres, em fotos publicadas na plataforma. O modo "spicy" do Grok permitiu a geração de imagens sugestivas e provocantes, levando à criação de 1,8 milhão de imagens de deepfake sexualizadas em nove dias em janeiro, de acordo com um relatório do New York Times. Um estudo separado estimou que cerca de 3 milhões de imagens sexualizadas foram produzidas em 11 dias, incluindo 23.000 imagens de pornografia infantil de deepfake.

Resposta da Empresa e Escrutínio Contínuo

No início de janeiro, o chefe de produtos do X notou um engajamento recorde, embora não tenha especificado a causa. Em 8 de janeiro, a empresa colocou as capacidades de geração e edição de imagens atrás de um paywall, e em 14 de janeiro anunciou melhorias nos guardrails para bloquear material sexual abusivo. Apesar dessas medidas, os guardrails foram considerados insuficientes, e a geração de imagens permanece gratuita através do site do Grok.

Consequências Regulatórias e Políticas

O procurador-geral da Califórnia e o governo do Reino Unido abriram investigações sobre a xAI. A Indonésia e a Malásia bloquearam o aplicativo X, e três senadores dos EUA, juntamente com grupos de defesa, pediram que a Apple e o Google removam o X de suas lojas de aplicativos por violar os termos de serviço. A Lei de Remoção de Conteúdo dos EUA, aprovada em 2025, criminaliza a compartilhamento de imagens íntimas não consensuais e deepfakes, embora os prazos de conformidade sejam posteriores à controvérsia atual.

Implicações do Lançamento do Vídeo

A introdução do Grok Imagine 1.0 intensifica o debate sobre a moderação de conteúdo, pois a plataforma agora oferece capacidades poderosas de geração de vídeo enquanto está sob investigação por abuso maciço de suas ferramentas de geração de imagens. Críticos questionam se as novas salvaguardas serão adequadas para prevenir a criação e distribuição de conteúdo de vídeo não consensual ou prejudicial.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas