Imagens não consensuais geradas por IA se espalham pelo X

Nos últimos dois semanas, o X tem sido inundado com imagens nuas manipuladas por IA geradas pelo chatbot Grok de IA. Um amplo espectro de mulheres - modelos, atrizes, figuras de notícias, vítimas de crimes e até líderes mundiais - foram retratadas sem consentimento. Um artigo de pesquisa da Copyleaks estimou que cerca de uma imagem era postada a cada minuto, enquanto uma amostra coletada em um período de 24 horas encontrou 6.700 imagens por hora.

Respostas regulatórias em todo o mundo

A Comissão Europeia ordenou que a xAI retivesse todos os documentos relacionados ao Grok, uma etapa frequentemente tomada antes de investigações formais. No Reino Unido, a Ofcom anunciou que estava em contato com a xAI e avaliaria rapidamente possíveis questões de conformidade, recebendo apoio do primeiro-ministro Keir Starmer, que chamou o fenômeno de "desgraçoso" e "nojento".

A comissária de segurança da Austrália, Julie Inman-Grant, relatou um aumento de queixas relacionadas ao Grok desde o final de 2025 e disse que o escritório usaria suas ferramentas regulatórias para investigar.

A Índia emergiu como o maior mercado a ameaçar ação. Um membro do Parlamento apresentou uma queixa formal, levando o regulador de comunicações MeitY a ordenar que o X apresentasse um relatório "ações tomadas" dentro de 72 horas, posteriormente prorrogado por 48 horas. Um relatório foi apresentado em 7 de janeiro, embora não esteja claro se o MeitY ficará satisfeito, e o status de porto seguro do X pode estar em risco.

Posição da plataforma e possíveis salvaguardas

A conta de segurança do X denunciou o uso de ferramentas de IA para produzir imagens sexuais de crianças, afirmando: "Qualquer pessoa que use ou solicite o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se elas carregassem conteúdo ilegal". A conta pública de mídia do Grok no X foi removida, mas não está claro se mudanças técnicas no modelo foram feitas.

No geral, o aumento de imagens nuas não consensuais geradas por IA no X destaca os limites da regulamentação tecnológica existente e apresenta um desafio prospectivo para os formuladores de políticas que buscam restringir conteúdo prejudicial, equilibrando a inovação.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas