Contexto da Ação Judicial

Uma adolescente entrou com uma ação judicial alegando que um aplicativo "nudify" usou inteligência artificial para criar imagens falsas de nus dela sem consentimento. A queixa afirma que as imagens causaram profundo distresse emocional, descrevendo sentir-se "mortificada e emocionalmente abalada" e temendo que as imagens possam reaparecer a qualquer momento.

Alegações Contra o Aplicativo e Seus Operadores

A autora da ação judicial visa o aplicativo em si, argumentando que, se os desenvolvedores não responderem, um tribunal pode conceder um julgamento por omissão e bloquear a distribuição do aplicativo nos Estados Unidos. Ela também processou o garoto que utilizou o aplicativo para gerar as imagens, alegando que suas ações a levaram a considerar abandonar a escola.

Impacto na Vítima

A adolescente descreve um sentimento constante de medo, afirmando que passará "o resto de sua vida" monitorando se as imagens ressurgem. Ela expressou desesperança sobre a possibilidade de as imagens poderem chegar a pedófilos, traficantes, amigos, familiares, futuros parceiros, faculdades, empregadores ou ao público em geral.

Resposta da Plataforma e Contexto Legal

Um porta-voz disse ao The Wall Street Journal que "pornografia não consensual e as ferramentas para criá-la são explicitamente proibidas pelos termos de serviço do Telegram e são removidas sempre que descobertas." A ação judicial chega em meio a esforços mais amplos para combater imagens íntimas não consensuais geradas por IA. Aproximadamente 45 estados criminalizaram nus falsos, e legislações recentes, como a Lei Take It Down, exigem que as plataformas removam tanto imagens íntimas reais quanto geradas por IA não consensuais dentro de 48 horas após o relato de uma vítima.

Resultados Potenciais

Se o tribunal conceder o pedido da autora, o aplicativo pode ser bloqueado nos Estados Unidos, estabelecendo um precedente para como o conteúdo sexual gerado por IA é tratado legalmente. O caso destaca os desafios que as vítimas enfrentam para controlar a disseminação de imagens deepfake e as responsabilidades das plataformas online para aplicar políticas de conteúdo.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas