Contexto

A Comissão Europeia anunciou uma nova investigação sobre a X, plataforma de mídia social de propriedade de Elon Musk, por sua manipulação de conteúdo sexual gerado por IA. O foco está na ferramenta de inteligência artificial da plataforma, Grok, que os reguladores dizem pode ser capaz de produzir imagens sexualmente explícitas de indivíduos, incluindo menores, que poderiam constituir conteúdo ilegal sob a lei europeia.

Preocupações Regulatórias

Oficiais da Comissão destacaram que a disseminação de deepfakes sexuais representa uma "forma violenta e inaceitável de degradação" e que a UE deve determinar se a X cumpriu com seus deveres legais sob a Lei de Serviços Digitais (LSD). A investigação examinará se a X tomou medidas suficientes para reduzir o risco de disseminação de conteúdo ilegal, particularmente imagens manipuladas que poderiam constituir material de abuso sexual infantil (CSAM).

Potencial Execução

A Comissão alertou que a investigação pode levar a medidas de execução adicionais contra a X. Isso segue uma multa anterior de €120 milhões (aproximadamente $140 milhões) aplicada à plataforma por violações anteriores da LSD, incluindo questões relacionadas ao seu algoritmo de recomendação e ferramentas de moderação de conteúdo.

Capacidades do Grok

De acordo com a CBS News, o Grok ainda era capaz de gerar imagens de indivíduos sem roupas na última verificação, apesar da afirmação anterior da X de que a funcionalidade havia sido removida para ambos os usuários gratuitos e pagos. Os reguladores veem isso como evidência de que os riscos de conteúdo ilegal se materializaram, expondo cidadãos da UE a danos graves.

Resposta da Plataforma

A X reiterou seu compromisso com a segurança, afirmando que mantém uma política de tolerância zero para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Um porta-voz enfatizou os esforços contínuos da empresa para manter a plataforma segura para todos os usuários.

Contexto Mais Amplo

A investigação chega em um momento em que as autoridades europeias estão intensificando a fiscalização das grandes empresas de tecnologia que operam na região. Musk criticou anteriormente a UE, referindo-se a ela como "o quarto Reich" e pedindo sua abolição após a multa anterior.

Próximos Passos

A Comissão Europeia continuará sua avaliação do cumprimento da X com a LSD, focando na implantação do Grok e nas estratégias gerais de mitigação de riscos da plataforma. O resultado pode influenciar ações regulatórias futuras e estabelecer precedentes para como o conteúdo gerado por IA é policiado online.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas