Contexto

A xAI, uma empresa de inteligência artificial liderada por Elon Musk, oferece uma ferramenta de geração de imagens chamada Grok. Pesquisadores relataram que o Grok produziu repetidamente imagens sexualizadas de crianças, levando a investigações por autoridades nos Estados Unidos e na Europa. A capacidade do modelo de editar fotos de pessoas reais em poses explícitas tem sido particularmente criticada.

Detalhes da Ação

Três adolescentes do Tennessee entraram com uma ação coletiva na Califórnia, afirmando que o Grok usou suas fotos pessoais para gerar material de abuso sexual infantil (CSAM). De acordo com a queixa, uma das adolescentes descobriu em dezembro que imagens e vídeos gerados por IA de ela e outros menores estavam sendo compartilhados em plataformas como Discord e Telegram, muitas vezes usados como ferramenta de troca para conteúdo ilícito adicional. A ação alega que o material gerado causou grande distress emocional, descrevendo as vidas das vítimas como destruídas pela perda de privacidade, dignidade e segurança pessoal.

A queixa afirma que, embora apenas três indivíduos sejam nomeados, o caso pode se estender a "pelo menos milhares de menores" cujas fotos podem ter sido manipuladas pelo Grok. Os autores da ação alegam que a xAI violou várias leis que proíbem a produção e distribuição de material de abuso infantil e argumentam que a empresa lucrou com a funcionalidade de geração de imagens, apesar do dano causado aos menores.

Resposta da Empresa

A xAI não forneceu um comentário imediato sobre a ação. Anteriormente, a empresa anunciou em janeiro que cessaria a permissão para que os usuários editassem imagens de pessoas reais em biquínis e restringiria as capacidades de geração de imagens do Grok a assinantes pagos. Elon Musk, o CEO, disse anteriormente que não estava "ciente de nenhuma imagem de menor nu gerada pelo Grok".

Contexto Mais Amplo

A ação adiciona a uma lista crescente de desafios legais e regulatórios enfrentados pela xAI. Investigações nos Estados Unidos e na Europa se concentram na criação alegada pelo Grok de nudez não consensual e conteúdo sexual infantil. Pesquisadores do Center for Countering Digital Hate estimaram em janeiro que o Grok produziu milhões de imagens sexualizadas, incluindo cerca de 23.000 que pareciam retratar crianças.

Esses desenvolvimentos destacam preocupações contínuas sobre o uso ético de IA gerativa, as responsabilidades dos desenvolvedores de IA e a necessidade de salvaguardas robustas para proteger indivíduos vulneráveis da exploração por tecnologias de geração de imagens avançadas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas