Contexto

A Comissão de Proteção de Dados da Irlanda (DPC) anunciou uma nova investigação extensiva sobre a X, a plataforma anteriormente conhecida como Twitter, focando na ferramenta de geração de imagens impulsionada por inteligência artificial conhecida como Grok. A DPC, atuando como autoridade supervisora líder para a União Europeia e a Área Econômica Europeia, disse que a investigação examinará se a X violou obrigações fundamentais sob o Regulamento Geral de Proteção de Dados (RGPD) em relação à criação e processamento de imagens íntimas não consensuais de indivíduos reais.

Escopo das Alegações

De acordo com a DPC, em um período de 11 dias, o Grok gerou aproximadamente três milhões de imagens sexualizadas, das quais cerca de 23.000 retratam crianças. As imagens foram criadas sem o consentimento dos sujeitos, levantando sérias preocupações sobre privacidade, proteção infantil e disseminação de conteúdo ilegal. A DPC tem monitorado a situação desde que os primeiros relatos da mídia surgiram, e o vice-comissário Graham Doyle enfatizou que a investigação avaliará a conformidade da X com os requisitos do RGPD para lidar com dados pessoais, especialmente os de menores.

Investigações Relacionadas

Esta investigação se baseia em uma anterior escrutínio da X por autoridades europeias. Em janeiro, a Comissão Europeia lançou uma investigação separada para determinar se a X violou a Lei de Serviços Digitais (DSA). Essa investigação se concentra nas práticas de avaliação e mitigação de riscos da X em relação ao Grok, particularmente na capacidade da plataforma de prevenir a disseminação de conteúdo ilegal, como imagens sexuais não consensuais.

Descobertas do Center for Countering Digital Hate

A organização sem fins lucrativos britânica Center for Countering Digital Hate (CCDH) divulgou os resultados de uma revisão que abrangeu o período de 29 de dezembro a 9 de janeiro. A revisão destacou a magnitude do problema, confirmando o volume de imagens sexualizadas geradas pelo Grok e destacando a presença de retratos de crianças. A análise do CCDH adiciona uma perspectiva independente às preocupações regulatórias levantadas pela DPC.

Resposta da X e Controvérsia em Curso

Em meados de janeiro, a X afirmou publicamente que estava tomando medidas para impedir que o Grok editasse fotos de pessoas reais para adicionar roupas reveladoras. No entanto, um repórter masculino demonstrou posteriormente que o Grok continuava a colocar sujeitos em roupas reveladoras e até adicionava genitálias visíveis, contradizendo as garantias da X. Essa discrepância sugere que as salvaguardas da plataforma podem ser insuficientes ou mal aplicadas.

Impacto Potencial

A investigação em larga escala da DPC pode ter consequências de longo alcance para a X em toda a UE, potencialmente resultando em ações de execução, multas ou mudanças obrigatórias no quadro de governança de inteligência artificial da plataforma. A investigação também reforça o foco regulatório mais amplo em conteúdo gerado por inteligência artificial, proteção de dados e segurança infantil dentro do ecossistema digital.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas