Procuradores-gerais dos EUA se mobilizam contra a xAI

Um grupo bipartidário de pelo menos 37 procuradores-gerais de estados e territórios dos EUA lançou ação coordenada contra a xAI, a empresa por trás do chatbot Grok. Os procuradores-gerais alegam que o Grok foi usado para gerar um grande volume de imagens sexuais não consensuais, incluindo cerca de 23.000 imagens de crianças, durante um período de 11 dias que começou no final de dezembro. Um relatório recente do Centro para Combater o Ódio Digital estimou que a conta do Grok no X produziu cerca de 3 milhões de imagens sexuais fotorealistas nesse período.

Os procuradores-gerais enviaram uma carta aberta à xAI exigindo que a empresa "tomasse imediatamente todas as medidas adicionais disponíveis para proteger o público e os usuários de suas plataformas, especialmente as mulheres e meninas que são o alvo predominante de imagens íntimas não consensuais". A carta pede a remoção da capacidade do Grok de retratar pessoas em roupas reveladoras ou poses sugestivas, suspensão de usuários ofensivos, relatórios de violações às autoridades e implementação de controles de usuário sobre se sua semelhança pode ser editada pelo AI.

Investigações e pressão legal nos estados

Vários estados abriram investigações formais. O procurador-geral do Arizona anunciou uma investigação em 15 de janeiro, descrevendo as imagens relatadas como "profundamente perturbadoras". O procurador-geral da Califórnia enviou uma carta de cessação e desistência a Elon Musk em 16 de janeiro, exigindo o fim da criação e distribuição de material de abuso sexual infantil (CSAM) e imagens íntimas não consensuais. O procurador-geral da Flórida relatou discussões em andamento com o X para garantir que as proteções infantis estejam em vigor. Outros estados, incluindo Missouri, Carolina do Norte, Geórgia e Nebraska, também expressaram o dever de fazer cumprir as leis existentes e considerar nova legislação.

Essas ações ocorrem em meio a uma onda mais ampla de interesse nos níveis estaduais em conteúdo sexual gerado por IA. No início do ano, 42 procuradores-gerais co-assinaram uma carta pedindo que as empresas de IA adotassem salvaguardas adicionais para crianças. Um grupo de trabalho de oficiais estaduais se reuniu em meados de janeiro para discutir riscos emergentes relacionados à IA, com ênfase particular no CSAM como prioridade inicial.

Leis de verificação de idade e seus limites

Metade dos estados promulgou estatutos de verificação de idade que exigem que os usuários provem que não são menores antes de acessar material pornográfico. No entanto, a aplicabilidade dessas leis a plataformas como o X e o site standalone do Grok permanece incerta. Muitos estados adotaram o modelo de "um terço" de Louisiana, que dispara a verificação apenas quando pelo menos um terço do conteúdo do site é considerado pornográfico ou prejudicial a menores. Legislativos e defensores da privacidade debatem se uma abordagem agnóstica de conteúdo — que exige verificação para qualquer material pornográfico — seria mais eficaz.

Representantes da indústria, incluindo funcionários da empresa-mãe do Pornhub, argumentaram a favor de uma verificação de idade baseada em dispositivos que manteria os dados pessoais dos usuários em seus dispositivos em vez de em servidores de terceiros. Eles sugerem que tal sistema também poderia filtrar conteúdo explícito em mídias sociais e chatbots de IA.

Resposta da xAI e controvérsia em andamento

A resposta pública da xAI às perguntas foi limitada, com a empresa descartando a cobertura da mídia como "mentiras da mídia legada". A empresa afirma ter interrompido a capacidade do Grok de despir pessoas no X, mas os procuradores-gerais observam que o conteúdo não consensual permanece acessível e que a lei federal logo obrigará sua remoção.

A controvérsia destaca uma tensão entre a inovação rápida da IA e a necessidade de quadros regulatórios que protejam populações vulneráveis. À medida que os oficiais estaduais continuam a pressionar a xAI e exploram soluções legislativas, o caso destaca a crescente responsabilidade dos desenvolvedores de IA para antecipar e mitigar o mau uso de suas tecnologias.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas