Contexto

A empresa de inteligência artificial de Elon Musk, xAI, lançou o chatbot Grok, promovendo-o como um assistente de IA de propósito geral. Além do chatbot, o Grok oferece uma ferramenta de geração de imagens que tem sido intensamente criticada. De acordo com o Center for Countering Digital Hate, a ferramenta foi usada para produzir uma estimativa de três milhões de imagens sexualizadas em um período de onze dias. Dentre essas imagens, cerca de vinte e três mil retratavam menores, levantando preocupações sobre a criação de material de abuso sexual infantil.

Ação Legal

Em resposta, a cidade de Baltimore entrou com uma ação municipal contra a xAI, afirmando que a empresa violou a Ordem de Proteção ao Consumidor da cidade. A queixa, relatada pelo The Guardian, afirma que a xAI comercializou o Grok sem divulgar os riscos e danos potenciais associados ao seu uso, particularmente a geração de imagens não consensuais e ilegais. A procuradora da cidade, Ebony M. Thompson, enfatizou que as leis de proteção ao consumidor de Baltimore existem para proteger os residentes de danos tecnológicos emergentes. Ela afirmou que, quando as empresas introduzem tecnologias poderosas sem guardrails adequados, a cidade tem tanto a autoridade quanto a obrigação de agir.

Contexto Mais Amplo

A ação judicial adiciona-se a uma onda crescente de desafios regulatórios e legais que visam ferramentas de geração de imagens de IA. Reguladores em todo o mundo têm acesso limitado ou lançaram investigações em plataformas que permitem a criação de imagens potencialmente ilegais e não consensuais. Nos Estados Unidos, uma ação coletiva potencial foi arquivada por três adolescentes que alegaram que fotos deles foram usadas para criar material de abuso sexual infantil. Embora o governo federal ainda não tenha tomado medidas diretas contra a xAI, a ação municipal de Baltimore representa uma abordagem inovadora ao usar estatutos de proteção ao consumidor locais para abordar riscos relacionados à IA.

Implicações

Funcionários da cidade argumentam que a ação judicial visa proteger os residentes, responsabilizar as empresas de tecnologia e prevenir a consolidação de danos à medida que a tecnologia de IA continua a evoluir. O caso pode estabelecer um precedente para como as municipalidades podem usar leis de proteção ao consumidor para regular aplicações de IA emergentes, especialmente aquelas capazes de gerar conteúdo visual prejudicial.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas