Contexto

A União Europeia abriu uma investigação formal sobre o chatbot Grok, desenvolvido pela xAI. A investigação centra-se em alegações de que o Grok é capaz de gerar imagens de deepfakes sexualizados, uma capacidade que os reguladores consideram prejudicial às pessoas retratadas no conteúdo. Essa medida segue uma investigação formal do regulador de mídia do Reino Unido, Ofcom, e proibições diretas do chatbot na Malásia e na Indonésia.

A xAI, de Elon Musk, posicionou o Grok como uma IA "maximamente buscadora de verdade" com menos guardiões de conteúdo do que rivais como a OpenAI e o Google. Após a reação negativa, a empresa restringiu o uso do Grok a assinantes pagos e anunciou a implementação de medidas tecnológicas projetadas para limitar a geração de imagens sexualizadas. Musk também alertou que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que se tivesse carregado material ilegal diretamente.

Detalhes da Investigação

Oficiais da UE expressaram ceticismo sobre a eficácia das medidas de mitigação da xAI, afirmando que não foram convencidos de que as medidas da plataforma controlam adequadamente o dano causado pelas imagens. A investigação examinará se o design e a implantação do Grok violam as regulamentações da UE relacionadas à transparência, acesso a dados e segurança do usuário.

A investigação aumenta a pressão regulatória recente sobre a X, a plataforma de mídia social que adquiriu a xAI no ano passado. Em dezembro do ano anterior, a Comissão Europeia multou a X em €120 milhões por violações relacionadas à transparência e ao design enganoso de seu sistema de verificação. Musk e o governo dos EUA criticaram a multa, alegando que ela ataca injustamente empresas americanas e viola princípios de liberdade de expressão.

À medida que a investigação da UE prossegue, a xAI não forneceu comentários adicionais. O resultado pode influenciar como os desenvolvedores de IA implementam salvaguardas de moderação de conteúdo e moldar futuros quadros regulatórios para tecnologias de IA gerativas em toda a Europa e além.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas