Resposta do Governo

O Primeiro-Ministro Keir Starmer disse aos ouvintes da Greatest Hits Radio que o Reino Unido tomará medidas decisivas contra X após relatos de que a plataforma do Grok está sendo usada para produzir deepfakes sexualizados de adultos e menores. Ele descreveu o material como "nojento" e disse que o governo considerará todas as opções para resolver o problema, enfatizando que tal conteúdo não será tolerado.

Recursos da Plataforma e Consequências

No mês passado, X introduziu um recurso que permite aos usuários usar o Grok para editar qualquer imagem na plataforma sem a permissão do criador original. O lançamento rapidamente levou a uma onda de deepfakes gerados por IA que despem mulheres e, em alguns casos, crianças. A proliferação desse conteúdo provocou críticas generalizadas e pedidos de responsabilização.

Investigação Regulatória

O regulador de comunicações do Reino Unido, Ofcom, começou a investigar se X pode estar violando a Lei de Segurança Online, legislação que responsabiliza as plataformas online por hospedar conteúdo prejudicial. Um porta-voz da Ofcom disse que o regulador faria uma avaliação rápida para determinar se há questões de conformidade que justifiquem uma investigação mais aprofundada.

Posição da Empresa

X respondeu afirmando que qualquer pessoa que use ou incentive o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que se tivesse carregado material ilegal diretamente. A empresa não respondeu imediatamente a um pedido de comentário do The Verge.

Implicações

O episódio destaca as crescentes preocupações sobre a manipulação impulsionada por IA nas mídias sociais e os desafios que os reguladores enfrentam para aplicar as leis de segurança existentes. Ele também destaca a tensão entre a inovação da plataforma e a responsabilidade de prevenir o uso prejudicial de ferramentas de IA poderosas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas