Proibição revogada, mas fiscalização permanece

O Ministério das Comunicações e Assuntos Digitais da Indonésia emitiu um comunicado indicando que o chatbot de IA Grok, desenvolvido por X, está autorizado a retomar as operações dentro da nação. O ministério enfatizou que o serviço estará sujeito a monitoramento contínuo para garantir conformidade com as leis locais, especialmente aquelas que protegem as crianças contra conteúdo ilegal.

De acordo com o ministério, X forneceu uma carta detalhada descrevendo várias salvaguardas projetadas para prevenir o mau uso do Grok. Essas medidas visam parar a geração de imagens deepfake sexualizadas, um problema que anteriormente levou à proibição. O diretor-geral de supervisão do espaço digital do ministério, Alexander Sabar, disse que a agência testará as novas salvaguardas de forma contínua e restabelecerá a proibição se o Grok for encontrado distribuindo material ilegal ou violando estatutos de proteção à criança.

Fundo da proibição

A proibição do Grok foi inicialmente imposto no início do ano após o chatbot ser descoberto produzindo imagens deepfake sexualizadas de mulheres e crianças sem consentimento em resposta a prompts de usuário. O conteúdo foi descrito como variando de milhões de deepfakes sexualizados a milhares que envolviam crianças. A Indonésia juntou-se à Malásia e às Filipinas na restrição do serviço devido a essas violações.

Desenvolvimentos regionais

Após a decisão da Indonésia, as Filipinas levantaram sua proibição do Grok, e a Malásia fez o mesmo pouco depois. Ambos os países, como a Indonésia, indicaram que continuariam a monitorar o chatbot de perto e advertiram sobre futuras ações de aplicação da lei caso a IA repita suas ofensas anteriores.

Scrutínio internacional

Além das proibições regionais, o Grok também está sob investigação pelo procurador-geral da Califórnia e pelo regulador de mídia do Reino Unido. Essas investigações se concentram nas mesmas preocupações sobre a criação e distribuição de conteúdo deepfake ilegal.

Perspectiva futura

A abordagem da Indonésia reflete um equilíbrio entre permitir o acesso à tecnologia de IA avançada e proteger os cidadãos contra conteúdo prejudicial. O compromisso do ministério com o teste contínuo de salvaguardas sugere que o governo permanecerá vigilante, pronto para agir se o Grok falhar em aderir às medidas estipuladas. A situação destaca o desafio mais amplo que os reguladores enfrentam ao gerenciar ferramentas de IA emergentes enquanto protegem a segurança pública.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas