Contexto

No início deste ano, o chatbot Grok, desenvolvido pela xAI, foi equipado com ferramentas de geração de imagens. Em um período de onze dias, a ferramenta foi usada para criar aproximadamente três milhões de imagens sexualizadas ou nuas, incluindo uma estimativa de vinte e três mil representações de crianças, de acordo com o Centro para Combater o Ódio Digital. O surto gerou indignação pública e levou a duas investigações separadas por reguladores da União Europeia.

Detalhes da Nova Funcionalidade

Em resposta, X e xAI lançaram uma nova opção no menu de upload de imagens/vídeos do aplicativo iOS. O toggle permite que os usuários bloqueiem o Grok de editar os arquivos que enviam. A configuração é apresentada como um simples e visível switch, em vez de estar escondida profundamente na interface.

Contexto Regulatório

A introdução do toggle coincide com as investigações em andamento da UE sobre o papel do Grok na geração de imagens sexuais não consensuais e relacionadas a crianças. Os reguladores estão examinando se a tecnologia está em conformidade com as leis de segurança e privacidade digitais existentes.

Críticas e Limitações

Embora a funcionalidade marque um passo para limitar usos inadequados do Grok, ela apenas impede que o chatbot seja marcado em uma resposta para criar uma edição de imagem. Relatórios indicam que usuários dedicados ainda podem encontrar contornos para gerar modificações indesejadas. Observadores notam que a medida não constitui uma reformulação mais ampla das capacidades ou políticas do Grok, e que limites anteriores para gerar representações de pessoas reais com pouca roupa mostraram apenas sucesso parcial.

Perspectiva

Analistas sugerem que o toggle pode ser uma solução intermediária enquanto a xAI desenvolve ferramentas de proteção mais robustas. A eficácia da nova configuração provavelmente será julgada contra o progresso das investigações regulatórias e quaisquer melhorias futuras nos mecanismos de moderação de conteúdo do Grok.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas