Um desenvolvedor de software que usa o nome online Aloshdenny afirma ter descoberto uma maneira de remover ou inserir as marcas d'água ocultas que identificam imagens geradas por IA, exposto no sistema de marca d'água SynthID do Google DeepMind. A afirmação, publicada no GitHub e explicada em um ensaio no Medium, se baseia em um conceito simples: gerar 200 imagens completamente pretas ou brancas com o modelo Gemini do Google, aumentar o contraste e a saturação, e então remover o ruído para revelar o padrão da marca d'água.

O texto de Aloshdenny, temperado com humor autodepreciativo sobre "tempo livre demais" e uma breve menção à maconha, leva os leitores por um processo de três etapas. Primeiro, ele calcula a magnitude e a fase do sinal da marca d'água em cada frequência por canal de cor, averageando os padrões extraídos em todo o conjunto de imagens. Em seguida, ele procura por essas frequências em novas imagens e remove parcialmente a marca d'água no ângulo exato em que foi originalmente inserida. O resultado, ele admite, não remove completamente a marca d'água; em vez disso, confunde o decodificador o suficiente para que ele desista.

SynthID, a marca d'água quase invisível do Google, incorpora um sinal diretamente nos dados de pixel no momento em que uma imagem é criada. Projetada para sobreviver ao processamento pós-típico típico, a marca d'água identifica o conteúdo do conjunto de IA do Google - incluindo modelos chamados Nano Banana e Veo 3 - bem como clones de criadores gerados por IA no YouTube. O Google promove SynthID como um deterrente, aumentando o custo do mau uso tornando a remoção tecnicamente desafiadora.

A resposta do Google foi rápida. A porta-voz Myriam Khan disse ao The Verge que a ferramenta de Aloshdenny "está incorreta ao dizer que essa ferramenta pode remover sistematicamente as marcas d'água SynthID". Ela reafirmou que SynthID permanece "uma ferramenta de marca d'água robusta e eficaz para conteúdo gerado por IA". A posição da empresa destaca que, embora a marca d'água possa ser obscurecida, ela não foi completamente quebrada.

A troca de informações realça uma tensão mais ampla na comunidade de IA. Engenheiros e pesquisadores estão ansiosos para testar os limites das tecnologias de atribuição, enquanto empresas como o Google buscam proteger a integridade de suas ferramentas contra atores mal-intencionados. Aloshdenny elogiou a engenharia de SynthID, observando que o fato de ele só poder "confundir o decodificador" fala da força do sistema. Ele também alertou que o método é tecnicamente complexo, improvável de ser usado por script-kiddies casuais.

À medida que a mídia gerada por IA prolifera, a capacidade de rastrear histórias de origem se torna cada vez mais importante para plataformas, editores e reguladores. Soluções de marca d'água, como SynthID, visam incorporar a proveniência sem degradar a qualidade visual, oferecendo um meio-termo entre transparência e experiência do usuário. Se o último esforço de reverse-engineering irá provocar o Google a ajustar seu algoritmo permanece por ser visto, mas o diálogo em si sinaliza que a batalha sobre a atribuição de conteúdo de IA está longe de ser resolvida.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas