Com a explosão das Inteligências Artificiais generativas, muitos usuários viram crescer o uso de IA para geração de imagens. E isso significa que um simples comando pode gerar uma imagem relativamente realista de qualquer coisa, exigindo mecanismos de verificação de autenticidade.
Pensando nisso, o Google fez um recurso chamado SynthID, que visa combater deepfakes e o uso indevido de imagens geradas por IA. A versão beta da ferramenta “incorpora uma marca d’água digital diretamente nos pixels de uma imagem, tornando-a imperceptível ao olho humano, mas detectável para identificação”.
Isso significa que, à primeira vista, a imagem gerada por IA parecerá normal, mas terá um marcador facilmente identificável para que as pessoas saibam que não se trata de uma imagem autêntica.
E ele foi disponibilizado para um “número limitado” de clientes que usam o Imagen, o modelo do Google DeepMind que utiliza comandos de texto para criar imagens fotorrealistas.
Porém, um engenheiro conseguiu fazer engenharia reversa da tecnologia e disponibilizou o código de remoção da marca d’água no GitHub.
Notícias Relacionadas:
- NVIDIA diz que IA reduz meses de trabalho em design de chips para poucas horas
- Entre mais de 500 ferramentas de IA, só 6 são úteis para games, afirma estúdio
- Fundador da Framework diz que computação pessoal como a conhecemos pode ter acabado
Para fins educacionais
No reddit, o usuário publicou tanto o link para o detalhamento completo do processo quanto para o repositório para o aplicativo no GitHub. E ele destaca que fez tudo de maneira legal sem usar outras IAs e sem acesso a fontes proprietárias.
O processo consistiu em gerar 200 imagens Gemini em preto e branco, 123 mil pares de imagens, algumas análises de FFT. E, claro, ele também precisou de bastante tempo para processar as informações.
Com as imagens, ele descobriu que cada pixel diferente de zero seria, literalmente, a marca d’água. Sem conteúdo para se esconder. Apenas o sinal, puro e simples. Com isso, ele descobriu que o modelo usa modelo de fase fixa.
Deste modo, o sistema que foi projetado para ser inquebrável, resistindo a compressão, capturas de tela e edições, foi quebrado por um engenheiro desempregado.
Assim, ele criou um bypass V3 que remove efetivamente a marca d’água, eliminando 91% da coerência de fase e 75% da energia da portadora, sem comprometer a qualidade da imagem (PSNR de mais de 43 dB).
O engenheiro também descobriu que o modelo de fase completo é estático em todas as imagens, apresentando maior intensidade no canal verde e variando apenas de acordo com a resolução.
Fonte: Alosh Denny.
