A Meta está desenvolvendo uma ferramenta baseada na web para identificar imagens e vídeos gerados com seu modelo Muse Image. A ferramenta pode detectar marcas d’água invisíveis conhecidas como Content Seal, que permanecem intactas quando as imagens são cortadas, redimensionadas ou capturadas de tela, de acordo com uma postagem no blog da empresa.
O sistema de marca d’água Content Seal é proprietário, uma mudança em relação às versões anteriores de código aberto da tecnologia da Meta. Ao contrário dos modelos anteriores que usavam marcas d’água visíveis, os modelos atuais não exibem logotipos, afirmou Meta. Os recursos de detecção concentram-se exclusivamente em imagens criadas ou editadas usando o Muse Image, embora a empresa planeje estender o sistema de marca d’água para vídeos gerados e editados por IA no futuro.
Os testes da ferramenta de detecção mostraram que ela poderia identificar com sucesso marcas d’água em imagens editadas e naquelas criadas inteiramente por IA. Um resultado de detecção positivo indica que a imagem foi processada usando Meta AI ou meta.ai, de acordo com Meta. Por outro lado, um resultado negativo sugere que é improvável que a imagem tenha sido criada com as ferramentas do Meta.
Apesar desses recursos de detecção, o recurso ainda não está integrado ao próprio aplicativo Meta AI. Uma consulta feita ao assistente baseado em aplicativo do Meta revelou que ele não tem a capacidade de confirmar a fonte de geração de uma imagem, afirmando: “Não posso dizer com certeza se esta imagem específica foi feita com Meta AI apenas olhando para ela”. O assistente observou que o aplicativo não marca água automaticamente nas imagens.
A Meta enfrentou um escrutínio sobre suas práticas de rotulagem de conteúdo de IA. O Conselho de Supervisão levantou preocupações sobre inconsistências na implementação de marcas d’água digitais em conteúdo gerado por IA. O sistema Content Seal é incompatível com outros métodos de marca d’água estabelecidos, como SynthID ou C2PA Content Credentials.
Outras limitações da ferramenta de detecção surgiram durante os testes, que não conseguiam identificar imagens criadas com versões mais antigas da IA do Meta. Os usuários também experimentaram limites de taxas, recebendo notificações após atingirem o máximo diário para verificações de identificação.
A Meta também está desenvolvendo um modelo separado de geração de vídeo chamado Muse Video, que deverá ser lançado em breve. Atualmente, o recurso de detecção permanece inacessível por meio do aplicativo Meta AI.
