Resumo
- A Anthropic começará a identificar conteúdos gerados pelo Claude com metadados e marcas d’água digitais.
- A marca d’água para textos será inserida na estrutura das respostas e será imperceptível ao olho humano, enquanto para imagens e arquivos visuais, a identificação seguirá o padrão C2PA.
- A implementação será aplicada a textos, imagens e outros arquivos de mídia produzidos pelos novos modelos da empresa.
A Anthropic vai começar a identificar conteúdos gerados pelo Claude com metadados e marcas d’água digitais imperceptíveis ao olho humano. A mudança será aplicada a textos, imagens e outros arquivos de mídia produzidos pelos novos modelos de inteligência artificial.
A empresa anunciou a medida como resposta às exigências de transparência do Regulamento de Inteligência Artificial da União Europeia. As regras entraram em vigor em 2 de agosto e obrigam que sejam adotados mecanismos para indicar quando um conteúdo foi criado por IA.
Embora a obrigação venha da União Europeia, a Anthropic aplicará a mudança globalmente em diferentes formas de acesso ao Claude, incluindo APIs, aplicativos comerciais e interações em nuvem com parceiros como AWS, Google Cloud e Microsoft Foundry.
Marcação diferente para texto e mídia
A Anthropic adotará dois tipos de identificação, dependendo do conteúdo gerado. Para textos, o Claude passará a inserir uma marca d’água na estrutura das respostas, algo semelhante ao que o Google faz com as imagens geradas através do Gemini — o chamado SynthID.
Essas marcas não aparecem no conteúdo, como o logo do Gemini em imagens geradas pela IA do Google, ou o texto “Meta AI” em edições feitas pelo sistema da empresa de Mark Zuckerberg.
A dona do Claude não deu nome à marca, mas, assim como a solução da gigante das buscas, ela não deve alterar o conteúdo. Além disso, deve continuar associada ao texto mesmo se o usuário copiá-lo e transferir para outro programa.
Para imagens e arquivos visuais, a identificação será feita por meio de metadados de procedência com assinatura digital. O padrão usado será o C2PA, protocolo aberto já adotado por empresas como Adobe, OpenAI e Google. Não custa lembrar: a Anthropic ainda não possui modelos nativos de geração de imagens, mas é capaz de gerar arquivos de texto em formatos como PNG, JPG ou SVG.
Mudança chega diretamente a novos modelos
A implementação começa pelos modelos lançados a partir da data em que as novas obrigações europeias entraram em vigor. Ou seja, sistemas que chegarem a partir de 2 de agosto já devem ter a identificação ativa.
Para modelos e produtos criados antes dessa data, a Anthropic afirma que ainda “trabalha para adicionar o suporte”. A legislação europeia prevê um período de carência de quatro meses para esse tipo de ajuste, segundo o The Verge.
A empresa também informou que pretende lançar documentação técnica e ferramentas próprias para que terceiros e plataformas online possam verificar, no futuro, se um conteúdo foi produzido pelo Claude.
Marcas d’água podem ser removidas
É importante notar que essas identificações de conteúdo gerado por IA não são à prova de fraude. Metadados em padrão C2PA, por exemplo, podem desaparecer quando arquivos são enviados para determinadas redes sociais ou convertidos para outros formatos.
A própria Anthropic alerta a possibilidade da marca d´água se perder caso o conteúdo gerado seja reescrito, traduzido ou se o texto for curto demais.
Além disso, maioria das plataformas ainda não sinaliza o uso de IA com muito destaque. YouTube e Instagram, por exemplo, adicionam uma pequena marcação de possível uso em espaços pouco visíveis de suas interfaces, e isso apenas para imagens e vídeos.
Anthropic vai identificar textos e imagens gerados pelo Claude
