Durante anos, os sites incluíram informações sobre que tipo de rastreadores não eram permitidos em seu site com um arquivo robots.txt. A Adobe, que deseja criar um padrão semelhante para imagens, adicionou uma ferramenta às credenciais de conteúdo com a intenção de dar a eles um pouco mais de controle sobre o que é usado para treinar os modelos de IA.
Convencer as empresas de IA a realmente aderir ao padrão da Adobe pode ser o principal desafio, especialmente considerando que os rastreadores de IA já são conhecidos por ignorar os pedidos nos robots.txt. arquivo.
As credenciais de conteúdo são informações nos metadados de um arquivo de mídia usados para identificar autenticidade e propriedade. É um tipo de implementação da coalizão para proveniência e autenticidade de conteúdo (C2PA), um padrão para a autenticidade do conteúdo.
A Adobe está lançando uma nova ferramenta da Web para permitir que os criadores anexem credenciais de conteúdo a todos os arquivos de imagem, mesmo que não sejam criados ou editados por meio de suas próprias ferramentas. Além disso, está fornecendo uma maneira de os criadores sinalizarem às empresas de IA que elas não devem usar essa imagem específica para modelos de treinamento.
O novo aplicativo da Web da Adobe, chamado App Autenticidade da Adobe Content, permite que os usuários anexem suas credenciais, incluindo nomes e contas de mídia social, a um arquivo. Os usuários podem anexar essas credenciais a até 50 arquivos JPG ou PNG de uma só vez.
A Adobe está em parceria com o LinkedIn para usar o programa de verificação da plataforma de propriedade da Microsoft. Isso ajuda a provar que a pessoa que anexa as credenciais a uma imagem tem um nome verificado no LinkedIn.
Os usuários também podem anexar seus perfis do Instagram ou X a uma imagem, mas não há integração com a verificação dessas plataformas.
O mesmo aplicativo permite que os usuários marquem uma caixa para sinalizar suas imagens não deve ser usada para treinamento de modelos.
Enquanto o campo está presente no aplicativo e posteriormente nos metadados de uma imagem com credenciais de conteúdo, a Adobe não assinou um contrato com nenhum dos criadores do modelo de IA para adotar esse padrão. A empresa disse que está em negociações com todos os principais desenvolvedores de modelos de IA para convencê -los a usar e respeitar esse padrão.
As intenções da Adobe estão no lugar certo para fornecer um indicador para modelar os fabricantes de dados de treinamento de IA, mas a iniciativa não funcionará se as empresas não concordarem com o padrão ou não respeitarem o indicador.
No ano passado, a implementação de rótulos da Meta em imagens de marca automática em sua plataforma causou um alvoroço, enquanto os fotógrafos reclamavam de suas imagens editadas sendo marcadas com um rótulo “Made With AI”. Meta depois mudou o rótulo para “IA Info”.
Esse desenvolvimento destacou que, embora a Meta e a Adobe façam parte do Comitê Diretor C2PA, há uma diferença na implementação em diferentes plataformas.
Andy Parson, diretor sênior da Iniciativa de Autenticidade de Conteúdo da Adobe, disse que a empresa construiu o novo aplicativo de credencial de conteúdo com criadores. Dado que os regulamentos sobre direitos autorais e dados de treinamento de IA estão espalhados em todo o mundo, a empresa deseja dar aos criadores uma maneira de sinalizar sua intenção sobre as plataformas de IA com o aplicativo.
“Os criadores de conteúdo querem uma maneira simples de indicar que não querem que seu conteúdo seja usado para o treinamento da Gen AI. Ouvimos de pequenos criadores e agências que desejam mais controle sobre suas criações (em termos de treinamento de IA sobre seu conteúdo)”, disse Parson ao TechCrunch.
A Adobe também está lançando uma extensão do Chrome para os usuários identificarem imagens com credenciais de conteúdo.
A empresa disse que, com o aplicativo Credenciais de Conteúdo, ele usa uma mistura de impressão digital digital, marca d’água de código aberto e metadados criptográficos para incorporar metadados em vários pixels de uma imagem; portanto, mesmo que a imagem seja modificada, os metadados permanecem intactos. Isso significa que os usuários podem usar a extensão do Chrome para verificar as credenciais de conteúdo em plataformas como o Instagram que não suportam nativamente o padrão. Os usuários verão um pequeno símbolo “CR” em uma imagem se tiverem credenciais de conteúdo anexados a eles.
Em um mundo onde há muito debate em torno da IA e Art, Parson diz que a C2PA não acredita em opiniões ou dirigir o que é arte. Mas ele acredita que as credenciais de conteúdo podem ser um marcador importante para a propriedade.
“Existe a área cinzenta (de quando uma imagem é editada usando a IA, mas não é 100% gerada pela IA), e o que estamos dizendo é permitir que artistas e criadores assinem seu trabalho e reivindiquem atribuição para ele. Isso não significa que o IP seja legítimo ou é de direitos autorais, mas apenas indica que alguém o fez”, disse Parson.
A Adobe é dita, embora sua nova ferramenta seja projetada para imagens, ela também deseja adicionar suporte para vídeo e áudio na linha.