Os modelos de difusão estão se tornando sofisticados o suficiente para reproduzir uma imagem mesmo quando não têm acesso ao original.
Em uma série de cenários hipotéticos, pesquisadores associados ao Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL) do MIT trocaram diferentes conjuntos de dados de treinamento para testar o impacto nas saídas de imagens quando os dados da imagem original foram completamente removidos.
Acontece que, em escala suficiente, nada mudou.
Os pesquisadores chamam o fenômeno de “decadência de atribuição”: quanto mais dados um modelo de difusão é treinado, e quanto maior ele se torna, menos as entradas individuais importam.
“Se você retirar um dado e o resultado do modelo não mudar, então esse dado não afetou o resultado”, explicou Zheng Dai, autor principal do trabalho, em uma postagem no blog do MIT.
Estas descobertas podem ter ramificações significativas quando se trata de resolver preocupações crescentes sobre propriedade intelectual (PI) e violação de direitos autorais.
Os modelos podem recriar imagens mesmo que nunca as tenham visto
Os modelos modernos de difusão generativa replicam essencialmente padrões estatísticos em grandes conjuntos de dados de treinamento para criar reproduções realistas. Essas ferramentas poderosas alcançaram “resultados notáveis” em uma ampla gama de aplicações, observaram os pesquisadores, principalmente na geração de imagens, vídeos e áudio.
Mas estão cada vez mais sob escrutínio por parte de criativos, empresas e decisores políticos, que pretendem uma forma de atribuir responsabilidades pelos resultados gerados. Os modelos estão no centro de ações judiciais, acordos de licenciamento e regulamentações propostas em todo o mundo.
Por exemplo, Stability AI (fabricante do Stable Diffusion) e Midjourney estão envolvidos em uma ação coletiva em andamento movida por vários artistas em um tribunal federal da Califórnia. Os requerentes argumentam que os modelos populares de criação de imagens, vídeos e áudio estão roubando bilhões de suas imagens protegidas por direitos autorais sem o seu consentimento.
A Getty Images também apresentou ações contra a Stability AI, mas foram rejeitadas pelos Tribunais Superiores de Justiça, Negócios e Propriedade da Inglaterra e País de Gales, embora a Getty tenha vencido parcialmente as reivindicações de marca registrada porque algumas imagens geradas pela IA se assemelhavam muito ao seu trabalho.
A atribuibilidade, observaram os investigadores do MIT CSAIL, aumentaria a compreensão da “desaprendizagem da máquina”, do envenenamento de dados, da interoperabilidade dos modelos, da justiça e da privacidade, ao mesmo tempo que abordaria questões éticas, legais, financeiras e regulamentares.
“Desenvolver um método para atribuir resultados gerados a dados de treinamento influentes avançaria muito em nossa compreensão e capacidade de regular esses modelos”, escreveram os pesquisadores.
Nas suas experiências, usaram a ablação, que consiste essencialmente em testar o que acontece quando certos elementos são removidos, observando o que um modelo poderia ter produzido se nunca tivesse “visto” uma determinada imagem.
Normalmente, a ablação é difícil porque os modelos precisam ser treinados novamente após a extração dos dados. Mas os pesquisadores do MIT CSAIL aplicaram o método a uma arquitetura de “conjunto de difusão” de muitos componentes diferentes treinados em diferentes dados. Esses componentes poderiam ser trocados para determinar quanto impacto, se houver, cada um deles teve.
“Nossa análise se baseia na observação de mudanças no comportamento do modelo, ou na falta dele, ao omitir uma parte do conjunto de treinamento”, explicaram os pesquisadores.
Para fazer isso, eles treinaram 24 conjuntos em conjuntos de dados contendo de 256 a mais de 160.000 imagens. Eles foram extraídos de sete conjuntos de dados de imagens acessíveis ao público, incluindo ArtBench (obras de arte), CIFAR-10 (imagens coloridas genéricas), Fashion-MNIST (roupas e acessórios), CelebA (rostos de celebridades) e MetFaces (rostos humanos).
Num exemplo, eles apresentaram a imagem de uma famosa pintura a óleo gerada por um modelo treinado em obras de arte de domínio público de 744 artistas. Ele foi mostrado lado a lado com centenas de imagens aparentemente idênticas geradas pelo modelo, mesmo quando artistas específicos foram removidos dos dados de treinamento.
O original foi reimaginado em todas as variações possíveis, e os pesquisadores quantificaram a atribuibilidade medindo a maior mudança que poderiam induzir ao omitir os dados de treinamento. O raio tornou-se menor à medida que os conjuntos de dados se tornaram maiores, mantendo-se verdadeiro em diferentes medições, incluindo pixel por pixel ou significado semântico.
Por outras palavras, obras de arte individuais de artistas específicos, ou fotografias de certas pessoas, poderiam ser totalmente removidas dos conjuntos de dados, e o modelo ainda poderia reproduzir essa imagem ou estilo. Essencialmente, as conexões tangíveis são perdidas e a ligação a pontos de dados específicos responsáveis pelas amostras geradas é “praticamente impossível” ou pode até desaparecer, explicaram os pesquisadores.
Seu método é novo, disseram eles, porque o trabalho anterior se concentrou na remoção de grandes áreas de dados, em vez de focar em partes menores, o que eles chamaram de “atribuição de estilo deixar um de fora”.
O impacto na atribubilidade
Como o experimento mostra que, como disse Dai, “não faz muito sentido” atribuir um determinado resultado a um determinado dado, os criativos e outros podem não ser capazes de fornecer uma trilha de auditoria que remonta ao seu trabalho original.
O coautor David Gifford, professor do MIT e investigador principal do CSAIL, disse que as descobertas têm uma relação direta com questões jurídicas sobre se os resultados do modelo são realmente trabalhos derivados.
“Uma maneira de pensar sobre isso é que esses modelos são criativos”, disse ele. “Eles não estão simplesmente copiando o que recebem, mas criando novos resultados.”
Portanto, se os resultados não puderem ser correlacionados com dados de treinamento individuais, poderão ser levantadas questões sobre o uso justo e se, de fato, os resultados gerados pelo modelo são, eles próprios, protegidos por direitos autorais como “trabalhos novos”, disse Gifford.
Também poderia mudar a conversa sobre como os criadores originais são compensados quando o que sai de um modelo parece uma recriação direta de seu trabalho, mas não pode ser rastreado até nada na internet.
Em última análise, produzir resultados que sejam garantidamente inatribuíveis é uma “obrigação para a indústria, e não uma lacuna”, disse ele. Os construtores de IA “precisam rever os seus modelos para tirar partido dos avanços deste trabalho, para que possam mostrar que não estão a criar derivados de pessoas ou itens individuais”.
Este artigo foi publicado originalmente no Computerworld.
