Uma reação liderada por artistas contra a IA já começou. Embora muitos ainda gostem de usar modelos populares de conversão de texto em imagem, como DALL-E 3, Midjourney e Stable Diffusion, os artistas estão cada vez mais fartos.

Alguns se uniram para protestar contra a prática comum de empresas de tecnologia extraírem seu trabalho visual da internet sem permissão a fim de treinar seus modelos. Artistas organizaram protestos em plataformas de arte populares ou abandonaram completamente essas plataformas. Alguns até entraram com ações judiciais por violação de direitos autorais.

Nova ferramenta pode mudar o equilíbrio de poder

Atualmente, existe uma assimetria total de poder entre artistas e grandes empresas de tecnologia, diz Ben Zhao, professor da Universidade de Chicago. Porém, uma nova ferramenta desenvolvida pelo laboratório de Zhao pode mudar isso.

A ferramenta, chamada Nightshade, faz alterações sutis nos pixels da imagem – alterações invisíveis ao olho humano, mas que enganam os modelos de IA. Quando os artistas aplicam o Nightshade em seu trabalho e essas imagens são usadas para treinar modelos de IA, os “pixels envenenados” fazem com que o modelo funcione mal.

Algumas empresas se ofereceram para permitir que artistas saíssem dos conjuntos de treinamento. No entanto, não existe um mecanismo para forçar o cumprimento. Zhao afirma que o Nightshade poderia ser esse mecanismo, já que é arriscado para as empresas usarem dados que possam quebrar seus modelos.

Artistas exigem consentimento e compensação

Autumn Beverly, uma artista que planeja usar o Nightshade, diz que descobriu que seu trabalho foi incluído no conjunto de dados LAION-5B sem consentimento.

Antes de ferramentas como o Nightshade, Beverly não se sentia confortável em compartilhar seu trabalho online. Ela e outros artistas estão exigindo que as empresas de tecnologia mudem para obter consentimento primeiro e comecem a compensar artistas por suas contribuições.

A luta pertence a qualquer pessoa com conteúdo online

A luta dos artistas pertence a qualquer pessoa que já postou algo online. Nossos dados pessoais, postagens nas redes sociais e qualquer conteúdo disponível gratuitamente online pode acabar em um modelo de IA sem nosso conhecimento.

Ferramentas como o Nightshade podem ser o primeiro passo para devolver o equilíbrio de poder a nós.