Quando a IA “envenena” a IA: o que você precisa saber sobre a Nightshade

Início / Inteligência Artificial / Quando a IA “envenena” a IA: o que você precisa saber sobre a Nightshade
Quando a IA “envenena” a IA: o que você precisa saber sobre Nightshade

Em um mundo onde o inimigo do meu inimigo pode se tornar meu amigo, artistas e criadores de conteúdo em todo o globo agora têm uma aliada poderosa contra os modelos “inimigos” da Geração de IA. Essa aliada é a ferramenta de IA chamada Beladona, disponível para download e anunciada pelos Cientistas do The Glaze Project da Universidade de Chicago, mentes brilhantes por trás dessa inovação, no Twitter.

Nightshade: a ferramenta de IA que “envenena” modelos de IA da geração

O Nightshade foi meticulosamente projetado para impedir que modelos Gen AI se apropriem do trabalho de artistas sem permissão. Desenvolvida por uma equipe de cientistas da Universidade de Chicago, liderada pelo Prof. Ben Zhao e Shawn Shan, a ferramenta gratuita de IA conta com a contribuição de talentosos artistas, como Wenxin Ding, Josephine Passananti e outros, no The Nightshade Project.

A equipe Nightshade, anteriormente envolvida no The Glaze Project, tinha o objetivo de criar um programa de IA para artistas e proprietários de conteúdo. Seu propósito era evitar que os modelos da Geração AI imitassem seus estilos artísticos. Enquanto o Glaze foi concebido como uma ferramenta defensiva, o Nightshade é ofensivo, projetado para “envenenar” os modelos da Geração AI, forçando-os a gerar obras de arte ampla e significativamente diferentes das originais.

Leia também: 

Como funciona a ferramenta Nightshade AI?

Segundo os cientistas da Universidade de Chicago, o Nightshade “envenena” ou distorce as amostras não autorizadas de arte/imagem que os modelos Gen AI coletam para treinamento. Após o uso do Nightshade, os modelos de IA percebem algo diferente da arte original.

Para o olho humano, a imagem distorcida aparecerá sombreada, com apenas uma ligeira alteração no original. No entanto, o modelo de IA verá mudanças significativas na imagem original.

Imagem relacionada com IA

Nightshade AI: menos “veneno” por enquanto

De acordo com os desenvolvedores, eles optaram por uma “configuração de baixa intensidade”, priorizando “a qualidade visual da imagem original”. Os proprietários de imagens notarão mudanças mais visíveis ao usar Nightshade em “arte com cores planas e fundos suaves”.

A equipe de cientistas da Universidade de Chicago alerta: “É improvável que o Nightshade permaneça à prova de futuro por longos períodos de tempo. No entanto, como uma forma de ataque, o Nightshade pode evoluir para continuar acompanhando quaisquer contramedidas/defesas em potencial.”

Imagem relacionada com IA

Nightshade: o conselho dos desenvolvedores

O Nightshade v1.0 é uma ferramenta de IA ofensiva e não oferece proteção contra imitação de estilo, ao contrário do Glaze, focado na defesa. Os desenvolvedores aconselham os proprietários de conteúdo que desejam proteger seus trabalhos da Geração AI a não postar imagens sombreadas de sua arte.

Além disso, os desenvolvedores do Nightshade estão trabalhando para integrar a ferramenta com o Glaze, visando uma defesa mais abrangente no futuro.

Roberto Magalhães

O cérebro editor por trás do Tecnologico.online, é um entusiasta apaixonado por tecnologia. Canaliza sua fascinação para criar conteúdo envolvente e informativo. Sua dedicação à inovação reflete-se nos artigos que produz, abrangendo uma ampla gama de tópicos tecnológicos. Com um olhar atento para as últimas tendências e desenvolvimentos, busca tornar...

Voltar para o blog

Deixe um comentário

Os comentários precisam ser aprovados antes da publicação.