Nightshade: Yapay zeka sanat üreticilerine karşı sanatçılar için saldırgan bir araç

Nightshade nedir?

• Üretken yapay zeka modelleri ve eğiticileri, çevrimiçi içerikleri model eğitimi için kullanabildiklerini gösterdi.
• İçerik sahipleri ve üreticilerinin, kendi iradeleri dışında içeriklerinin üretken yapay zeka modelleri için eğitim verisi olarak kullanılmasını engelleyebilecekleri araçlar neredeyse yok.
• Nightshade, görüntüleri model eğitimi için uygunsuz veri örneklerine dönüştüren bir araçtır ve telif hakkını yok sayarak verileri izinsiz scrape eden model eğiticilerini caydırmaya yardımcı olur.

Nightshade nasıl çalışır ve sınırları nelerdir?

• Nightshade, görüntüleri 'zehirli' örneklere dönüştürerek, rıza olmadan eğitilen modellerin beklenmedik davranışlar öğrenmesine neden olur.
• Bu araç modeli yok etmeyi değil, lisanssız verilerle eğitimin maliyetini artırarak üreticilerden görüntü lisanslamayı uygulanabilir bir alternatif haline getirmeyi amaçlar.
• Nightshade, stil taklidine karşı savunma için Glaze'e benzer şekilde çalışır; ancak Glaze savunmacı bir araçken Nightshade, yapay zeka görüntü modelleri içindeki özellik temsillerini bozmak üzere saldırgan bir araç olarak tasarlanmıştır.

Nightshade ve Glaze karşılaştırması

• Glaze, bireysel sanatçıların stil taklidi saldırılarına karşı kendilerini korumak için kullandıkları savunmacı bir araçtır.
• Nightshade ise sanatçıların grup halinde kullanarak, rıza olmadan görüntü scrape eden modelleri aksatmalarını sağlayan saldırgan bir araçtır.
• Sanatçıların eserlerini çevrimiçi paylaşırken hem Glaze hem de Nightshade uygulamaları idealdir.

Riskler ve sınırlamalar

• Nightshade'in yaptığı değişiklikler, düz renkler ve yumuşak arka planlar içeren sanat eserlerinde daha belirgin görünür.
• Güvenlik saldırıları ya da savunmalarında olduğu gibi, Nightshade'in de uzun vadeli gelecekte etkisini kanıtlaması pek olası değildir.
• Nightshade ağ bağlantısı olmadan çalışacak şekilde tasarlanmıştır; bu nedenle veriler veya sanat eserleri bize ya da başkalarına gönderilmez.

Nightshade ve WebGlaze

• Nightshade v1.0 bağımsız bir araç olarak tasarlanmıştır ve Glaze'deki gibi taklit savunması özellikleri sunmaz.
• Nightshade ile Glaze'in birlikte nasıl çalıştığını test ediyoruz; hazır olduğunda Nightshade'i WebGlaze'e ek bir özellik olarak sunmayı planlıyoruz.

GN⁺ Görüşü

• Nightshade, üreticilerin telif haklarını korumalarına ve görüntülerini izinsiz kullanan yapay zeka model eğiticilerine uyarı göndermelerine yardımcı olabilecek yenilikçi bir araçtır.
• Bu araç, yaratıcı işlerin izinsiz kullanımını caydırıp hak sahipleriyle lisans anlaşmalarını teşvik ederek dijital sanat ekosistemi üzerinde olumlu bir etki yaratabilir.
• Nightshade ve Glaze'in birleşimi, sanatçılara eserlerini çevrimiçi ortamda daha güvenli paylaşmaları için yeni bir yol sunar.

[GN⁺]

Hacker News görüşü

• Makale bağlantısı: arXiv:2310.13828
  • Bu makale, birçok sanatçının kabul etmekte zorlanacağı düzeyde artefaktlar ekliyor gibi görünüyor.
• Bu teknik
  • a) yalnızca önceki nesil eğitim sürecinde zar zor çalışıyor,
  • b) en güncel eğitim süreçlerinde (GPT-4V, LLaVA, BLIP2 etiketleme vb.) ise hiç çalışmıyor.
  • c) etkili olup popülerlik kazansa bile kolayca önlem alınabileceği düşünülüyor.
  • Yazarların önceki çalışması Glaze de etkili görünmüyor ve sonuçlar gerçekte olduğundan fazla abartılmış olabilir.
• Bu tür araçların piyasada başarılı olma ihtimali yok ve insan algısını etkilemeden hemen aşılabilecek yöntemler var.
  • Sanatçıların ya da başkalarının insan üretimi çıktıları eğitim için kullanmasını engellemek isteniyorsa bunun yolu hukuki adımlardan geçiyor.
  • Bu da kusursuz bir çözüm değil; hatta dağıtık eğitim ağlarının gelişimini teşvik edebilir.
• Bu, anlamsız bir "silahlanma yarışı" ya da "kedi-fare oyunu" gibi görünüyor.
  • Sanatçıların görüşlerini umursamayanlar, görüntü son işleme ile Nightshade algoritmasının hassas değişikliklerini yok edebilir.
  • Gelecekte mahkemeler, toplumsal baskı nedeniyle sanatçıların tarafını tutabilir ve sanatçılar kendi tarzlarına "fazla benzer" üretilmiş görsellere itiraz edebilir.
  • Ya da sanatçılar, görsellerin kendisinden gelir elde etmeyi bırakıp yalnızca fiziksel eser üretimine odaklanabilir.
• Kötü/tutarsız görsellerle Stable Diffusion XL üzerinde yapılan ince ayar deneyleri, bu tür görsellerin negatif prompt olarak kullanıldığında modelin daha iyi görseller üretebildiğini gösteriyor.
  • Bu tür veri kümeleri oluşturmak, paradoksal biçimde üretken yapay zeka sanat modellerinin gelişmesine yardımcı olabilir.
• Telif hakkı/fikri mülkiyet/patent kullanımına kademeli ücret uygulanmasını istiyor.
  • Örneğin gelire bağlı bir oran üzerinden lisans ücreti uygulanmasını istiyor.
  • Bireysel sahiplikte ölümden sonra 0 yıl, kurumsal sahiplikte ise en fazla 20-30 yıl telif süresi istiyor.
  • Kullanımı bildirmeme / ücret ödememe durumunda şirketlere çok yüksek cezalar verilmesini, böylece hırsızlığın önlenmesini istiyor.
• Sanatçıların başka sanatçıların eserlerine bakarak çeşitli tarzlar öğrenmesi ile, AI'nin onların eserlerinden tarz öğrenmesine karşı çıkılması arasındaki çelişkiye dikkat çekiyor.
• Bunun 'bilginin doğruluğu' kavramını zayıflattığını ve bitmeyen bir saldırı-savunma oyununu kabul ettiğini söylüyor.
• Yakında birçok insanın yüksek kaliteli sanat eserlerini kolayca üretebilecek olması çok heyecan verici bir ihtimal.