Nightshade: Yapay zeka ‘hırsızlığına’ karşı yeni silah

Yapay zeka modellerini eğitirken kullanılan veri setlerinin nasıl elde edildiği, önceki yıllarda başlayan ve hâlâ devam eden en büyük tartışma konularından biri.

İnternetteki blog, forum ve tartışma platformlarında yorum ve görüş bildiren sanatçıların neredeyse tamamının ortak bir şikayeti olduğunu görmek mümkün: Yapay zeka modellerini eğitirken eserlerinin izinsiz kullanılması. Sesi daha gür çıkan bazı yazar ve sanatçılar ise telif haklarının ihlal edilmesine daha etkili biçimde itiraz edebilmek için konuyu yargıya taşıyor.

Aralarında Pulitzer Ödüllü Michael Chabon ile Buz ve Ateşin Şarkısı (Game of Thrones) serisinin yazarı George R.R. Martin'in de bulunduğu bir grup yazar, ayrı ayrı davalarda OpenAI ve Stability AI gibi yapay zeka modeli geliştiren şirketleri dava etmişti. 

İnternetin en büyük lisanslanabilir görsel havuzlarından Getty Images da metinden görsel üreten yapay zeka aracı Stable Diffusion’ın yaratıcısı Stability AI’ı telif haklarına konu olan görsellerin izinsiz kullanımını gerekçe göstererek dava etmiş, Britanya'daki mahkeme davayı kabul etmişti. ABD'de ise bir adım ileri giderek geliştiricisi Stability AI haricinde Stable Diffusion’ı kullanan Midjourney ve DeviantArt'ı da dava eden 3 sanatçının şikayetini ise mahkeme kısmen ele alacağını açıklamıştı.

AI girişimlerine milyarlarca dolar yatıran ve kendi yapay zeka araçlarını geliştiren teknoloji devleri de bu girişimlere karşı kayıtsız kalmadı. Microsoft, Adobe ve Google, araçlarını kullanarak görsel üreten ticari müşterilerini davalık olmaları hâlinde hukuki olarak koruyacaklarını açıkladı. 

Sanatçılardan misilleme

Diyelim ki öğle yemekleri için getirdiğiniz sefer tasınızı ofisin buzdolabında saklıyorsunuz. Bir mesai arkadaşınız yemeğinizi aşırma alışkanlığı edinmiş. Bu durumda içine müshil koyduğunuzda kendisine ait olmayan bu yemeği yiyen kişinin başına geleceklerden siz sorumlu olabilir misiniz?

Aslına bakarsanız evet. Bir başkasına zarar vermek maksadıyla gıdanın içeriğiyle oynadığınız için sizin de mesuliyetiniz mevcut. Bu nedenle başınız yasal olarak derde girebilecek olsa da, buna karşılık olarak başına gelenlerden dolayı hırsızın da bir ders çıkaracağı düşünülebilir.

Peki “zehirlenen” gerçek bir insan değil de bir yapay zeka modeliyse?

İşte eserleri yapay zeka modellerini geliştirmek için izinsiz olarak kullanılan sanatçıların başvurduğu yol da buna benzer.

Hem de yasal herhangi bir sorumluluk yaratmadan.

Karşınızda: Nightshade

Chicago Üniversitesi'nin bir projesi olan Nightshade, görsel verileri “zehirleyerek” yapay zeka modeli eğitimi için işe yaramaz veya yıkıcı hâle getiriyor ve sanatçılara bir mücadele yolu sunuyor. Projeyi yöneten bilgisayar bilimleri profesörü Ben Zhao, Nightshade'i "işyerindeki buzdolabından çalınmaması için öğle yemeğinize acı sos koymaya" benzetiyor: 

“Nightshade, bu şirketlerin sonunu kendi başına getirecek derecede güçlü bir silah değil, ancak sosyal medyada şikayet etmek ya da Kongre'ye e-posta göndermekten daha etkili bir geribildirim metodu.”

Zhao, Nightshade ile bu modellerin savunmasız olduğunu göstermek ve karşı taarruza geçmenin mümkün olduğunu ispatlamak istiyor. Zhao ve ekibi, yapay zekayı ortadan kaldırmaya çalışmıyor; onlar yalnızca AI modellerini internetten “kazınmış” telif hakkına tabi görüntülerle eğiten teknoloji devlerini, eser sahiplerine lisans ödemesi yapmaları gerektiğini konusunda eğitmeye uğraşıyor. 

Nasıl çalışıyor?

Nightshade, görsellerin insan gözünün fark edemeyeceği kadar ufak detaylarını manipüle ederek AI modellerinin pikselleri farklı biçimlerde yorumlayacağı bir hâle getiriyor. Böylece modeli eğiten kişilerin görsele ilişkin girdiği metin bazlı tanımlar yapay zeka tarafından tamamen farklı öğeler olarak işleniyor. 

Bu şekilde yeterli sayıda zehirli görsel ile eğitilen bir model, ilgili istemlerle tamamen ilgisiz görüntüler üretmeye başlıyor. Araştırmacılar, (şu anda hakemli bir dergide inceleme aşamasındaki bir makalede) Stable Diffusion’daki bir istemi bozmak için 100'ün altında zehirli örnek beslemenin yeterli olacağını belirtiyor.

Örneğin insan gözünün Mona Lisa tablosu olarak gördüğü bir resim, Nightshade ile işlendikten sonra yapay zeka modeli tarafından bornozlu bir kedi olarak algılanıyor. Böylece yapay zekadan Mona Lisa benzeri bir görsel üretmesi istendiğinde bunun yerine ortaya tamamen alakasız bir ürün çıkıyor.

^{Nightshade'den önce / Nightshade'den sonra / AI modelinin gördüğü}

Zhao, yapay zeka modellerinin belli bir tarza sahip eserleri görme ve işleme kabiliyetini etkileyen bir araç olan Glaze'i yaratan ekibi de yönetmiş. Nightshade'de olduğu gibi, Glaze de bu sefer objeleri değil çizim tekniğini zehirleyerek, örneğin karakalem bir resmi soyut bir eser olarak tanıtabiliyor. Böylece kullanıcı karakalem bir çıktı almak istediğinde modelin bunun yerine dağınık soyut resimler üretmesine neden oluyor.

Zhao’nun ekibi, sanatçılara eserlerini çevrimiçi olarak paylaşmadan önce sırasıyla hem Nightshade hem de Glaze kullanarak korumaya almalarını tavsiye ediyor. Ekip her iki işlemi aynı anda uygulayacak entegre bir araç üzerinde çalıştıklarını da bildiriyor. Zhao, bu şekilde işlenmiş bir görselin ekran görüntüsünü göstererek dahi bir modeli zehirlemenin mümkün olduğunu belirtiyor. 

Elbette, Nightshade'i eleştirenler de yok değil. Bu kişiler programın bir "virüs" olduğunu iddia ediyor ve onu kullanmanın "açık kaynak topluluğuna zarar vereceğinden" yakınıyor. Ancak Zhao, model eğitmenlerinin hem zehirlenmiş hem de zehirlenmemiş görüntüleri gönüllü olarak “kazıdığını” ve AI şirketlerinin bundan maddi çıkar elde ettiğini vurguluyor.

Daha adil bir AI mümkün

Zhao, Glaze ve Nightshade ile yapay zekayı ortadan kaldırmayı değil, lisanslanmamış görselleri kazımanın şirketlere telif ödemekten daha pahalıya mal olmasını amaçlıyor.

Bu şekilde sanatçıların hakkını teslim eden etik modeller de mevcut. Örneğin Nvidia, bir süre önce Getty Images ile işbirliğine giderek Getty'nin geniş stok fotoğraf kütüphanesinden faydalanarak eğitilmiş bir üretken AI aracı geliştirdi. Bu hizmete abone olanlar ne kadar görsel üretmek istediklerine bağlı olarak bir ücret ödüyor ve eserleri bu modeli eğitmek için kullanılmış olan sanatçılar da bu gelirden paylarını alıyor.

Neticede Nightshade, AI şirketlerinin etki dışı uygulamalarına karşı kendilerini savunmasız hisseden sanatçılara Big Tech’e karşı mücadele etmek için bir şans tanıyor.