Yapay zekanın karanlık yüzü: Çocuk fotoğrafları nasıl kullanılıyor?

İnsan Hakları İzleme Örgütü (HRW), Brezilya’daki çocuklara ait 170’ten fazla fotoğraf ve kişisel verinin açık kaynaklı bir veri kümesinde yapay zekayı eğitmek için kullanıldığını tespit etti. Kurum tarafından hazırlanan rapor, fotoğraf ve verilerin çocukların bilgisi veya rızası olmadan kullanıldığını gösterdi.

Ayrıntılar: Söz konusu fotoğraflar, 1990’ların ortasından 2023'e kadar paylaşılmış içeriklerden oluşuyor. Fotoğrafların kullanılmasından sorumlu kuruluş ise interneti düzenli aralıklarla tarayan ve internetten topladığı içeriklerle oluşturduğu arşivini ve veri kümelerini ücretsiz olarak araştırmacıların kullanımına sunan Common Crawl.

• Common Crawl, çocukların fotoğraflarına URL’ler bağlayarak bu içerikleri “LAION-5B” veri kümesi içine dahil etti. Söz konusu veri kümesi, sıklıkla yapay zeka girişimleri tarafından yapay zekayı eğitmek için kullanılıyor.

Açıklamalar: HRW’dan Hye Jung Han, gerçek çocuk fotoğraflarıyla eğitilen yapay zekaların çok daha gerçekçi çocuk görselleri ve videoları üretebildiğine dikkat çekti. Hye ayrıca, çevrimiçi platformlarda fotoğraf veya videosu bulunan tüm çocukların artık risk altında olduğuna işaret etti. 

• Hye, bu fotoğrafların kötü niyetli kişiler tarafından gerçeği çarpıtmak için kullanılabileceğinin de altını çizdi.

Öte yandan: Common Crawl’un LAION-5B veri kümesi, daha önce Stability AI’ın metin girdilerinden görsel oluşturan yapay zeka aracı Stable Diffusion gibi birçok yapay zeka modelini eğitmek için kullanıldı. Almanya merkezli kâr amacı gütmeyen LAION tarafından oluşturulan veri kümesi, şu anda 5,85 milyarın üzerinde fotoğraf bağlantısı içeriyor. 

• LAION, HRW tarafından işaretlenen fotoğrafların bağlantılarının veri kümesinden kaldırıldığını söylüyor. 

• Kurum ayrıca, veri kümesine yasa dışı biçimde dahil edilen tüm verileri kaldırmak için güncel olarak Internet Watch Foundation, Kanada Çocuk Koruma Merkezi, Stanford ve HRW ile işbirliği içinde çalıştıklarını ifade ediyor.

Fotoğrafların çoğu, blog sayfaları ve YouTube videolarından alındı

Veri kümesinde bulunduğu tespit edilen çocuk fotoğraflarının çoğunun, annelik ve ebeveynlik temalı içerik üreten blog sayfalarından alındığı tespit edildi. HRW, bazı fotoğrafların ise ebeveynlerin, yakınlarına göndermek için YouTube’da paylaştığı tahmin edilen, izlenme sayısı düşük videolardan alınan sabit görüntülerden oluştuğunu belirtti.

• Hye, normal şartlarda veri kümesindeki görsellerin çoğunun internette arama yaparak bulunamayacağının da altını çizdi.

Dahası: Aralık ayında Stanford Üniversitesi araştırmacıları tarafından hazırlanan bir rapor ise LAION-5B’de toplanan ve yapay zekayı eğitmek için kullanılan verilerde, çocuklara yönelik cinsel istismar referansları içeren materyaller bulunduğunu gösteriyor. Uzmanlar, özellikle “deepfake” gibi teknolojilerle yapılan akran zorbalığının artış gösterdiği bu dönemde yapay zekayı eğitmek için kullanılacak verilerin seçiminin kritik önem taşıdığına işaret ediyor.

• ABD’de iki okul, yakın zamanda “deepfake” skandallarıyla gündeme geldi. Her iki olayda da lise eğitimi gören erkek çocuklar, “deepfake” teknolojisiyle sınıflarındaki kız arkadaşlarının gerçeği yansıtmayan çıplak görüntülerini oluşturdu.

• Hye, veri kümesi aracılığıyla konum veya sağlık verisi gibi hassas bilgilerin de açığa çıkarılabileceğinden endişe ettiklerini dile getirdi.

• Çocukların fotoğraflarının çalınabileceği ve kendilerine karşı silah olarak kullanılabileceği korkusuyla yaşamaması gerektiğini belirten Hye, ekibinin LAION-5B’deki verilerin %0,0001’inden azını incelediğinin ve benzer fotoğrafların dünyanın farklı yerlerinde oluşturulmuş birçok veri setine halihazırda girmiş olabileceğinin altını çizdi.

Ebeveynler ne yapabilir?

Uzmanlar, ebeveynleri çocuklarının fotoğrafını sosyal medyada ve internette paylaşmamaları gerektiği konusunda uyarıyor ve kötü amaçlı kullanıma ilişkin farkındalık oluşturmaya çalışıyor. Fakat bu uyarılar, halihazırda yayınlanmış ve yıllardır internet veri tabanlarında dolaşan görsellere ilişkin soruna tam olarak çözüm olmuyor.

• Gerçek çocuk fotoğraflarının LAION’ın veri kümelerinden kaldırılmasının problemi çözmek için tek başına yeterli olmayacağına dikkat çeken LAION sözcüsü Nathan Tyler, bu fotoğraflara başka kanallardan da erişilerek görüntülerin kullanılabileceğini dile getiriyor.

• Hye ise çocukları ve ebeveynleri bu tür istismarlara karşı koruma sorumluluğunun hükümetlere ve düzenleyici kurumlara düştüğünü söylüyor.

Hye, konuya ilişkin açıklamasında şu ifadeleri kullanıyor:

"Çocukların ve ebeveynlerin, önlem alınması kesinlikle imkansız bir teknolojiye karşı çocukları koruma sorumluluğunu üstlenmemeleri gerekiyor. Bu onların suçu değil."