Dijital kâbus: Çocuk istismarında yapay zekanın rolü

Yapay zeka, yaşamın birçok alanında büyük kolaylık sağlasa da, mevcut durumda dikkate alınması gereken bazı tehlikeleri de beraberinde getiriyor. Yeni bir rapor ise yapay zekanın en tehlikeli kullanımlarından birine dikkat çekiyor: Çocuk istismarı.

Birleşik Krallık merkezli Internet Watch Foundation (IWF) tarafından hazırlanan söz konusu rapor, yapay zeka araçları ile üretilen çocuk istismarı ile ilgili "en kötü kabusların" gerçekleşmekte olduğunu gösteriyor. Buna göre, internetin bu tarz görüntülerle dolma tehlikesi altında olduğu ve yapay zeka araçlarını kontrol etmek için acilen bir şeyler yapılmadığı takdirde durumun çok daha kötü bir hâle gelebileceği ifade ediliyor.

Tek bir dosyada 501 görsel

Araştırmaya göre, internet hâlihazırda yapay zeka ile üretilmiş sahte çocuk istismarı görüntüleri ile dolup taşıyor. Dahası bu görüntüler yalnızca çocukları değil; ünlü oyuncuların "çocuklaştırılmış" görsellerini de içeriyor.

Dark web'deki bir çocuk istismarı forumunda yürütülen 1 aylık bir araştırma sonucunda hazırlanan rapora göre, incelenen 11.108 görüntüden 2 bin 978'inin çocuk cinsel istismarını tasvir ederek Birleşik Krallık'ın Çocukların Korunması Yasasını ihlal ettiği belirtiliyor. Ayrıca, suç kapsamına giren görsellerden 564'ünün de "A Kategori", yani tecavüz ve cinsel işkenceyi tasvir eden en ağır suç kapsamında olduğu aktarılıyor.

• Öte yandan, raporda belirtildiği üzere, suç kapsamına giren görsellerin yarısından fazlasının 7 ila 10 yaş grubundaki çocuklara ve 143'ünün 3 ila 6 yaş grubundaki çocukları tasvir eden sahte görüntüler olduğu; iki görselde ise iki yaş altı çocukların betimlendiği aktarılıyor.

Forumda, yapay zeka yardımı ile "çocuklaştırılmış" oyuncular ile şu an çocuk olan oyunculara ek olarak kamuoyunca bilinene gerçek cinsel istismar kurbanlarının görüntüleri kullanılarak oluşturulan görsellerin de yer aldığı belirtiliyor. Buna göre, yalnızca bir dosyada gerçek bir istismar kurbanının görüntüleri ile oluşturulmuş 501 görsel bulunuyor. Ayrıca, incelenen örnekler arasında internette bulunan giyinik çocuk resimlerini yapay zeka ile "çıplaklaştırılmış" versiyonları da yer alıyor.

• Bununla birlikte, IWF, yapay zeka tarafından üretilen görüntülerin çevrimiçi olarak satışa çıkarıldığına dair kanıtlar olduğunu da sözlerine ekliyor. 

Son iki yılın en öne çıkan teknolojileri arasında yapay zeka destekli görsel üreticiler bulunuyor. Bu araçlar, birkaç cümle ile istediğiniz hemen hemen herhangi bir şeyin görselini oluşturmanızı ve görseller üzerinde oynamanızı mümkün kılıyor. 

Raporda tek bir yapay zeka aracının ismi öne çıkıyor

ChatGPT'nin yaratıcısı OpenAI tarafından geliştirilen DALL-E ve Midjourney başta olmak üzere pek çok yapay zeka destekli görsel üretici araç bulunuyor; ancak IWF, raporunda özellikle de Londra merkezli yapay zeka şirketi Stability AI tarafından geliştirilen açık kaynaklı yapay zeka aracı Stable Diffusion'a dikkat çekiyor. Buna göre, incelenen forumda bahsi geçen tek yapay zeka aracının Stable Diffusion olduğu aktarılıyor.

Stable Diffusion'ın 2022 yazında kullanıma sunulmasının ardından kullanıcıların çıplaklık ve pornografik görüntüler içeren görseller oluşturmak için aracı nasıl kullanmaları gerektiğini hızlı bir şekilde çözmüş; şirket, çoğu yetişkinleri tasvir eden bu içerikleri engellemek için yeni filtreler uygulamaya koymuştu. 

• Stable Diffusion her ne kadar raporun ardından konuya ilişkin olarak bir açıklama yayımlayarak platformlarında "yasadışı veya ahlak dışı amaçlarla herhangi bir kötüye kullanımı kesinlikle yasakladığını" söylemiş olsa da; soruna ilişkin inceleme yürüten bir diğer gözlemci grup olan Stanford Internet Observatory'nin baş teknoloji uzmanı David Thiel, kullanıcıların Stable Diffusion'ın filtrelenmemiş eski sürümlerine hâlâ erişebildiğini belirtiyor.
• Thiel, bu eski sürümleri kullananların çoğunlukla çocukları içeren müstehcen içerikler oluşturan kişiler olduğunun da altını çiziyor.

Geleceğin değil, şu anın sorunu

Yapay zeka ile üretilen çocuk istismarı görüntülerindeki artışın gerçek istismarı tespit etmeyi zorlaştıracağına dikkat çeken IWF, derhal önlem alınması için çağrıda bulunuyor. Grubun baş teknoloji sorumlusu Dan Sexton, burada söz konusu şeyin yapay zeka ile oluşturulmuş çocuk istismarı görüntülerinin verebileceği "potansiyel" zarar olmadığını belirterek "Bu şu anda yaşanıyor ve hemen şimdi ele alınması gerekiyor." diyor.

• Bununla birlikte, görüntülerin şantaj yaparak yeni kurbanlar bulmak için de kullanılabileceği ifade ediliyor.

İlk olarak bu yılın başlarında yapay zeka ile üretilen çocuk tacizi görüntülerine yönelik raporlar almaya başladıklarını belirten Sexton, bilgisayarları her yaştan çocuğun cinsel içerikli görüntülerini üretmek için fabrikalara dönüştürmenin ne kadar kolay olduğu gerçeği karşısında şok olduğunu ve görüntülerin giderek daha gerçekçi bir hâl aldığını belirtiyor. Buna göre, görüntülerin bazılarının sahte olduğunu anlamanın neredeyse imkansız olduğu ifade ediliyor.

Kâr amacı gütmeyen çocuk güvenliği grubu Thorn'un veri bilimi direktörü Rebecca Portnoff ise geçen sonbahardan bu yana yapay zeka ile oluşturulan çocuk istismarı görüntülerinin her ay arttığına vurgu yapıyor. Mağdur tespitinin hâlihazırda samanlıkta iğne aramak gibi bir sorun olduğunu belirten Portnoff, "Bu araçları kullanmanın kolaylığı, gerçekçiliğin yanı sıra önemli bir değişim. Her şeyi daha zorlu bir hale getiriyor." ifadelerini kullanıyor.

Kötü niyetli içerikleri yakalamak için sosyal medya ve yayın siteleriyle birlikte çalışan ActiveFence'in çocuk güvenliği ve insan istismarı bölüm başkanı Avi Jager ise 3 bin üyesi olan bir forumda, yakın zamanda yapılan bir iç ankete katılanların yaklaşık %80'inin çocuk cinsel istismarı görüntüleri oluşturmak için yapay zeka araçlarını kullandıklarını veya kullanmayı düşündüklerini söylediğini bildiriyor.

• Jager, forum üyelerinin, çocukların güvenini kazanma umuduyla yapay zeka tarafından üretilen "okul çağı" selfie'leri oluşturmanın yollarını tartıştıklarını belirtiyor. 

Öte yandan, bu tarz görüntülerin oluşturulmasını engellemek için çeşitli önlemler de alınıyor. Yapay zeka şirketlerinin aldığı önlemlere ek olarak düzenleyici kurumlar da yapay zekanın oluşturduğu tehlikeleri ortadan kaldırmaya çalışıyor.

• Birleşik Krallık'ın yakında uygulamaya konacak yeni güvenlik yasası Online Safety Bill'in, yapay zeka ile üretilen çocuk istismarı materyallerini de kapsayacağı belirtiliyor.
• Yapay zeka ile yaklaşık 360 adet çocuk istismarı görüntüsü oluşturan Güney Koreli bir adam, geçtiğimiz ay iki buçuk yıl hapis cezasına çarptırılmış; bu olay türünün ilk örneği olarak tarihe geçmişti.

Bütün bunlarla birlikte, daha önce Google'ın Etik Yapay Zeka ekibinin yöneticiliğini yapmış olan Margaret Mitchell, bu sorunu ele almanın teknik yollarını bulmaya çalışan grupların olduğunu ifade ediyor. Bu yapmanın etkili bir yolu olduğunu belirten Mitchell, hükümet onayı gerektiren bu çözümün bazı zararlı taraflarını olduğuna da değiniyor.

Söz konusu çözüm, sahte çocuk istismarı görüntüleri örnekleri oluşturmak için bir yapay zeka modelini eğitmeyi içeriyor. Mitchell, böylece çevrimiçi algılama sistemlerinin hangi içeriklerin kaldırılması gerektiğini bileceğini; ancak bu tür materyallerin "büyük bir psikolojik maliyeti olabileceğini" aktarıyor.

Buna ek olarak, kimi araştırmacılar da yaratıcılarına geri bağlanan görüntülere kod yerleştirebilecek tanımlama sistemleri üzerinde çalışıyor. Kısa bir süre önce Maryland Üniversitesi'ndeki araştırmacılar, bir görüntünün yaratıcısını tanımlamaya yardımcı olabilecek "görünmez" filigranlar için yeni bir teknik yayınlamıştı; ancak Mitchell, bu tür fikirlerin işe yaraması için endüstri çapında katılım gerektiğine ve o zaman dahi her ihlali tespit etmenin imkansız olacağına dikkat çekiyor.