AI ile oluşturulmuş her üç görselden biri çocuk istismarı içeriyor

İnternet İzleme Vakfı (IWF), yapay zeka (AI) teknolojisinin çocuk cinsel istismarı nitelikli materyal (CSAM) üretiminde kullanımı üzerine yeni bir rapor yayımladı.

“Yapay Zeka Çocuk Cinsel İstismarı Raporu” isimli rapor, AI teknolojisinin çocuk istismarı için kullanımı ile bu alandaki tehditlerin her geçen gün arttığını gözler önüne serdi.

AI teknolojisinin suçlular tarafından giderek daha fazla kullanıldığına dikkat çeken rapor, AI’ın özellikle görsel içeriklerde çocuk istismarı amacıyla manipüle edildiğini belirtti.

İlk kez tamamen yapay zekayla üretilmiş istismar videosu üretildi

Rapora göre suçlular, AI araçlarını kullanarak yasa dışı çocuk istismarı içeriklerini üretmek konusunda çok daha başarılı hale geldi. Raporda, hızla gelişen AI teknolojisi sayesinde oluşturulan görüntülerin %90’ının gerçek görüntüler kadar gerçekçi olduğu ve yasa dışı olarak değerlendirilebileceği vurgulandı.

Raporda, 2023’te özellikle “dark web”de yaklaşık 20 bin AI destekli CSAM görüntüsünün paylaşıldığı, 2024'te ise bu sayının azalmasına rağmen paylaşılan içeriklerin daha ciddi suç kategorilerine girdiği belirtildi. 

Bununla birlikte raporda, 2024’te ilk kez AI ile üretilmiş cinsel istismar videolarına rastlandığı kaydedildi. Bu videoların çoğunun "deepfake" olarak bilinen, gerçek görüntülerin AI ile manipüle edilmesiyle oluşturulan içerikler olduğu ancak tam sentetik videoların da üretilmeye başlandığı ifade edildi.

AI araçları ile çocuk istismarı mağdurları bir kez daha istismara uğruyor

Raporda, AI tabanlı video üretiminde kaydedilen ilerlemelere de dikkat çekildi ve Google Veo ile OpenAI Sora gibi gelişmiş AI video üretim araçlarına değinildi. Bu gibi araçların metinden görüntüye ya da metinden videoya içerik üretebilme kapasitesiyle suçluların elinde tehlikeli birer araç haline geldiği vurgulandı. Raporda, “Bu modeller, AI destekli çocuk cinsel istismarı materyallerinin yayılmasını hızlandırabilecek potansiyele sahip” dendi.

Ayrıca suçluların, bilinen çocuk istismarı mağdurlarını ya da ünlü çocukları içeren görselleri AI teknolojisi ile yeniden canlandırdıkları tespit edildi. Raporda bunun için “Bu, mağdurların bir kez daha istismar edilmesine yol açarken özellikle AI'ın sağladığı olanaklar sayesinde bu görüntülerin sürekli olarak yeniden üretilebilmesi, mağdurların travmalarının sürekliliğini artırıyor” ifadeleri kullanıldı.

AI ile oluşturulan her beş içerikten biri suç teşkil ediyor

Rapor kapsamında bir IWF analisti, yapay zeka kullanılarak oluşturulmuş görseller için yapılan şikayet bildirimlerini de izledi.

Buna göre Nisan 2023 ile Mart 2024 arasında, kamuya açık internet sitelerinde yer alan ve AI ile oluşturulmuş 375 içerik için bildirim yapıldığı tespit edildi. Analiz sonucunda, bu 375 bildirimin 70’inde yer alan içeriklerin CSAM olduğu ve Birleşik Krallık yasaları uyarınca “çocuk istismarı” suçunu meydana getirdiği belirlendi. Bu, AI ile oluşturulmuş her beş içerikten birinin CSAM olduğu anlamına gelirken bu içeriklerin kaldırılmaları için işlem yapıldı.

Aylara göre AI ile oluşturulmuş içerik ve bunlardan kaçının CSAM olduğunu gösteren grafik şöyle:

Buna göre CSAM, şubat ayında zirve yaparken IWF, bunun için şu yorumu yaptı:

“Özellikle, ‘gerçek’ çocuk görüntüleri yerine, herkese açık internet sitelerinde AI CSAM görüntülerinin paylaşıldığını gördük. Bunlar arasında ticari siteler ve bağlantılı dosya barındırma sitelerine [WeTransfer, Google Drive vb.] sahip forum sayfaları yer aldı. Bu durum, AI ile üretilmiş içeriğin ve AI CSAM’in halka açık internette yayıldığına dair kanıtlar sunuyor.”

AI ile oluşturulmuş her üç görselden biri çocuk istismarı içeriyor

Rapor kapsamında, adını vermediği popüler bir yeraltı forumunu da izleyen IWF, AI ile oluşturulan ve Mart-Nisan 2024’te forumda paylaşılan 12 bin 148 görseli analiz etti.

12 IWF analisti, 130 saat süren incelemenin sonunda bu görsellerin toplam 3 bin 512’sinin (%29) CSAM olduğunu tespit etti.

Bunların 2 bin 985’inin (%25) Birleşik Krallık yasalarınca “müstehcen”, 527’sinin (%4) ise “yasaklanmış” olduğu belirlendi. “Yasaklanmış” ifadesiyle çizgi film, çizim, animasyon vb. görseller ifade edildi.

AI ile üretilen CSAM görseli sayısı arttı

IWF, bu sonucu, aynı çalışmayı yaptığı Eylül 2023’te elde ettiği verilerle kıyasladı. 

Buna göre söz konusu forumda paylaşılan AI ile oluşturulmuş görsel sayısının bu dönemde azaldığını belirten IWF, buna karşın AI ile oluşturulmuş CSAM görseli sayısının ise arttığını ifade etti.

İstismara konu olan görsellerde 11 ila 13 yaşındaki çocuklar kullanıldı

IWF analistleri, AI ile oluşturulmuş CSAM görsellerindeki çocukların tahmini yaşlarını da analiz etti.

Buna göre, 11 ila 13 yaş aralığındaki çocuklar ile 14-15 yaşlarındaki çocukların kullanıldığı görsel sayısı, Eylül 2023 dönemine kıyasla ortalama %10 artış gösterdi.

Hükümetlere ve şirketlere çağrı: AI ile mücadele için acil eylem gerekli

İnternet İzleme Vakfı (IWF) CEO’su Susie Hargreaves, hükümetleri ve teknoloji şirketlerini yapay zekanın kötüye kullanımına karşı acilen harekete geçmeye çağırdı.

AI'ın kontrolsüz gelişimiyle birlikte çocuk cinsel istismarının yeni ve korkunç boyutlara ulaştığını belirten Hargreaves, "Gelecekte yapay zekanın kontrolsüz gelişiminin önüne geçilmezse AI ile üretilen çocuk istismarı içeriklerinin kontrolü neredeyse imkansız hale gelebilir” dedi.

Hargreaves, hükümetlerin ve uluslararası kuruluşların yapay zekanın kötüye kullanımını önlemek amacıyla daha güçlü işbirliği yapmaları gerektiğini belirtti.

_{* Bu içerik Avrupa Birliği'nin maddi desteği ile hazırlanmıştır. İçerik tamamıyla Aposto’nun sorumluluğu altındadır ve Avrupa Birliği'nin görüşlerini yansıtmak zorunda değildir.}