Apple, çocuk istismarı verilerini raporlamamakla suçlanıyor

Birleşik Krallık’taki çocuk güvenliği uzmanları, Apple’ın kendi platformlarında çocuk istismarına yönelik öğeler içeren içerikleri etkin bir biçimde takip edip raporlamadığına dikkat çekti. Ülkenin çocuk güvenliği konusunda önde gelen yardım kuruluşlarından Çocuklara Kötü Muameleyi Önleme Derneği (NSPCC / The National Society for the Prevention of Cruelty to Children), yalnızca İngiltere ve Galler’de bile Apple platformları üzerinden bildirilen vaka sayısının Apple’ın global olarak raporladığı sayının çok üstünde olduğuna işaret etti. 

Ayrıntılar: ABD’de hizmet veren tüm teknoloji şirketleri, her yıl platformlarında tespit ettikleri çocuk istismarıyla ilgili vakaları Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne (NCMEC / The National Center for Missing & Exploited Children) bildiriyor. ABD Kongresi tarafından 1984 yılında kurulan NCMEC, dünyanın farklı bölgelerinden raporlanan bu vakaları derliyor, inceliyor ve kolluk kuvvetlerinin ilgili birimlerine gönderiyor. 

• 2023 yılında Apple, NCMEC’ye yalnızca 267 vaka bildirdi. 

• NSPCC’nin polis verilerinden derlediği ve The Guardian ile paylaştığı veriler ise yalnızca İngiltere ve Galler’de 2022’nin Nisan ayı ile 2023’ün Mart ayı arasında Apple platformlarıyla ilgili 337 vaka raporlandığını gösterdi.

^{Kaynak: 2023 CyberTipline Reports by Electronic Service Providers}

Öte yandan: Apple’ın 2023 yılı için NCMEC’ye bildirdiği küresel sayı, Google ve Meta gibi diğer teknoloji devlerinin raporladığı sayılarla ciddi bir tezat oluşturuyor. 

• NCMEC’nin yıllık raporuna göre Google, geçen yıl kuruma 1,47 milyondan fazla vaka bildirdi.

• WhatsApp, Instagram, Threads ve Facebook gibi en çok kullanılan sosyal ağların çatı şirketi Meta’da ise bu sayı, 30,6 milyonun üzerindeydi. 

• Bazı analistler, Apple'ın mesajları uçtan uca şifreleyen iMessage’daki mesaj içeriklerine erişemediği için görece az sayıda vaka bildirmiş olabileceğine işaret etti. 

• Fakat benzer şekilde mesajları uçtan uca şifreleyen WhatsApp, geçen yıl NCMEC’ye 1,4 milyona yakın vaka bildirdi.

Endişe verici bir tutarsızlık

NSPCC’nin çevrimiçi çocuk güvenliği politikalarından sorumlu Richard Collard, Birleşik Krallık’ta Apple platformlarında işlenen çocuk istismarı suçlarının sayısı ile Apple’ın yetkililere bildirdiği küresel sayılar arasında endişe verici bir tutarsızlık olduğuna işaret etti. Collard ayrıca, Apple’ın çocuk istismarıyla mücadele çalışmalarında rakiplerinin gerisinde kaldığına dikkat çekti. 

• Los Angeles merkezli kâr amacı gütmeyen kuruluş Heat Initiative’in CEO’su Sarah Gardner da Apple’ın, çocuk istismarına yönelik içerikleri etkin bir şekilde tespit edemediğini belirtti.

• Şirketin bu vakaları bariz bir biçimde eksik raporladığını dile getiren Gardner, Apple’ı çevrimiçi güvenlik ekiplerine yatırım yapmamış olması nedeniyle eleştirdi. 

Bir adım geriden: Apple, 2022 yılında çocuk istismarı gibi kritik suçlarla mücadele etmek için “neuralMatch” adlı bir araç kullanmayı planladığını açıklamıştı. Araç, iCloud’a yüklenen fotoğraf ve videoları bulut tabanlı platforma aktarılmadan önce tarayacak ve bu görüntüleri çocuk istismarına yönelik öğeler içeren bir veritabanıyla karşılaştıracaktı. 

• Fakat Apple, bu uygulamanın iCloud kullanıcılarının mahremiyetini ve veri güvenliğini ihlal etme ihtimali nedeniyle tepki topladı. 

• Bunun üzerine Apple, yazılımı kullanmaya devam etmeme kararı aldı. Şirket, açıklamasında kullanıcı gizliliği ve güvenliğini önceliklendirdiğini vurguladı. 

• Uzmanlar, bu kararın Apple’ın kendi platformları için bildirdiği çocuk istismarı vakalarının sayısındaki tutarsızlıkta etkili olabileceğini dile getiriyor.

Yapay zeka, yeni bir risk faktörü mü? 

Diğer yandan Apple, bu yıl Haziran ayında düzenlediği “Dünya Geliştiriciler Konferansı (WWDC)” etkinliğinde “Apple Intelligence” başlığı altında kullanıma sunulacak yeni yapay zeka özelliklerini tanıttı. Richard Collard, yapay zeka desteğiyle üretilen çocuk istismarı görsellerindeki artış nedeniyle Apple’ın yapay zeka arenasındaki rekabetinin de endişe verici hâle geldiğini ifade etti. Collard, bu endişenin mevcut veri tutarsızlığı göz önüne alındığında daha da arttığının altını çizdi. 

Rakamlar: 2023 yılında NCMEC’ye, yapay zeka tarafından oluşturulan ve çocuk istismarına yönelik öğeler içeren 4 bin 700’den fazla içerik bildirildi. Kurum, bu sayının önümüzdeki yıllarda artış göstermesini bekliyor. Uzmanlara göre yapay zeka modelleri, çocuk istismarına yönelik öğeler içeren gerçek görüntülerle eğitildiği için yapay zeka üretimi görseller de çocukların mağdur edilmesinde önemli bir rol oynuyor. 

• Uzmanlar, özellikle deepfake gibi teknolojilerle yapılan akran zorbalığının artış gösterdiği bu dönemde yapay zekayı eğitmek için kullanılacak verilerin kritik önem taşıdığına işaret ediyor. 

• ABD’de bu yıl en az iki okul, deepfake skandallarıyla gündeme geldi. Her iki olayda da lise eğitimi gören erkek çocuklar, deepfake teknolojisiyle sınıflarındaki kız arkadaşlarının çıplak görüntülerini oluşturdu. 

• Yakın zamanda İspanya’da bir mahkeme, benzer şekilde okuldaki kız arkadaşlarının yapay zeka üretimi sahte çıplak fotoğraflarını oluşturan ve bunları WhatsApp grupları üzerinden yayan 13-15 yaşları arasındaki 15 çocuğa 1 yıl denetimli serbestlik cezası verdi.  

Geniş açı: Sarah Gardner, “kara delik” olarak tanımladığı Apple’ın yapay zeka çalışmalarını şu şekilde değerlendiriyor: 

“Şirket, çocuklar için son derece tehlikeli ve zararlı olabileceğini bildiğimiz bir alana doğru bu risklerle ilgili hiç deneyimi olmadan ilerliyor.”

• Editörün önerisi | Yapay zekanın karanlık yüzü: Çocuk fotoğrafları nasıl kullanılıyor?