Instagram, çocuk istismarına alan mı sağlıyor?

Instagram, Snapchat, TikTok, Twitch ve YouTube gibi sosyal medya platformlarının çocukları hedef alan içeriklere yönelik sorumlulukları konusunda hem düzenleyiciler hem de kullanıcılar arasında yarattığı birçok haklı endişe var. 

Bugün Reuters'a konuşan Avrupa Birliği'nin siber güvenliğinden sorumlu İç Piyasalar Komiseri Thierry Breton, Instagram'ın çatı şirketi Meta'ya çağrıda bulunarak platformun kılavuzlarının çocukları korumada yetersiz kaldığını belirtti ve CEO Mark Zuckerberg ile 23 Haziran'da şirketin genel merkezinde konuyu tartışmak üzere bir araya geleceğini ifade etti.

The Wall Street Journal'ın (WSJ) Instagram'daki çocuk istismarı şebekelerine yönelik haberine dün bültenimizin teknoloji kanalında yer vermiştik. Bugün ise dosyanın çıktılarını daha kapsamlı biçimde ele alarak tehlikenin boyutlarını gösterebilmek açısından daha fazla detayı sizlerle paylaşacağız.

• Editörün önerisi: Twitch ve TikTok’un çocuk istismarı karnesini incelediğimiz ve teknoloji yayınımız Quando’da yer alan önceki içeriğimize buradan ulaşabilirsiniz.

UYARI: BU İÇERİK BAZI OKURLARIMIZ İÇİN RAHATSIZ EDİCİ NİTELİKTE OLABİLİR

Stanford ve Massachusetts Amherst Üniversitelerinden akademisyenlerin yürüttüğü araştırmanın bulgularına göre Instagram'da 12-18 yaş aralığındaki çocuklara ait uygunsuz görüntüleri paylaşan yüzlerce hesap, on binlerce pedofile ulaşıyor. Çocuk istismarcılarının oluşturduğu ağlar nedeniyle bu hesaplardan birini takip etmek, kullanıcıya Instagram'ın keşfet sekmesinde bu tarz içeriklerin önerilmesi için yeterli.

Instagram'da çocuk güvenliğiyle ilgili çalışma yürüten isimler, bu hesapların toplam sayılarının milyonları bulabileceğini tahmin ediyor. Çatı şirketi Meta sözcüsüne göre Instagram, sadece geçtiğimiz Ocak ayında platformun çocuk güvenlik politikalarına aykırı hareket eden 490 bin hesabı kapatmış durumda. Sözcü, Meta'nın son iki yılda istismarcı 27 şebekeyi saf dışı bıraktığını ifade ediyor.

Öte yandan araştırmayı yürüten ekip, Twitter’da bu tarz içeriklere Instagram’ın üçte birinden daha az rastladıklarını belirtiyor. Instagram’ın 1,3 milyar kayıtlı kullanıcısı olduğu düşünüldüğünde bu doğal. Ancak ekip, Twitter’ın ihbar edilen içerikler konusunda çok daha hızlı aksiyon aldığını da ekliyor.

Stanford İnternet Gözlemevi’nin Baş Teknolojisti David Thiel’a göre Instagram’ın sorunu kullanıcılar arasında ağlar oluşturması ve kullanıcının görüntüleme geçmişine dayalı olarak daha fazla benzer içerik önermesi. Araştırmacıların oluşturdukları test hesaplarından şebekedeki tek bir hesabın içeriklerine göz atması yeterli olmuş. Bundan sonra keşfet sayfalarının şebekeye ait diğer hesapların ürettiği uygunsuz içeriklerle dolduğu belirtiliyor.

Thiel’a göre özel mesajlaşmaya odaklı olan ve bu şekilde kullanıcı ağlarını genişletmeyen Snapchat, bu tarz içeriklerin dağıtılmasını da kolaylaştırmamış oluyor. 

Instagram’da ise çocuk istismarcıları etiketler üzerinden birbirlerine ulaşıyor ve bio'daki linkler üzerinden yönlendirdikleri sitelerde reşit olmayan çocukların cinsel içerikli görüntülerinin ticaretini yapıyorlar. Bu içeriklerin satışını yapan hesapların bio’larına yerleştirdikleri linklerde üretebilecekleri cinsel istismar görüntülerinin ‘menü’leri listeleniyor. Pedofiller buradan istedikleri türde içeriklerin siparişini verebiliyor.

Şebekelerin sipariş üzerine ürettikleri içerik seçenekleri arasında çocukların cinsel olarak istismar edildiği, çocukların kendilerine zarar verdikleri, ya da hayvanlarla birlikte oldukları görüntüler de yer alıyor. Bazı hesaplar, dileyen müşterilerine çocuklarla “baş başa” vakit geçirmeyi dahi teklif edebiliyor.

Stanford İnternet Gözlemevi’nin Müdürü Alex Stamos, 2018 yılına kadar CSO olarak güvenlik ekibinin başında bulunduğu Meta’nın “sadece 3 akademisyenin kısıtlı imkanlarla bile kolayca erişebildiği” bu şebekelerle mücadele etmek için neden şirketin sahip olduğu çok daha etkili sistem araçlarını ve insan gücünü kullanmadığını sorguluyor. 

Platformların arka planda çalıştırdıkları algoritmalar, yüklenen görselleri otomatik olarak tarayarak bilinen eşleşmeleri yetkililere bildiriyor. Toplam 3 milyara ulaşan kullanıcısı ile Meta’nın sahibi olduğu Facebook, Whatsapp ve Instagram, ihbar edilen çocuk istismarı içeriklerinin %85’ini barındırıyor. 2022 yılında yapılan 32 milyon ihbarın 5 milyonunun Instagram üzerinden geldiği kaydediliyor.

Ancak bu algoritmaların iki büyük açığı var; ilk olarak uçtan uca şifrelemenin olduğu doğrudan mesajlaşmalara erişemiyorlar. İkinci olaraksa önceden kayda geçirilmemiş –bir başka deyişle dolaşımda olmayan ve yeni üretilmiş– içerikleri tespit edemiyorlar. 

Göz yumma mı, akıl tutulması mı?

Araştırmacılar Instagram’ın en basit önlemleri almaktan dahi aciz olduğunu belirtiyor.

Meta’nın Instagram’da anahtar kelime aramaları üzerinden hangi önlemleri aldığı belirsiz. Buna göre, pedofiller içeriklerine ekledikleri etiketler üzerinden rahatlıkla iletişim kuruyor. WSJ’de yer alan makaleye göre, en popüler etiketlerin bazıları hâlâ aktif. WSJ, konu hakkında bilgi almak istedikleri Meta’nın “bu anahtar kelimeleri engelleme aşamasında oldukları” yanıtını verdiğini ifade ediyor.

Ancak burada da bitmiyor. Meta’nın algoritmaları, Instagram’da yer alan bazı içeriklerin çocuk istismarı içerdiğini tespit ettiğinde akıllara durgunluk veren bir yol izliyor. Kullanıcılar böyle bir içeriğe tıkladığında, üzerinde şu mesaj yer alan bir uyarı penceresi çıkıyor:

“Görüntülemek istediğiniz içerikler çocuğun cinsel istismarını içeren görseller barındırabilir.”

Bu içeriklerin üretilmesi ve tüketilmesinin çocuklar için ‘aşırı derece zararlı’ olduğunu belirten bu pencerenin altında iki seçenek yer alıyor: 

• “Konu hakkında daha fazla kaynağa eriş”
• “Sonuçları yine de göster”

WSJ, Meta’nın ‘sonuçları göster’ seçeneğinin kaldırılması talebini kabul ettiğini, ancak bu seçeneğin ‘zaten neden listeleniyor olduğuna’ yönelik sorusunu yanıtlamadığını belirtiyor. Yine makalede, çok sayıda çocuk güvenliği uzmanının çocukları içeren uygunsuz görsellere yönelik ihbarların Meta tarafından aylarca işleme konulmayabildiği de yer alıyor.

Komplo teorisinden farksız

Uzmanlar, çocuk istismarcıları dışardan bakanların anlayamaması için kendi argo ve gizli mesajlarını da geliştirdiğini ifade ediyor. Kendilerine pedofil ya da sübyancı yerine Minor Attracted Person (reşit olmayanlara ilgi duyan kişi) diyen bu şahıslar bu terimin kısaltması olan MAP (tr. harita) kelimesini şifre olarak kullanıyor ve birbirlerini tanımak için profillerini ve gönderilerini 🗺️ emojisiyle işaretliyorlar. Şifre olarak kullanılan bir diğer emoji ise 🍕; çünkü Cheese Pizza, (peynirli pizza) ‘Çocuk Pornografisi’nin baş harflerini barındırıyor.

İçerikleri satan istismarcıların bio’larında “Hayattaki ufak şeylerden keyif alır” ve ticaretini yaptıkları içeriklerde yer alan çocukların yaşlarına ilişkin olarak “Hayatının 14. evresinde” gibi ifadelerin yer aldığı da tespit edilenler arasında.

Çocuk istismarına karşı mücadele eden bir aktivist, reşit olmayan bir kız çocuğunun ‘kendi ürettiğini’ iddia ettiği cinsel içerikli materyalin satıldığı bir sayfayı şikayet ettikten sonra Instagram’dan şu otomatik mesajı aldığını söylüyor: “Çok sayıda içeriğe yönelik ihbar aldığımızdan ötürü ekibimiz bu içeriği inceleyemeyecek.”

Aynı aktivist, açıklamasında müstehcen ifadeler kullanılan ‘yarı-çıplak’ bir kız çocuğu fotoğrafını ihbar ettiğindeyse bu sefer de “İçeriği inceleyen ekibimiz bu paylaşımın Topluluk Kuralları’na aykırı olmadığını tespit etti” cevabını alıyor.

WSJ, bir Meta sözcüsünün ihbarları işleme almakta sorunlar yaşandığı iddialarını kabul ettiğini aktarıyor. 

Ancak ihbarlar işleme alınsa dahi kesin sonuç alınmıyor.

Çünkü Instagram’ın ‘topluluk kuralları’ ihlal edildiğinde genelde hesap kapatma cezası veriliyor; aynı kişiler, aynı cihazları kullanarak yeni hesaplar oluşturabiliyor. Birçok pedofilin bio’sunda ‘yedek’ hesaplarının da kullanıcı adları bulunuyor. 

Meta ise Instagram’ın öneri algoritmasının çocuk istismarcılarını önermesinin önüne geçecek sistemlerin hâlâ geliştirme aşamasında olduğunu belirtiyor.

AB Komiseri Breton, Meta'nın 25 Ağustos'tan sonra Dijital Hizmetler Yasası (DSA) olarak bilinen Avrupa Birliği çevrimiçi içerik kurallarına uymak için almayı planladığı önlemleri ispatlaması gerektiğini; aksi takdirde şirketin ağır yaptırımlarla karşı karşıya kalacağı yönünde uyarıyor.