Instagram yanılsaması: Algoritma, gençleri koruyabiliyor mu?

Kitlesinin önemli bir kısmı genç kullanıcılardan oluşan Instagram, sık sık çocukların ve gençlerin çevrimiçi güvenliğine ilişkin eleştirilerin odağı oluyor. Statista verileri, platform kullanıcılarının %31,7’sini 18-24 yaş arasındaki gençlerin oluşturduğunu gösteriyor. Backlinko’nun derlediği veriler ise Instagram’da en çok vakit geçiren kitlenin günde 53 dakikalık ortalamayla 18-24 yaş arasındaki kullanıcılar olduğuna işaret ediyor. Bu süre, 25-34 yaş arasında 40 dakika altına, 35 yaş üstünde ise 30 dakika altına iniyor. Yani kullanıcıların yaşı büyüdükçe Instagram kullanım süreleri de kısalıyor. 

Öte yandan: Genç kullanıcılar arasındaki popülaritesinin farkında olan platform, dönem dönem bu kullanıcı kitlesinin çevrimiçi güvenliğini tahsis etmeye yönelik yeni özellikleri kullanıma sunuyor. 

• Platform, yakın zamanda “Genç Hesapları” isimli yeni bir özelliği kullanıma sunarak 18 yaş ve altındaki tüm mevcut ve yeni kullanıcıların hesaplarını spesifik kısıtlamalar ve ebeveyn kontrollerine sahip bir Genç Hesabı’na dönüştürdü. 
• Sosyal medya devi ayrıca, cinsel istismar ve şiddet gibi zararlı öğeler içeren içeriklerin genç kullanıcıların akışına düşmesini engellemek için yapay zeka algoritmaları kullanmaya başladığını açıkladı. Platform, söz konusu algoritmaların zararlı içeriklerin %99’unu platform moderatörlerine bildirilmeden önce otomatik olarak kaldırdığını iddia edildi. 

Araştırma: Sorumlu dijital gelişimi teşvik etmek için kurulan Danimarka merkezli Digitalt Ansvar tarafından yapılan yeni bir araştırma ise platformun zararlı içerikleri kaldırmada iddia ettiği kadar başarılı olmadığını ve hatta bu tür içeriklerle etkileşimde bulunan kullanıcıları birbirlerini takip etmeye teşvik ederek zararlı içeriklerin yayılmasına bizzat katkı sağladığını ortaya çıkardı. 

Çalışma kapsamında Digitalt Ansvar, Instagram’da kendine zarar verme öğeleri içeren paylaşımlar yapan bir ağ oluşturdu. Sahte profillerden oluşan ağda 13 yaşındaki sahte kullanıcıların hesapları da yer alıyordu. Bu hesaplarla kendine zarar verme öğeleri içeren 85 farklı gönderi paylaşıldı. Gönderilerdeki şiddet öğeleri, kan, jilet ve intiharı da içinde barındıran geniş bir yelpazeye yayılıyordu. 

Çalışmanın amacı ise Meta’nın zararlı içerikleri kaldırmada %99 oranında başarılı olduğunu iddia ettiği yapay zeka algoritmalarını test etmekti. 

Sonuçlar: 1 ay süren deneysel çalışma boyunca Instagram, tek bir görüntüyü bile kaldırmadı. Bunun üzerine Digitalt Ansvar, paylaşılan içerikleri analiz etmek için kendi yapay zeka aracını oluşturdu. Araç, kendine zarar verme öğeleri içeren paylaşımların %38’ini ve bu paylaşımlarda şiddet seviyesi en yüksek olanların %88’ini otomatik olarak işaretledi. Bu nedenle çalışma, Instagram’ın sorunu çözebilecek teknolojiye erişimi olduğuna, fakat bu teknolojiyi etkin bir biçimde kullanmayı bilinçli olarak tercih etmediğine işaret etti. 

Instagram’ın yetersiz denetimi, AB yasalarını ihlal ediyor

Digitalt Ansvar ayrıca, Instagram’daki bu denetim eksikliğinin Avrupa Birliği (AB) yasalarıyla uyumlu bir biçimde faaliyet göstermediğini de ortaya koyduğuna dikkat çekti. Bölgenin Dijital Hizmetler Yasası’nın (DSA), sosyal medya platformlarını fiziksel ve ruhsal refah üzerindeki olumsuz sonuçları gibi öngörülebilir riskleri tespit etmeye zorladığının da altı çizildi. 

Açıklamalar: Çatı şirket Meta’nın konuya ilişkin açıklama yapan bir sözcüsü, kendine zarar verme öğeleri içeren paylaşımların platform politikalarına aykırı olduğunu ve bu tip içerikleri tespit edildiği anda kaldırdıklarını dile getirdi. Sözcü ayrıca, 2024’ün ilk yarısında intihar ve kendine zarar verme öğeleri içeren 12 milyondan fazla gönderiyi kaldırdıklarını ve bunların %99’unda proaktif davrandıklarını belirtti. 

Ters köşe: Digitalt Ansvar’ın araştırması ise Instagram algoritmalarının kendine zarar verme öğeleri içeren içerikleri kaldırmaktan ziyade, aktif olarak bu içeriklerin yayılmasına yardımcı olduğunu tespit etti. Test sırasında 13 yaşındaki gerçek kullanıcılar, oluşturulan ağdaki hesaplardan biriyle bağlantı kurduktan kısa bir süre sonra ağdaki tüm hesapları takip etmeye başladı. 

• Çalışma raporu, bu durumun Instagram algoritmalarının bu tip ağların oluşumuna ve yayılmasına aktif olarak katkı sağladığını kanıtladığına işaret etti. 

Perspektif: Digitalt Ansvar CEO'su Ask Hesby Holm, araştırmaya ilişkin açıklamasında sonuçların kendilerini şoka uğrattığını ve paylaşımlardaki şiddet seviyesinin kademeli olarak artmasıyla platformun alarma geçeceğini düşündüklerini belirtti. Holm, şiddet seviyesini kademeli olarak artırarak yapay zekayı zararlı içeriği tespit edeceği eşiğe ulaştırmayı hedeflediklerinin de altını çizdi. 

Holm’un açıklamasına göre Instagram’ın yapay zeka algoritması, test süresinde bu eşiğe hiçbir zaman ulaşamadı. Bu durumun endişe verici olduğunu vurgulayan Holm, kendine zarar verme öğeleri içeren paylaşımlara ilişkin denetim eksikliğinin intihar gibi ağır sonuçları olabileceğine dikkat çekti. Holm ayrıca, haklarında hiçbir şey yapılmadığında bu tür ağların ebeveynler, yetkililer veya destek grupları tarafından fark edilmeden faaliyetlerine devam edebileceğini dile getirdi. 

Önemli ayrıntı: Digitalt Ansvar CEO'su, Instagram’ın üzerlerinden edindiği yüksek trafik ve etkileşim oranını kaybetmemek için bu tip ağlarda bilinçli olarak denetimi eksik tuttuğuna inanıyor. 

Durum kötüleşiyor 

Meta’nın intiharı önlemeye yönelik çalışmalar yürüten uzman grubundan Mart ayında ayrılan psikolog Lotte Rubæk, şirketle yollarını ayırırken Instagram’da zararlı içeriklere bilinçli olarak göz yumulduğuna işaret etmişti. Digitalt Ansvar’ın araştırma bulgularıyla ilgili açıklama yapan Rubæk, şiddet seviyesi en yüksek içeriklerin kaldırılmadığını görünce şoke olduğunu dile getirdi. Rubæk, daha sonra açıklamasına şu sözlerle devam etti: 

“85 gönderiden hiçbirini kaldırmayacaklarını düşünmezdim. Sonucun daha iyi olmasını umuyordum.” 

Meta’nın medyaya verdiği demeçlerde sürekli olarak algoritmalarını geliştirdiğini ve dünyanın en iyi mühendisleriyle çalıştığını vurguladığını hatırlatan Rubæk, araştırmanın küçük ölçekte de olsa bu vurguların asılsız olduğunu kanıtladığını belirtti. Eski Meta çalışanı ayrıca, bu denetim eksikliğinin özellikle savunmasız durumdaki genç kızları ve kadınları kendilerine zarar vermeye teşvik ettiğini ve intihar rakamlarındaki artışa katkı sağladığını ifade etti. 

Ek olarak: Meta’daki uzman grubundan ayrılmasından bu yana Instagram’daki durumun daha da kötüleştiğini ve bu gidişatın etkilerini danışanlarında görebildiğini belirten Rubæk, kendine zarar verme öğeleri içeren paylaşımların çocuk ve genç kullanıcılar için bir ölüm kalım meselesi hâline gelebileceğini dile getirdi. Rubæk, Meta’nın bu içeriklerdeki denetim artışını Instagram üzerinden para kazanma ve kâr elde etme yolunda bir engel gibi algıladığını da sözlerine ekledi.