Facebook adil değil ve bunun o da farkında

İllüstrasyon: Ezgi Arslan

Hepimizin bildiği yegâne olayla başlıyoruz meselemize; 2018'de Donald Trump'ın 2016 başkanlık seçim kampanyası için çalışan bir danışmanlık şirketi olan Cambridge Analytica'nın on milyonlarca ABD vatandaşının kişisel verilerini gizlice Facebook hesaplarından aldığı ve bu veriler sayesinde insanları manipüle ederek oyları nasıl etkilediği ortaya çıkmıştı.

Bu Facebook tarihinde yaşanan en büyük gizlilik ihlâliydi.

Sonra Mark Zuckerberg birtakım özürler dilemeye başladı. Facebook'un sorumluluklarına "yeterince geniş bir bakış açısı" ile sahip olmadığını ve bir CEO olarak yaptığı hatalar için üzgün olduğunu dile getirdi.

Son olarak, Facebook’un baş teknoloji sorumlusu Mike Schroepfer, Quiñonero Candela'dan şirketin algoritmalarının toplumsal etkisini incelemek için bir ekip kurmasını istedi. Grup kendisini Society and AI Lab (SAIL - Toplum ve Yapay Zekâ) olarak adlandırdı ve geçtiğimiz yıl veri gizliliği üzerine çalışan bir diğer ekiple birleşerek Responsible AI (Sorumlu Yapay Zekâ) ismini aldı.

Mark'ın amansız büyüme arzusu

Responsible AI'ın günümüzde üzerinde çalıştığı en önemli şey algoritmaların belirli kullanıcı gruplarına karşı ayrımcılık yaptığı ön yargısı. Bu duruma bir örnek olarak, belirli iş veya ev ilanı fırsatlarını siyahi azınlıklara değil beyaz insanlara gösteren reklam hedefleme algoritmalarını gösterebiliriz.

Responsible AI'ın ocak ayında ABD'de yaşanan bir grup Cumhuriyetçi seçmenin Kongre binasını basma olayındaki yanlış bilgi yayılımı ya da nefret söylemi yerine neden ısrarla yapay zekâ ön yargısı üzerine çalıştığının en kolay cevabı ise, Mark Zuckerberg'ün böyle istiyor oluşu.

Şirketin yaptığı ve yapmamayı seçtiği her şey tek bir motivasyondan kaynaklanıyor; Zuckerberg’in amansız büyüme arzusu. Responsible AI'ın yetenekleri bu büyümeyi güçlendiriyor. Facebook yönetimi, platformdaki yanlış bilgileri temizleme amaçlı birçok girişimi defalarca yavaşlattı veya durdurdu, çünkü böyle bir amaç büyümeyi baltalayacaktı.

Yani Sorumlu Yapay Zekâ ekibinin üzerinde çalıştığı yapay zekâ ön yargısı; yanlış bilgilendirme, aşırılık ve siyasi kutuplaşma gibi daha büyük sorunlardan bağımsız olarak ilerliyor. Ve bunun bedelini hepimiz ödüyoruz.

"Kullanıcıları en uzun süre platformda tutmak istiyorsanız gerçeklerle ilgilenmezsiniz. Zarar verenle, bölücü olanla, komplo kuranla ilgilenmiyorsunuzdur” diyor Berkeley Kaliforniya Üniversitesi'nde profesör olan ve platformdaki görüntü ile video tabanlı yanlış bilgileri anlamak için Facebook ile iş birliği yapan Hany Farid.

"Facebook her zaman basın açıklaması yayımlayacak kadar sorun çözüyor. Ancak birkaç istisna dışında sorunların çözüldüğünü düşünmüyorum. Temel sorunlarla gerçekten ilgilenmiyorlar."

Facebook'un algoritmaları

Mühendisler tarafından kodlanmış geleneksel algoritmalardan farklı olarak makine öğrenimi algoritmaları, içindeki korelasyonları öğrenmek için veriler üzerinde “eğitilir.” Makine öğrenimi modeli olarak bilinen eğitimli algoritma, daha sonra gelecekteki benzer kararları otomatik olarak alabilir. Örneğin reklam tıklama verileri üzerine eğitilmiş bir algoritma, kadınların yoga taytı reklamlarına erkeklerden daha sık tıkladığını öğrenebilir. Ortaya çıkan bu modelle bu reklamlardan daha fazlası kadınlara sunulacaktır. Bugün Facebook gibi yapay zekâ tabanlı bir şirkette mühendisler, belirli bir problemde hangisinin en iyi performansı gösterdiğini görmek için küçük varyasyonlara sahip sayısız model üretiyor.

Facebook’un muazzam miktardaki kullanıcı verisi de Responsible AI'a büyük avantaj sağlıyor. Yalnızca "kadınlar" ve "erkekler" gibi geniş kategoriler değil, "yogayla ilgili Facebook sayfalarını seven 25 ila 34 yaş arası kadınlar" gibi çok daha niş kategorilerin varlığını ortaya çıkarmayı öğrenen ve hedefleyen modeller geliştirilebiliyor, bu segmentlere de reklamlar hedeflenebiliyor. Hedefleme ne kadar ince ayarlıysa, tıklama şansı o kadar yüksek oluyor ve bu da Facebook'a reklam verenlerin paralarının karşılığını çok daha fazla almasını sağlıyor tabii.

Facebook'un yeni sorusu ise uzun zamandır bu öğrenen modelleri bireysel Facebook kullanıcıları üzerinde kullanıp kullanamamak. Her şey kişisel haber akışlarında kullanıcıların hangi gönderileri göreceğini belirlemeye çalışan bir ekibin, reklam modellerinde kullanılan teknikleri uygulamak istemesiyle başladı. Algoritmalar kimin hangi reklamı tıklayacağını tahmin etmek için eğitilebildiği gibi, kimin hangi gönderiyi beğeneceğini veya paylaşacağını tahmin etmek ve bu gönderilere daha fazla önem vermek için eğitilebilirdi. Model, bir kişinin köpekleri gerçekten sevdiğini belirlerse örneğin, arkadaşlarının köpeklerle ilgili gönderileri, o kullanıcının haber akışında daha üstte görünebilirdi bu da etkileşimi oldukça artırabilirdi.

Haber akışlarındaki bu manipülasyon Zuckerberg'ün ilgisini çekti ve bir gün herkesin Facebook kullanması gerektiği vizyonuna sahip üst yönetimce kullanıcılarını platformda daha uzun süreler tutabilmek için yapay zekâya daha fazla yatırım yapıldı.

İki yapay zeka ekibi oluşturuldu. Bunlardan biri, teknolojinin son teknoloji yeteneklerini geliştirecek temel bir araştırma laboratuvarı olan FAIR, diğeri yani Uygulamalı Makine Öğrenimi (AML), bu yetenekleri Facebook’un ürün ve hizmetlerine entegre edecek olan ekip olarak kurgulandı.

Her gün canlı olarak sunulan yeni makine öğrenimi modelleriyle şirket, etkilerini izlemek ve kullanıcı katılımını en üst düzeye çıkarmak için yeni bir sistem oluşturdu. Süreç bugün hâlâ aynı. Ekipler, yayınların sıralama sırasını değiştirmek ya da Facebook'un topluluk standartlarını (platformda neye izin verildiği ve neyin verilmeyeceğine ilişkin kuralları) ihlâl eden içeriği daha iyi yakalamak için makine öğrenimi modelleri geliştiriyor.

Bir model, etkileşimi azaltırsa iptal ediliyor. Durum böyle değilse canlı olarak kullanılıyor ve sürekli olarak izleniyor. Facebook eski müdürlerinden Krishna Gade, Facebook'ta mühendislerin birkaç günde bir beğeniler veya yorumlar gibi metrikler düştüğünde bildirim aldığını açıklamıştı. Ayrıca bu gibi durumlarda soruna neyin neden olduğunu ve herhangi bir modelin yeniden eğitilmesi gerekip gerekmediğini belirleyip üzerinde çalışmak, mühendislerin temel görevi.

Etkileşimi artırmayı hedefleyen modellerin insanlığa zararı

Ancak bu yaklaşım kısa sürede sorunlara neden oldu. Katılımı en üst düzeye çıkaran modeller aynı zamanda tartışmaları, yanlış bilgilendirmeleri ve aşırılığı da destekliyor. Bugüne kadarki en yıkıcı örnek, Rohingya Müslüman azınlığı hakkındaki viral yalan haberlerin ve nefret söyleminin ülkenin dinî çatışmasını tam anlamıyla bir soykırıma dönüştürdüğü Myanmar vakası oldu. Bunun üzerine ise Facebook, yıllarca rolünü küçümsedikten sonra 2018'de, "platformun bölünmeyi teşvik etmek ve fiziksel şiddeti kışkırtmak amacıyla kullanılmasını önlemek için yeterince şey yapmadığını" itiraf etti.

Facebook bu sonuçları hedefliyor olmasa da 2016'da da durumdan haberdardı. O yıla ait bir şirket araştırmacısı olan Monica Lee, Wall Street Journal tarafından kaleme alınan bir yazıda, Facebook'un yalnızca çok sayıda aşırılık yanlısı grubu barındırmadığını, onları kullanıcılarına da tanıttığını gösterdi: "Tüm aşırılık yanlısı grup katılımlarının %64'ü bizim öneri araçlarımızdan kaynaklanıyor" diyen Lee, ağırlıklı olarak "Katılmanız Gereken Gruplar" ve "Keşfet" özellikleriyle bu tür aşırı grupların etkileşiminin artırıldığını belirtti.

Facebook’un ürün sorumlusu olan Chris Cox 2017’de, Facebook’ta kullanıcı katılımını en üst düzeye çıkarmanın siyasi kutuplaşmaya katkıda bulunup bulunmadığını anlamak için yeni bir proje başlattı. Gerçekten bir korelasyon olduğunu ve kutuplaşmayı azaltmanın, etkileşimi de azaltacağı anlamına geleceğini buldu. Daha sonra bu projenin sonucunda ortaya çıkan bazı fikirlerin "anti-büyüme" olduğu üst yönetimce kabul edildi ve çözüm önerilerinin çoğu ilerleyemeden proje sonlandırıldı.

O zamandan beri, diğer çalışanlar bu sonuçları doğrulamaya devam ediyor. 2018'de şirkete katılmış bir Facebook yapay zekâ araştırmacısı, kendisinin ve ekibinin aynı temel fikri doğrulayan araştırmayı yaptığını söyledi: Etkileşimi en üst düzeye çıkaran modeller kutuplaşmayı artırır.

Durum ne olursa olsun, modeller, kullanıcıları giderek daha uç bakış açılarıyla beslemeyi öğrendi. Modeller zamanla ölçülebilir şekilde daha da kutuplaşmış hâle gelmeye başladı.

Başka bir ekip ayrıca, olası bir depresyon belirtisi olan melankolik içerik yayımlama veya bunlarla etkileşim kurma eğiliminde olan kullanıcıların akıl sağlıklarını daha da kötüleştirme riskine yol açan daha olumsuz içerikler tüketmeye kolayca kapılabileceklerini buldu. Ekip, bu kullanıcılar için içerik sıralama modellerini tek başına etkileşimi en üst düzeye çıkarmayı bırakacak şekilde değiştirmeyi önerdi, böylece bunaltıcı şeylerden daha az gösterilecekti.

Yani kapalı kapılar ardında tartışılan ilgili soru şuydu: "Birinin savunmasız bir zihin durumunda olduğunu fark etsek bile etkileşimi artırmak için haber akışını optimize etmeli miyiz?" (Bir Facebook sözcüsü bu soru için kayıtlı bir belge bulunamadığını belirtti.)

Zuckerberg de farkında

Zuckerberg de durumu itiraf etti. Facebook'un içerik denetleme planlarını özetleyen kamuya açık bir notta, şirketin etkileşim stratejisinin zararlı etkilerini bir grafikle açıkladı. Bir gönderinin Facebook'un topluluk standartlarını ihlal etme olasılığı ne kadar fazlaysa, o kadar fazla kullanıcının etkileşimini artırdığını gösterdi. Yani etkileşimi en üst düzeye çıkaran algoritmaların kışkırtıcı içeriği ödüllendirdiği belgelenmiş oldu:

Kaynak: Facebook

Bu itirafın hemen ardından çözüm önerisi de sunan Zuckerberg ters ilişkiye sahip başka bir grafik gösterdi. Zuckerberg, topluluk standartlarını ihlal etmeye yaklaşan içeriği ödüllendirmek yerine, Facebook'un onu "cezalandırmaya" başlayıp daha fazla değil "daha az etkileşim" sağlamayı seçebileceğini yazdı. Bu nasıl halledilebilir? Daha fazla yapay zekâ ile. Facebook bu “sınırdaki içeriği” algılamak için daha iyi içerik denetleme modelleri geliştireceğini ve haber akışının viralliğini ortadan kaldırmak için geriye dönük olarak modellerini daha iyi eğitebileceğini açıkladı:

Kaynak: Facebook

Nasıl olacak?

Sorun şu ki, Zuckerberg’in tüm vaatleri için bu çözüm önerileri zayıf.

Yanlış bilgi ve nefret söylemi sürekli olarak gelişiyor. Yeni yalanlar ortaya atılıyor, yeni insanlar ve gruplar hedef hâline getiriliyor. Bir şeyleri viral hâle gelmeden önce yakalamak için, içerik denetleme modellerinin bu istenmeyen içeriği yüksek doğrulukla belirleyebilmesi gerekir. Ancak makine öğrenimi modelleri bu şekilde çalışmıyor. Örneğin, Holokost inkârını ayırt etmeyi öğrenen bir algoritma, Rohingya soykırımının inkârını hemen tespit edemez. Filtrelemeyi öğrenmeden önce, yeni bir içerik türünün binlerce, hatta çoğu zaman milyonlarca örneği üzerinde eğitilmesi gerekir. O zaman bile kullanıcılar, bir gönderinin metnini değiştirmek veya kışkırtıcı ifadeleri örtbas edip değiştirerek modeli alt etmeyi hızlı bir şekilde öğrenebilir ve bu tür olumsuz mesajlar bir insan için hâlâ anlaşılabilirken yapay zekâ için okunaksız hâle getirilebilir. Yeni komplo teorilerinin hızla kontrolden çıkabilmesinin ve kısmen bu tür içerikler yasaklandıktan sonra bile türevlerinin hâlâ platformda kalmasının sebebi de tam olarak bu.

Tüm bu karmaşık soruların doğru bir cevabı yok ve eski Facebook çalışanlarının çocuklarına Facebook kullandırtmadıkları günümüzde, sosyal medyanın potansiyel tehlikesiyle bıçak sırtında yaşamaya devam ediyoruz.