Yapay zeka demokrasileri nasıl etkileyecek?

Ömer Sümer

Yapay zekanın demokrasileri nasıl etkileyeceği üzerine düşünürken, söze önce yaşam hakkı ve insan onuru bakımından önemli etkileri olan gözetleme, sosyal kredi sistemleri ve savaşlardan başlamalı. Fotoğraf ya da videodan yüz tanıma problemi, büyük ölçüde çözülmüş bir bilgisayarlı görü problemi. Derin öğrenme öncesinde, 90’li yıllarda ABD hükümetinin FERET (Facial Recognition Technology) projesine birçok araştırma grubu dahil olmuş, hatta Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) laboratuvar ortamında veri setleri oluşturmuştu. Ancak, yüz tanıma teknolojisi mükemmel değildi. Farklı kameralar, farklı ışık koşulları ve yüz tanıması yapılacak kişinin etnik ya da yaş profili performansa etki ediyordu. 2012’den sonra Google’da yüz binlerce ünlü insanın isimleri yazılıp fotoğrafları indirilerek onlarca yüz veri seti oluşturuldu. Bugün yüz binlerce farklı kişiye ait 5-6 milyon fotoğraflık veri setleri mevcut. 

Yüz, bilindiği gibi biyometrik bilgi içeriyor. Yüz fotoğraflarından yaş, cinsiyet, ırk ve akrabalık tespiti yapılabiliyor. Tüm bu özellikleri tespit etmek için eğitilmiş modellerin iyi niyetle kullanılabileceği birçok farklı uygulama alanı var. Ancak, sorunlu örneklerin sayısı da az değil. 

The Washington Post gazetesinin 8 Aralık 2020 tarihli haberi bu örneklerdendi. Haber, dünyaca ünlü telekomünikasyon şirketi Huawei tarafından geliştirilen yüz analiz sisteminin etnik kimlik de tespit edebildiğini ve Çin hükümeti tarafından Uygurları CCTV kamera sistemleri üzerinden tespit edip toplama kamplarına götürmek için kullanıldığını ortaya çıkarmıştı. Belgelere dayanan bu haber, gerçek bir araştırmacı gazetecilik örneğiydi. Şirketten de kayda değer bir yalanlama gelmedi. Hatta bir yıl sonra şirkete ait “gizli” ibareli binlerce sayfalık bir sunumdan elde edilen bilgiler, Huawei'in yüz tanıma sistemiyle sınırlı kalmadığını ve Çin hükümetinin gözetleme programlarıyla da bağlantılı olduğunu ortaya çıkardı. Bu süreçte, 30 Mart 2021 tarihinde ABD Dışişleri Bakanlığı’nın İnsan Hakları Raporu, Uygurlara yönelik zulümleri “soykırım” ve “insanlığa karşı suç olarak” nitelendirdi.

^{Yapay zeka ile üretilmiş bu görsel, Kolombiya'daki polis şiddetini temsil ediyor. Kaynak: Uluslararası Af Örgütü}

Şu an “trilogue” adı verilen üçlü görüşme sürecinde olan Avrupa Birliği’nin yeni Yapay Zeka Yasası; sosyal kredi sistemi, kamuya açık mekanlarda biyometrik gözetleme, duygu analizi gibi kullanımları yasaklamayı öngörüyor. Buna rağmen, aynı şirketin Türkiye ve AB ülkelerinde sayısız araştırma ve geliştirme merkezi var. Bunlar üniversitelerle ortaklık içinde biyometri alanını da kapsayan konularda çalışıyorlar. 

Şüphesiz biyometrinin otokratik ülkelerde insanları kontrol altında tutmak için kullanılması tek bir şirketin ortaya çıkardığı bir sorun değil. Yakın zamanda, halen sürmekte olan İsrail-Hamas Savaşı’ndan da yapay zekayla ilgili bir haber geldi. İsrail ordusunun, farklı kaynaklardan topladığı istihbaratı ve hava görüntülerini değerlendirerek bombalanabilecek yerler konusunda tavsiyelerde bulunan “Gospel” adında bir sistem kullandığı ortaya çıktı. Haberde görüşü alınan askerî yetkililer, bunu “olumlu bir haber” olarak değerlendiriyordu. Sivil kayıpları en aza indirmeyi sağladığı için… Halbuki, “human-in-the-loop” şekilde kullanılsa, yani sistemin çıktısı askerî uzmanlar tarafından değerlendirildikten sonra uygulansa dahi, insan kararları yanlılık ve yanılmaya o kadar yatkın ki teknoloji adeta bir ölüm makinesine dönüştürülebilir. Zaten, hava saldırısı yapılan hemen her hedefte yaşayan sivillerin de olduğu ve her gün yüzlerce farklı yerin bombalandığı düşünülünce, bunun kabul edilebilir bir yönü olmadığı çok açık.

Kamuoyu algısını kontrol altında tutmak: Dezenformasyon ve yalan haber

Demokrasilerde habere ve bilgiye erişim, yapay zekanın etkileyebileceği bir diğer alan. Aslında yapay zeka kullanmadan da bir konuda yanlış bir algı oluşturmak mümkün. 

^{Yapay zeka tarafından üretilmiş Trump ve Macron görselleri}

2014 yılında, ABD’de Federal İletişim Komisyonu, ağ tarafsızlığıyla ilgili bir kamuoyu yoklaması yaptı. Ağ tarafsızlığı, internet hizmet sağlayıcılarının verinin kaynağını, içeriğini, sahibini dikkate almaksızın tarafsız hizmet vermesiyle ilgili bir kavram. Aksi görüş ise hizmet sağlayıcıların ağ trafiğine öncelik verebilmesini ve farklı fiyatlandırma hakkına sahip olmasını savunuyordu. 

Bu, her şeyden önce, oldukça teknik bir konu. Yani bilgisayar bilimcilerin, mühendislerin ve hukukçuların görüşünün alınıp, kamuoyu tartışmasının bu temel üzerine inşa edilmesi çok daha sağlıklı. Fakat bunun ötesinde, kuruma gönderilen yorumların %57’si geçici e-posta adreslerinden gitmişti. Hatta yorumların %38’i, yedi popüler yorumdan oluşuyordu. Yani ağ tarafsızlığına karşı çıkan birileri tarafından organize bir kampanya vardı. Yorumların bir kısmı takip edilip, belirli kuruluşların internet sitelerine ulaşılabiliyordu.

2014 yılında, sohbet botları bu kadar gelişmiş değildi. Bugün, Büyük Dil Modelleri milyarlarca parametre içerirken (GPT-3 modeli 175 milyar, PaLM 540 milyar, GPT-4’te 1.7 trilyon), o yıllarda kural tabanlı ve çok kısıtlı metinler üretilebiliyordu. Bugün böyle bir kamuoyu anketinden restoran ya da ürün değerlendirmelerine, yazılabilecek yorumların çeşitliliği ve gerçekçiliği hayret verici düzeye ulaştı. 

Aslında kararlarımızı manipüle eden, sadece dezenformasyon ya da yalan haber değil. Sosyal medya platformlarındaki reklamlardan X ya da Facebook akışımıza kadar internette gördüğümüz birçok içerik, kişiselleştirme sonucu önümüze düşüyor. Bunların çoğu, bizim kişisel tercihlerimizi (hangi içerikte ne kadar zaman geçirdik) ve önceki adımlarımızı kullanarak bizi uygulamanın başında daha uzun süre tutmayı ya da reklamlara tıklayıp ürün satın almamızı sağlamaya çalışıyor. Basit gibi görünen birkaç soruluk bir ankete vereceğimiz cevaplar, sosyal medyada takip ettiklerimiz, etkileşime girdiğimiz içerikler kişiliğimiz hakkında önemli ipuçları sunuyor.

Cambridge Analytica meselesi, seçimlerin nasıl manipüle edilebileceğine önemli bir örnekti. O sıralar Cambridge Üniversitesi’nde araştırmacı olan Aleksandr Kogan, geliştirdiği bir uygulamada sorduğu sorularla kullanıcıların psikometrik profilini çıkarmış ve 87 milyona yakın kullanıcının Facebook verisine ulaşmıştı. Brexit referandumu için de benzer iddialarda bulunulmuştu. Ayrıca Hindistan, Kenya, Malta ve Avustralya’daki seçimlerde de şaibeli uygulamalar tartışma yaratmıştı.

Geçmişteki seçim kampanyalarının manipüle edilip edilmemesinden daha da önemlisi, insanların kişisel bilgilerini kullanarak kişilik profilleri çıkarmanın mümkün olması. Bunun üzerine, sosyal medyadaki hareketlerimize bağlı olarak kişiselleştirilmiş içerikler de eklenince, aldığımız kararların manipülasyondan ne kadar bağımsız olduğu düşündürücü hâle geliyor. Benzer tartışmalar hem dünyada hem de Türkiye’deki sayısız seçimde gündeme geldi. Seçimler dışında da hükümetlerin desteklediği troll hesapların varlığı sır değil. Yapay zeka, bu tip operasyonları çok daha büyük ölçeğe taşıyor; tespit edilmesi çok daha zor bir hâle büründürüyor. 

Dezenformasyon ve yalan haberin, gerçek olandan çok daha hızlı yayıldığını biliyoruz. Toplumun önemli bir kısmı, haber kaynaklarını çeşitlendirmekten, teyit mekanizmalarını bilinçli bir şekilde kullanmaktan uzak. Sosyoekonomik durumdan eğitime, pek çok farklı faktör buna etki ediyor. Haberlere yaklaşımımızın yapay zeka kullanılarak manipüle edilmeye bu denli açık olması, demokrasilerin geleceğini de tehdit ediyor.

Goebbels’in propaganda ilkeleri ya da George Orwell’in 1984 distopyası artık uzak bir kabus olmaktan çıktı. Bugün gözetleme ve manipülasyon teknolojileri; kameraların, gazete ve broşürlerin çok ötesine geçmiş durumda. Milyonlarca insanın davranışlarının analiz edilerek, kararlarının yönlendirildiği bir dünyada yaşıyoruz. Yapay zeka, belli kurallara göre optimize edilen geleneksel araçların çok ötesinde imkanlar sunuyor. Durum böyle olunca, seçimler yapılsa dahi, demokrasinin temel bileşenlerinden olan özgürlüğün gerilediği çok açık.

Generative AI ile üretilen içeriklerin karar süreçlerine etkisi

Bilgisayarlı görü ve gözetleme teknolojilerinin ve yalan haberin ötesinde, incelememiz gereken bir diğer başlık da üretken yapay zeka yöntemleri. Üretken çekişmeli ağlar (generative adversarial networks) ile popüler olan üretken derin öğrenme yöntemleri, bunlarla sınırlı değil.

^{Papa'nın yapay zeka ile üretilmiş görselleri}

Varyasyonel oto kodlayıcılar (variational autoencoders, VAE), akış tabanlı üretken modeller (flow-based generative models) ve difüzyon modelleri gibi yöntemlerin birçoğu, koşulsuz görsel ya da yazı ürettikleri dönemde çok daha ilkeldi ve bir görselin, konuşma örneğinin ya da yazının gerçek olmadığı kolaylıkla anlaşılabiliyordu. 

Görsel tarafında saç rengi, etnik köken ve cinsiyet bilgisi gibi özelliklerle koşullandırılarak yüz resimleri üreten modeller, artık anlaşılması çok zor sentetik yüz resimleri üretmeye başladı. Bundan 6-7 yıl öncesinde, verilen bir görseli bir cümle metin ile açıklayan (image captioning) derin öğrenme modelleri varken, şu an tam tersi metin olarak tanımlanan gerçekçi görseller üreten, OpenAI’ın DALL-E’si gibi modeller var. Aslında, Büyük Dil Modelleri de doğal dil işlemedeki üretici modeller. Akustik ses sinyallerinde kullanılan, şarkı melodisi gibi yaratıcı içerikler üretmek de mümkün. Tüm bunların ortak noktası, üretilmiş şeyler olduğunu anlamanın zorlaşması.

İsrail-Hamas Savaşı’na aitmiş gibi görünen sayısız görsel var sosyal medyada. Hatta, Adobe Stock’ta yıkılmış evlerin, bombalanmış sokakların, savaş sahnelerinde çocukların olduğu gerçek olmayan stok görsellerin satışa sunulduğu da görüldü. Dahası, haber siteleri de bu görselleri kullanıyor. 

Böylesi bir savaşa bakış açımızı belirlemeden önce, yorumlardan olabildiğince arındırılmış şekilde gerçeği görmeye ihtiyacımız var. Öyle ki, bu tip durumlarda savaş muhabirlerinin çektikleri fotoğraflar üzerinde ufak rötuşlar yapması bile kabul edilemez. Ancak gün geçtikçe gelişen üretici modellerde gerçeği ayırt etmek, özel uzmanlık gerektiren bir konu olmaya başladı. 

Michael Adam ve Clotilde Hocquard tarafından Avrupa Parlamentosu Araştırma Servisi için yazılan bir rapor, yapay zeka tarafından üretilen görsellerin metadata bilgisi içine bir tür “watermark” yerleştirilmesi önerisinde bulunuyor. Ancak açıkçası, böyle bir sistemi içerik üreten şirketlerin hepsine kabul ettirmek mümkün değil. Derin öğrenme modelleri, büyük ölçüde açık kaynak kodlu. Yeterince güçlü grafik işlemcisi olan herhangi bir bilgisayarla pratik tecrübesi olan herkes tarafından geliştirebilir. Belli bir noktada bu modellerin eğitilmesi, ChatGPT gibi büyük dil modellerinde olduğu gibi dünyada ancak kısıtlı teknoloji şirketinin yapabileceği bir hâl alsa dahi, tamamen kontrol altında tutmak neredeyse imkansız.

Son zamanlarda üretken içeriklerin karar süreçlerine etkisiyle ilgili dikkat çeken en çarpıcı örnek, Brookings Enstitüsü tarafından yapılan bir deney. Çalışmaya katılan öğrencilerden silah kontrolü için bir yasa çıkarılmasını isteyen ya da böyle bir yasayı reddeden mektuplar yazmaları istenmiş. Benzer mektuplar, GPT-3 kullanarak da üretilmiş ve rastgele şekilde 7.000 civarı eyalet meclisi üyesine gönderilmiş. Sonuç, oldukça ilginç. Yapay zeka modeli ve insan tarafından yazılan e-postalara verilen cevap oranı arasında istatistiksel olarak anlamlı bir fark yok. GPT-3 tarafından üretilen mektuplara dönüş sayısı, cevap alan öğrenci sayısının sadece %4 altında.

Yani kanun koyucular üzerinde baskı yaratmak isteyen gruplar, sayıca o kadar kalabalık olmasalar dahi, böyle bir yöntem izleyerek politik gündeme etki edebilirler.

Durum umutsuz mu?

Şüphesiz ki üretim, otomasyon, tıp, mimari, güzel sanatlar gibi alanlarda başarılı yapay zeka uygulamalarının sayısı da az değil. Yapay zekanın bilimsel keşiflerden kanser gibi hastalıklara çare bulunmasına, yenilikçi öğretme yöntemlerinden düşük kaynaklı dillere içerik kazandırılmasına çok değerli uygulama alanları da var. 

Ancak, devletin kontrolünü orantısız bir ölçekte artırmasına imkan sağlayan, yurttaşların karar süreçlerini manipüle etme potansiyeli taşıyan örnekler üzerinde düşünülmesi de şart. Özellikle, kişisel bilgilerimizi paylaşırken tüm ihtimalleri göz önünde bulundurmak; okuduğumuz haberlere sorgulayıcı yaklaşmak, ancak fikrimizi açıklamaktan, kanun koyuculara ulaşmaktan da çekinmemek önemli adımlar. Dezenformasyon, yalan haber ve üretilmiş içeriklerle mücadele de, basının kendi meslek ilkeleri çerçevesinde ele alınıp düzenlenmeli. Kısacası, hem kendimizi korumak hem de sesimizin duyulur olması için daha bilinçli olmalıyız.