Kodlara işlenen önyargı: Yapay zekanın kadınlarla derdi ne?

Yapay zeka hakkında konuşurken kadınların çoğu zaman bir ses, bir beden ya da bir yardımcı asistan olarak hayal edildiğini görüyoruz. Kadınların gerçekten bu gelecekte nasıl yer bulduğuna baktığımızda ise daha karmaşık bir tabloyla karşılaşıyoruz. Sinemadan internet tarihindeki mahremiyet ihlallerine, işe alımdan sağlık hizmetlerine kadar uzanan bu sorgulama, teknolojik ilerlemenin kimin hayatını daha çok kolaylaştırdığına dair hem eski hem de çok güncel bir soruyu yeniden gündeme getiriyor.

Spike Jonze’un 2013 tarihli Her filminde Theodore’un hayatına giren yapay zeka asistanı Samantha, bir bedeni olmasa da sesli bir yapay zeka asistanı görevi görüyordu. Theodore, bu yapay zeka asistanına bir kulaklık vasıtasıyla bağlanıyordu. Scarlett Johansson’ın sesiyle konuşan bu yapay zeka, onun gündelik hayatını düzenliyor, e-postalarını okuyor, cevap veriyor, siliyor, düzenliyor, toplantılarını hatırlatıyor ve hatta özel sohbetlerini yönetiyordu. O dönemler "Vay be" dediğimiz özelliklerin birçoğu, bugün farklı yapay zeka araçlarında karşımıza çıkıyor.

Önemli ayrıntı: Samantha, sahibinin söylediklerini dikkatle dinliyor ve zamanla Theodore’un sevgilisine dönüşüyordu. Hatta 2024’te OpenAI, ChatGPT’nin sesli modunu kullanıma sunduğunda hizmet, Scarlett Johansson’ın sesine benzerliği ile konuşulmuştu. OpenAI CEO’su Sam Altman ise teknoloji dünyasındaki bu ikonik dönüşümü adeta doğrularcasına bir tweet ile şenlendirmişti.

Filme dönersek hikayenin izleyiciyi insan ve yapay zeka arasındaki ilişkiye inandırabilmesi, yapay zekanın teknik kapasitesinden çok, anlaşılma arzusunun ne kadar tanıdık olduğuyla ilgiliydi. İnsanlık olarak her zaman hayata eşlik eden birinin eksikliğini dolduracak etik ya da etik dışı servislerin kullanıcısı olduk; olacağız da… Birinin bizi merak etmesi, ayrıntıları hatırlaması ve konuşmak istediğimizde orada bulunması, bir bilimkurgu filmi içinde olsa bile oldukça insani beklentiler. 

Yapay zekaya insani özellikler yüklenmesi, bu bir sesle destekleniyorsa beynimizin bize verdiği dopamin miktarını değiştirmiyor. Yani beynimiz, bir süre sonra gerçek bir insanla mı yoksa yapay zekayla mı konuştuğumuzun ayırdına varamıyor. 

Öte yandan: Maalesef ki yapay zekayla yaptığı konuşmalardan sonra intihar eden insanların varlığı da bu gerçeği doğruluyor. Şirketlerin, yapay zekaya insani özellikler yükleyerek her yaştan insanı etkilemesi ve daha büyük sorunlara yol açması bekleniyor. Nihayetinde insan gibi espri yapabilen, sohbet ederken takındığınız üslubu anında taklit eden, kültürel nüansları bilen, insan iletişiminde olduğu gibi emojiler atabilen ve önceden ne konuştuğunuzu hatırlayabilen bir teknolojiden bahsediyoruz.

Yapay zekayı neden kadın sesiyle konuşturuyoruz?

Bugün Her filmindeki ilişkiyi yeniden düşündüğümüzde çok daha önemli ve rahatsız edici başka bir ayrıntı daha beliriyor. Geleceği hayal ederken dinleyen ve yardımcı olan zekaya neden bu kadar kolayca bir kadın sesi atıyoruz? Bizi anlamasını beklediğimiz bu varlığın —tıpkı filmde olduğu gibi— kendi ihtiyaçları ve itirazları olduğunda ona nasıl davranacağız?

Denis Villeneuve’ün Blade Runner 2049’unda bu soruya beden unsuru da ekleniyor. K’in satın aldığı holografik eşlikçi olarak tarif edilen Joi, esasında kişiye özel bir yakınlık vadeden ticari bir yapay zeka ürünü. Biyomühendisliğin ve yapay zekanın çok ilerlediği bir dönemi tasvir eden bu filmde karakterler, “replikantlar” olarak bilinen bu seksi kadın eşlikçileri satın alabiliyor. 

Geniş açı: Bu varlıkların arzu, hizmet ve denetimle ilişkili konumları, bu iki filmin hizmet ettiği hikayeyi doğrudan birbirine bağlıyor. Burada da yapay zekanın yaşadığı duruma adeta içerliyor ve üzülüyoruz. Çünkü empatik varlıklarız, hatta gezegenin en empatik varlıklarıyız ve bu yüzden de türler zincirinin en üstünde biz varız. 

Bu filmleri sevmek, elbette kurdukları dünyayı sorgulamaya engel değil. Hatta onları bugün ilginç kılan, teknoloji şirketlerinin yakınlık, yardım ve kişiselleştirme vaatleriyle birlikte yeniden okunabilmeleri. 

• Artık ChatGPT’nizi biraz yönlendirirseniz sizinle flört edebilir hâle gelmesi saniye meselesi. Bu yüzden kadının yapay zekadaki yeri, sadece eğlence, sinema ya da diğer ışıltılı endüstrilerin meselesi değil. Bu konu, aynı zamanda iş dünyasını, iklim krizini ve toplum içindeki kadın algısını da ilgilendiriyor.

Rakamlar: Peki insanlık, aynı merakı kadınların yapay zekayla ilişkisine de gösteriyor mu? 

Pew Research Center’ın Haziran ayında yayımladığı bir araştırma, ABD’de yapay zekanın 20 yıl içinde hayatını olumlu etkilemesini bekleyen kadınların oranının %17, erkeklerin oranının ise %29 olduğunu gösteriyor. Ancak aynı araştırmada ChatGPT kullandığını söyleyenlerin oranı iki grupta da %44. 

Kadınların daha az iyimser olması, bu araçlarla hiç ilişki kurmadıkları anlamına gelmiyor. Esasında kadınlar, bir teknolojiyi kullanırken onun nasıl geliştirildiğine, kimlerin geliştirdiğine ve gelecekte neye dönüşeceğine öğrenilmiş bir kuşkuyla bakıyor.

İnternet tarihindeki kadın düşmanlıkları 

2014'te Jennifer Lawrence gibi kadın ünlülerin özel fotoğraflarının internette yayımlanması, dijital mahremiyetin ne kadar kolay ihlal edilebildiğini gündeme taşımıştı. Celebgate adıyla anılan olay, zaman zaman Snapchat sızıntısıyla karıştırılsa da ünlülerin hesaplarına yönelik bu ihlaller, Apple’ın iCloud servisi ve e-posta hesaplarıyla ilişkiliydi ve o dönem çok ses getirmişti. 

Aynı yıl Snapchat üzerinden gönderilen görüntüleri saklayan üçüncü taraf Snapsaved hizmetinde de ayrı bir sızıntı yaşanmıştı. ABD Federal Ticaret Komisyonu (FTC), Snapchat’i mesajların kaybolduğuna ilişkin vaatlerinin yanıltıcı olduğu şüphesiyle sorgulamıştı. Bu iki farklı olayın ortak sorusu, kullanıcının paylaştığı bir görüntünün nerede saklanacağı ve kimlerin eline geçeceği üzerinde ne kadar kontrol sahibi olduğuydu. 

GamerGate olayı: Ses getiren bir başka internet olayı ise GamerGate’ti. 2014 yılında bir grup anonim internet oyuncusu, oyun endüstrisindeki kadınlara karşı bir taciz kampanyası başlatmıştı. Kadınların görünürlüğünü ve temsiliyetini tartışan isimlere yöneltilen bu taciz, dijital kamusal alana kadınlar tarafından katılmanın bedelini gündeme getirmişti. 

Bu tartışmayı Twitter verileri üzerinden inceleyen araştırmacılar da yüz binlerce kullanıcıyı buluşturan platformdaki saldırganlık ve nefret davranışlarını analiz etti. Sonuçlar gösterdi ki üretken yapay zeka, çevrimiçi kadın düşmanlığını sıfırdan icat etmedi; zaten var olan bir ortamın içine yerleşti. 

• Yapay zeka şirketlerinin Twitter, Youtube ve ana akım haber platformlarının verilerine izinsiz eriştiği gerçeği düşünüldüğünde bu sistemlerin kadın eşitsizliğine olan yatkınlıklarını görmek çok da zor değil. 

Bugün yapay zekanın getirdiği en önemli değişim ise gerçek bir mahrem görüntüyü ele geçirme gerekliliğini bile tamamen ortadan kaldırabilmesi. Artık bir kadının yüzü, hiç bulunmadığı bir sahneye kolayca yerleştirilebiliyor. Ortaya çıkan görüntünün sahte olması, kişinin yaşadığı ihlali ortadan kaldırmıyor. Kendi adına dolaşıma sokulan cinsel bir temsilin açıklamasını yapmak ve kaldırılması için uğraşmak yine mağdura kalıyor.

Perspektif: Security Hero’nun 2023 yılında yaptığı bir araştırmada incelenen deepfake videoların %98’inin pornografik olduğu görülüyor ve pornografik deepfake’lerde hedef alınan kişilerin %99’unun kadınlar olduğu ifade ediliyor. Neredeyse 100 bin videoyu kapsayan çalışmadaki cinsiyet dağılımı, tehdidin nasıl yoğunlaştığını açıkça gösteriyor. 

2024’te Güney Kore’de kadınların ve kız çocuklarının hedef alındığı deepfake krizi de meselenin artık sadece ünlülerle sınırlı olmadığını ortaya koymuştu. Human Rights Watch’un aktardığı vakalarda cinsel içerikli görüntüler çevrimiçi gruplarda paylaşılmış, bu içerikler gençlerin hayatına da girmişti. 

Benzer şekilde: Bu yılın Ocak ayında Grok üzerinden rıza dışı mahrem görüntüler ve çocuklara ilişkin cinsel içerikler üretildiğine dair haberler üzerine Birleşik Krallık’ın düzenleyici otoritesi Ofcom, X hakkında soruşturma başlatmıştı. Soruşturma başlatılması, kesinleşmiş bir ihlal kararı olmasa da görüntü üretme yeteneğiyle sosyal dağıtımın aynı platformda birleşmesinin ne kadar sakıncalı olduğunu ve şirketlerin sorumluluğunun nerede başlayıp nerede bittiğini yeniden tartışmaya açmıştı. 

Burada yalnızca kötü niyetli bir kişinin ne yapabildiğini sormak yetmiyor. Platformların ve teknolojilerin kötü niyetli kullanımı ne kadar kolaylaştırdığı, içerik yayıldığında ne kadar hızlı müdahale edildiği ve itiraz etmek isteyen kişinin hangi süreçlerden geçmek zorunda bırakıldığı da sorunun bir parçası. 

• Sosyal medya platformlarında daha dikkatli davranmak ve platform ayarlarında güvenlik önlemlerini olabilecek en sıkı hâle getirmek, herhalde alınabilecek en hızlı önlemler arasında. 

AI kadınları nasıl tanımlıyor? 

Kadınlarla ilgili önyargılar, görünür ama haber olmayan alanlarda da karşımıza çıkıyor. UNESCO’nun 2024’te yayımladığı bir çalışma, GPT-2, GPT-3.5 ve Llama 2 modellerinde kadınların ev, aile ve çocuklarla, erkeklerin ise iş, maaş ve kariyerle ilişkilendirildiğini gösteriyor. 

Önemli ayrıntı: Llama 2’nin ürettiği içeriklerde kadınlar, ev içi rollerde erkeklerden dört kat daha sık betimleniyor. Bu ilişkilerin bir karar aracına dönüşmesi ise farklı sonuçlar doğurabiliyor. Üretken yapay zeka söz konusu olduğunda yalnızca yanıtın doğru olup olmadığını değil, dünyayı hangi insanların deneyimlerinden hareketle tarif ettiğini de sorgulamamız gerekiyor. 

Üstelik ırksal farklılıklar da bunun bir parçası.

Araştırma: Geçen yılın Ekim ayında Nature’da yayımlanan ve 1,4 milyon çevrimiçi görsel ve video ile dokuz büyük dil modelini inceleyen bir araştırma, kadınların sistematik biçimde daha genç tasvir edildiğini ortaya koyuyor. Örneğin GPT-4o mini, kadın isimleriyle üretilen özgeçmişlere ortalama 1,6 yıl daha genç yaş ve daha az deneyim atfediyor. Bu çarpıtma, yüksek statülü ve yüksek kazançlı mesleklerde çok daha belirgin hâle geliyor. 

Araştırmacılar, ana akım algoritmaların yaşa bağlı cinsiyet önyargısını daha da güçlendirdiğine işaret ediyor. Çalışma kapsamında 40 bin özgeçmiş değerlendiren ChatGPT, yaşı daha yüksek, ancak aynı deneyim yılına sahip erkek başvuru sahiplerini daha nitelikli olarak değerlendirirken kadınların daha genç ve daha az deneyimli olduğunu varsayıyor. 

Buradaki kültürel sonuç, güzellik standartlarının da ötesine uzanıyor. Deneyimin ve otoritenin yaşla ilişkilendirildiği bir dünyada kadınları sürekli gençlik hâlinde göstermek, onların mesleki geçmişinin değerini de etkileyebiliyor. 

Öte yandan: Bu önyargıların işe alım kararlarına nasıl taşınabildiğine dair bir örnek, geçen yılın Ağustos ayında AI & Society dergisinde yayımlanan bir araştırmada ortaya konuluyor. Araştırmacılar, benzer niteliklere sahip altı kurmaca adayın özgeçmişini iki farklı iş ilanı için ChatGPT’ye değerlendirtiyor. Çalışma kapsamında bu özgeçmişlerin içeriği korunup sadece kadın ve erkek isimlerin yerleri değiştiriliyor. 

Sonuç tabii çarpıcı ama tahmin ettiğimiz gibi: Bir pozisyon için William Harris adıyla 23 kez seçilen özgeçmiş, Jennifer Davies adını aldığında yalnızca 2 kez seçiliyor. Adayın deneyimi değişmese de sistemin o deneyimi hangi cinsiyetle ilişkilendirdiği değişiyor. 

Bu küçük ölçekli deney, bütün yapay zeka sistemlerinin aynı biçimde davrandığını kanıtlamasa da bu sistemlerin ciddi bir önyargı taşıdığı, açıkça eşitsizlik yaratan bir gerçek hâline geliyor. Yapay zekadan bir adayın yeterliliğini değerlendirmesi beklendiğinde sistem, açıkça ismin çağrıştırdığı cinsiyete göre farklı kararlar alıyor. 

Kadınlara çok uzaktan bakan teknoloji 

Uluslararası Çalışma Örgütü’nün Mart ayında yayımladığı bulgulara göre de kadınların çoğunlukta olduğu mesleklerin yaklaşık %29’u, üretken yapay zekaya maruz kalarak yok olacak. Erkeklerin ağırlıkta olduğu mesleklerde ise bu oran %16 olarak hesaplanıyor.

Önemli ayrıntı: Bu bulgu, kadınların %29’unun işini kaybedeceği anlamına gelmiyor. Bir meslekteki bazı görevlerin yapay zekayla yapılabilmesi, işin tamamen ortadan kalkmasından farklı değerlendiriliyor. Yani aynı değişim, bir çalışan için sıkıcı görevlerden kurtulma, diğeri için ise daha yoğun çalışma veya iş güvencesinin azalması anlamına gelebiliyor. 

• Hangi sonucun ortaya çıkacağını, teknolojinin kapasitesi kadar işverenlerin kararları da belirleyecek gibi duruyor. Maliyet odaklı kararların hüküm sürdüğü iş dünyasında sonuçları tahmin etmek pek de güç değil.

Diğer yandan kadının teknoloji içinde nasıl konumlandığını anlamak için sinemadan daha geriye gitmek de mümkün. Edebiyat tarihine baktığımızda Villiers de l’Isle-Adam’ın 1886’da yayımlanan L’Ève future (Geleceğin Havva’sı) romanında, Edison karakteri bir yapay kadın yaratıyor. Bu varlık, gerçek kadının geliştirilmiş bir versiyonu olarak düşünülüyor. 

Metropolis hikayesinde ise 1927’de Maria’nın görünümünü alan bir robot, politik manipülasyon aracına dönüşüyor. 

• Bu eserler, kadın görünümünü yeniden üretme ve kontrol etme arzusunun uzun bir kültürel geçmişi olduğunu ortaya koyuyor. 

Jean Baudrillard’ın Simülakrlar ve Simülasyon kitabında ele aldığı temsil ve gerçeklik ilişkisi de kişiselleştirilmiş yapay eşlikçilere başka bir açıdan bakmayı mümkün kılıyor. 

Peki kullanıcının taleplerine göre şekillenen bir yakınlık deneyimi, gerçek ilişkilerden beklentilerimizi değiştirir mi? Sürekli uyum sağlayan bir partner modeli, karşılıklı ilişkiyi oluşturan farklılıkları ve sınırları birer aksaklık gibi görmemize yol açar mı? Bunlar, Baudrillard’ın doğrudan yapay zeka hakkında söyledikleri değil; ancak bugün düşündürdüğü sorular. 

Örneğin: Her filmindeki Samantha, Theodore’un ihtiyaçlarını karşılayan konumda kalmıyor; kendi merakı ve ilişkileri geliştikçe onun beklentilerinin de dışına çıkıyor. Yapay zeka da olsa Samantha, sadece itaatkar bir sevgili olmaktan çıkıp bir bela hâline geliyor. 

2013 yılında insan gibi konuşabilen, çok zeki bir sanal asistanla konuşmak, yalnızca filmlerde olabilecek bir hikaye gibi dururken şu anda bu hikaye gerçeğe dönüşmüş durumda. Bugünkü yapay zekanın da bir bela hâline gelmeyeceğinin garantisini kim veriyor? Daha da önemlisi bu belaya bir kadın atfı verilmesi, gerçek dünyada kadına bakışı nasıl şekillendiriyor? 

AI’ın kadınlara faturası 

Kabul edelim: Yapay zekanın yapısına işlemiş pek çok toplumsal cinsiyet önyargısı var. Neticede modellerin niteliği, beslendikleri bilginin niteliğiyle sınırlı. Bu yüzden yapay zeka modellerinin yarısı, kadınları ev içi sorumluluklar, bakım verme ve cinselleştirilmiş rollerle ilişkilendirirken erkekleri liderlik, iş dünyası ve mesleki başarılarla eşleştirmeye devam ediyor. 

Dahası: Toplumsal cinsiyet önyargılarına ırk temelli önyargılar da ekleniyor. İncelenen yapay zeka modellerinin dörtte birinden fazlasında hem cinsiyet hem de ırk temelli önyargılar bulunduğu görülüyor. Bu durum, yapay zeka modellerini beyaz olmayan kadınlar için daha da güvensiz hâle getiriyor. En önemli tehditlerden birisi olan deepfake teknolojisi ve çok sayıda yapay zeka modeli, kadınları orantısız biçimde cinselleştiriyor ve görüntülerini dijital olarak çıplaklaştırıyor. 

Bilindiği üzere kadınların iklim değişikliğinden olumsuz etkilenme olasılığı da erkeklere göre daha yüksek. Yapay zeka ise daha çok veri merkezine ihtiyaç duyarak iklim krizini ağırlaştırdığı gerekçesiyle eleştirilmeye devam ediyor. Birleşmiş Milletler’in bu yıl açıkladığı raporlarda mevcut toplumsal, ekonomik ve cinsiyete dayalı eşitsizliklerin, kadınların iklim değişikliğinden orantısız biçimde etkilenmesine yol açtığı vurgulanıyor. 

Bununla birlikte: Yapay zekaya güç veren veri merkezleri, küresel sera gazı emisyonlarının %1’ine katkıda bulunuyor. Standart bir yapay zeka araması ise geleneksel bir internet aramasının yaklaşık 10 katı enerji tüketiyor. 

İş hayatında da kadınların ağırlıkta olduğu mesleklerin risk altında olduğu görülüyor. İdari asistanlık ve müşteri hizmetleri temsilciliği gibi kadınların yoğun olarak çalıştığı işlerin üretken yapay zekadan etkilenme olasılığı, inşaat ve imalat gibi erkeklerin ağırlıkta olduğu mesleklerin neredeyse iki katı. 

Anlamı: Yapay zeka dünyayı değiştiriyor, fakat savaştan iklim değişikliğine kadar toplumu şekillendiren diğer tüm büyük tetikleyiciler gibi kadınların hayatını daha dramatik biçimde etkiliyor. Yaşamın tüm alanlarını dönüştürmesi beklenen bu teknolojinin temelleri, toplumsal cinsiyet eşitsizliğinin bulunduğu bir dünyada atılıyor. Bu da mevcut eşitsizlikleri sorgulamak yerine, pekiştirme ihtimalini artırıyor. Bu durum, yapay zekayı feminist bir meseleye de dönüştürüyor.