Sentetik veri, ayrımcı yapay zekâ davranışlarına çözüm olabilir mi?

Yapay zekâ teknolojisinin gelişmekte olan teknolojiler arasında en heyecan verici olanlardan birisi olduğu doğru; ancak bu heyecan, pek çok endişeyi de beraberinde getiriyor. Bu endişelerden biri ise yapay zekâ sistemlerindeki ayrımcılıklar. 

2015 yılında Google’ın Fotoğraflar uygulamasının siyahi insanları otomatik olarak “goril” olarak kategorize ettiği anlaşılmış; bu durum tahmin edebileceğiniz gibi büyük tepki çekmişti. Bir başka örnekte ise Amazon’un işe alım sürecinde yardımcı olması için geliştirdiği bir yapay zekâ aracının kadın adaylara karşı ayrımcı bir tavır sergilediği ortaya çıkmıştı. 

Geçtiğimiz haftalarda ise Microsoft, bir kişinin yüzüne bakarak o kişinin ruh haline dair çıkarım yapan yapay zekâ yazılımlarının satışını durduracağını açıkladı. Söz konusu yazılımların, kadınlar ve beyaz olmayan insanlara karşı ayrımcı tavırlar sergilediği bir süredir biliniyordu ve Microsoft son olarak çareyi yazılımları kullanımdan kaldırmakta bulmuş gibi görünüyor. 

Ancak son zamanlarda bazı teknoloji firmaları yapay zekâlardaki ayrımcılığı ortadan kaldırmak için yeni bir yöntem deniyor. Buna göre yapay zekâların tarafsız ve ön yargısız olması, “sahte” veriler sayesinde mümkün olabilir. 

Gerçek veriler "yetersiz" kalıyor

Yapay zekâ yazılımlarının ayrımcılığa karşı eğitilmesi şimdiye kadar genelde var olan görseller üzerinden gerçekleşiyordu. Yani insanları tanımlamak için kullanılan yapay zekâ yazılımları, en doğru şekilde sonuç vermeleri için binlerce ve hatta milyonlarca gerçek insanın görüntüsü ile eğitiliyordu. Ancak yukarıda vermiş olduğumuz örneklere bakacak olursak bu yöntemin şimdiye kadar pek de işe yaradığı söylenemez. 

2015 yılında tüm cilt tipleri ve ten renkleri için kozmetik ürünler satmak amacıyla ortaya “Yuty” isimli bir internet sitesi kurmak isteyen Simi Lindgren, siteye yüklenen müşteri fotoğraflarını doğru bir şekilde analiz etmesi ve sonrasında bunlara uygun ürünler önermesi için yapay zekânın gücünden yararlanmak istedi. Ancak bu Lindgren’in sandığı kadar kolay olmayacaktı: Fikrini test etmek için Flickr’dan 70 bin lisanslı insan yüzünün bulunduğu popüler bir veri tabanını kullanan Lindgren, veri tabanının yeterince kapsayıcı olmadığını gördü. Mesela erkeklerde yüz kılı varken kadınlarda yoktu. Aynı şekilde veri tabanında, akne ve ince çizgiler gibi çeşitli cilt durumlarının doğru tespit edilmesi için yeterince koyu tenli kadın da yoktu. Bu nedenle Lindgren, sistemi eğitmek için arkadaş ağından ve ailesinden yaklaşık bin kadar fotoğraf aldı; ancak sonuç yine de istenilenden çok uzaktı. 

Son olarak Lindgren ve ekibi, 2014’de yapay zekâ araştırmacısı Ian Goodfellow tarafından tasarlanan ve sentetik görseller oluşturan bir tür sinir ağı olan GAN’ı (Genel Rakip Ağlar) kullanarak kendi verilerini oluşturmaya karar verdi. Yüz binlerce fotogerçekçi sahte görüntü oluşturmak için bu yöntemi kullanan ekip, çabaları sonucunda “farklı cilt tonlarına ve farklı endişelere sahip farklı insanlardan oluşan dengeli bir veri” seti elde etmeyi başardı. Günümüzde Yuty’nin veri tabanındaki yüz görsellerinin yaklaşık %80’ini aslında var olmayan sentetik görüntüler oluşturuyor ve sistem, çoğu şirketinkinin aksine oldukça doğru sonuçlar sunuyor. 

Giderek daha fazla şirket sentetik verileri benimsiyor

Yuty’nin bu başarısı pek çok teknoloji devine de ilham olmuş gibi gözüküyor. Google, sigorta sahtekarlıklarını tahmin etmek için yapay olarak oluşturulmuş sahte tıbbi geçmişlerinden faydalanıyor ve Amazon, sesli asistanı Alexa’yı eğitmek için sentetik verileri kullanıyor. Ayrıca, Meta’nın da geçtiğimiz yıl New York merkezli bir sentetik veri girişimi olan AIReverie’yi satın aldığı biliniyor. 

Bununla birlikte, 2024 yılına kadar yapay zekâ sistemlerinin eğitilmesi için kullanılan verilerin %60’ının sentetik verilerden oluşacağını iddia eden Gartner, 2030 yılına gelindiğinde ise sahte verilerin gerçek verileri tamamen gölgede bırakacağını öngörüyor. Yapay kimlik tabloları oluşturan Tel Aviv merkezli bir girişim olan Fairgen CEO’su Samuel Cohen, konuya dair “Yapay popülasyonlar yaratıyoruz, ayrımcılığın olmayacağı paralel bir dünya yaratıyoruz” ifadelerini kullanıyor ve “Bu dünyadan sınırsız miktarda yapay birey örnekleyebilir ve bunları veri olarak kullanabiliriz” diyerek sentetik verilerin sağlayabileceği faydalara dikkat çekiyor. 

İnsanın olduğu her yerde ön yargı var

Öte yandan, yapay zekâların ayrımcı davranışlar sergilemesinin ardında yatan tek neden eğitim aşamasında kullanılan verilerin yeterince kapsayıcı olmaması değil; bunun pek çok farklı nedeni olabilir. Her şeyden önce; insanların bilinçli ya da farkında bile olmadan ön yargılara sahip olması, yapay zekânın eğitildiği verilerin de ön yargılar üzerine inşa edildiği anlamına geliyor. Mesela geçtiğimiz yıl kadınların S&P şirket CEO’larının sadece %6’sını oluşturması ve kadınların erkeklere göre ciddi oranda daha az üst düzey yöneticilik pozisyonunda çalışmış olması; iş ortamında kadınlara yönelik on yıllardır sürmekte olan ön yargının sonuçlarından biri. Ancak bu verilerin işe alım algoritmalarının eğitiminde kullanıldığı gerçeği, algoritmanın da adayların cinsiyetine göre çıkarım yapacağı anlamına gelir; tıpkı Amazon vakasında olduğu gibi. Google üzerinde “profesyonel olmayan saç stilleri” şeklinde arama yaptığınızda karşınıza ağırlıklı olarak siyahi kadın görsellerinin çıkması da buna bir örnek. En iyi arama sonuçlarının en sık tıklananlar olması, bu ön yargılı sonuçların arama algoritmasına eklenmesiyle ve giderek daha fazla siyahi kadının “profesyonel olmayan” olarak etiketlenmesiyle sonuçlanır.  

Yapay zekâ sistemlerinin ön yargılı olmasına yol açan elementlerden birisi de yapay zekâ uzmanlarının yeterince çeşitli olmaması. Bir ekibin çeşitli arka plan ve kişiliklere sahip üyelerden oluşması, konunun birçok farklı perspektiften ele alınmasına katkıda bulunur; ancak çeşitlilik olmadığında durum bunun tam tersidir. Facebook ve Google’da teknik rollerden çalışan insanların sadece %2’sinin siyahi olduğu ve dünya genelinde kadınların bütün yapay zekâ uzmanlarının yalnızca %22’sini oluşturduğu gerçeğini göz önünde bulundurduğunuzda; bu eksikliğin yapay zekâda yol açabileceği ayrımcılığı tahmin etmek çok güç değil.   

Kısacası, sentetik görsellerden oluşan daha geniş bir skalaya sahip bir veri tabanı ile yapay zekâ sistemlerini daha az ön yargılı bir hale getirmek mümkün olabilir; ancak insanlar ön yargılarını kıramadığı sürece sorunun bu şekilde kökten çözüleceğini düşünmek biraz fazla hayalci bir yaklaşım olacaktır. University College London’dan bilgisayar bilimi fahri doçenti Julien Cornebise, konuya ilişkin olarak “Ön yargı sadece verilerde değil. Bu araçları kendi kültürel varsayımlarıyla geliştiren insanlar da var” diyor ve ekliyor: “İnsan yapımı olan her şey için durum böyle”