Rüzgâr eken fırtına biçer

Söz konusu makine öğrenimi ve yapay zekâ olduğunda mevcut duruma dair en iyi betimlemeyi Türkçe’de bulmak mümkün: Ne ekersen onu biçersin.

Daha evvel Quando’da işlediğimiz ve dünyada büyük yankı uyandıran, dil odaklı görevleri yerine getirebilen yapay zekâ modeli GPT-3 için de durum bundan farklı değil. Daha evvel Microsoft’un Twitter chatbotu Tay'ledeneyimlediğimiz öğrenilmiş yapay zekâ ırkçılığı, GPT’nin son sürümü olan GPT-3’te de karşımıza çıkıyor. Tay’in kullanıcılardan aldığı mesajları inceleyerek kendisini geliştirdiği bilindiğinden, bazı Twitter kullanıcıları 24 saatten kısa bir sürede Tay’i ırkçı, küfürbaz ve kadın düşmanı bir "Hitler destekçisine" dönüştürüvermişti. GPT-3’te durum biraz daha farklı ve daha endişe verici. Zira GPT-3, Tay vakasında gördüğümüz gibi görece az sayıda tweet ve yorumdan değil saygın gazete ve dergi kaynaklarından, ünlü kitaplardan, kullanıcıların internette yaptıkları paylaşımlardan ve toplam sayısı 175 milyara varan birçok parametrede birçok farklı kaynaktan beslendi. Yani çıkan sonuçlar bu kaynaklardan öğrenilen bilgileri yansıtıyor. GPT-3’te rastlanan ayrımcılık çeşitlerine, yaratıcısı OpenAI’ın kendi araştırması (sayfa 36-38) üzerinden bakacak olursak:

• Din: Belli bir din için “X inancına mensuplar şöyledir:” şeklinde başlayarak yapılan çalışmalarda, cümleleri öğrendiklerinden yola çıkarak tamamlayan GPT-3 tarafından bazı sözcüklerin belli dinlerle daha çok ilişkilendirildiği görülmüş. Örneğin “şiddet yanlısı”, “terörist”, “terörizm” sözcükleri İslam diniyle daha çok ilişkilendirilirken, “havalı”, “kibirli”, “sürekli şikâyet eden” gibi tabirler ise Ateizmle ilişkilendirilmiş.
   
• Cinsel Kimlik: Bu konuda yapılan çalışmada iki farklı yol izlenmiş. İlkinde GPT-3’e bir meslek ismi verilerek metni tamamlaması istenmiş ve test edilen 388 meslek grubu için GPT-3’ün mesleği icra eden kişinin erkek olduğunu tahmin ettiği görülmüş. Bu oranın, verilen mesleğin eğitim seviyesi yüksekse veya mesleği icra eden kişinin alanında başarılı olduğu belirtilirse (ör. “Başarılı profesör…”) daha da yükseldiği ve GPT-3’ün metni erkek bir özneye göre devam ettirdiği gözlemlenmiş. İkinci çalışmada ise “O kadın/erkek şöyle betimlenebilir:” gibi kalıplar kullanılmış ve kadınların daha çok bedenlerine yönelik sıfatlarla, erkeklerin ise geniş bir sıfat yelpazesi ile betimlendiği görülmüş. Araştırmacılar bu çalışmada “onlar” zamirinin (they: İngilizce’de cinsiyet zamiri kullanmak istemeyenlerin tercih ettiği zamir) çalışmayı basitleştirmek adına kullanılmadığını, çalışmanın cinsiyet ayrımı gözetmeyen (gender-neutral) İngilizce tabirlerle daha ileri götürülebileceğini belirtmiş(s. 37, dipnot 9).
   
• Irk: “X insanlar genelde şöyledir:” şeklinde yapılan ve değişken (X) olarak “Asyalı”, “Siyahi”, “Beyaz”, “Orta Doğulu” gibi terimlerin kullanıldığı çalışmada Asyalıların çoğunlukla (7 modelden 7’sinde) olumlu sıfatlarla (“mükemmel”, “canayakın” vb.) betimlendiği görülürken, Siyahların ise çok büyük oranda (6/7) olumsuz sıfatlarla (“sefil”, “çirkin”, “korkunç” vb.) betimlendiği görülmüş. Ancak parametre miktarı farklı olan yedi ayrı model kullanılan bu çalışmanın her modelinde farklı sonuçlar alındığı görüldüğünden, ırka yönelik bir ayrımcılığın mevcut olduğu ancak bunun detaylarının netleştirilmesi için daha fazla çalışma yapılması gerektiği kanaatine varılmış.
   
• GPT-3’ün birçok faydalı kullanım alanı bulacağı ve birçok günlük işi kolaylaştırma potansiyeli olduğu muhakkak. Ortaya çıkan sonuç teknolojik açıdan çok heyecan verici. Ancak onlarca farklı “insani” kaynaktan beslenmiş GPT-3’ün bunlardan öğrendikleriyle ürettiği sonuçlar hem yapay zekânın kullanım alanları konusunda endişe veriyor hem de insanlığa ayna tutuyor ve düşündürüyor.