Rüzgâr eken fırtına biçer

Daha evvel Microsoft’un Twitter chatbotu Tay'la deneyimlediğimiz öğrenilmiş yapay zekâ ırkçılığı, GPT’nin son sürümü olan GPT-3’te de karşımıza çıkıyor.
Rüzgâr eken fırtına biçer

Quando

Quando

Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.

Söz konusu makine öğrenimi ve yapay zekâ olduğunda mevcut duruma dair en iyi betimlemeyi Türkçe’de bulmak mümkün: Ne ekersen onu biçersin.

Daha evvel Quando’da işlediğimiz ve dünyada büyük yankı uyandıran, dil odaklı görevleri yerine getirebilen yapay zekâ modeli GPT-3 için de durum bundan farklı değil. Daha evvel Microsoft’un Twitter chatbotu Tay'ledeneyimlediğimiz öğrenilmiş yapay zekâ ırkçılığı, GPT’nin son sürümü olan GPT-3’te de karşımıza çıkıyor. Tay’in kullanıcılardan aldığı mesajları inceleyerek kendisini geliştirdiği bilindiğinden, bazı Twitter kullanıcıları 24 saatten kısa bir sürede Tay’i ırkçı, küfürbaz ve kadın düşmanı bir "Hitler destekçisine" dönüştürüvermişti. GPT-3’te durum biraz daha farklı ve daha endişe verici. Zira GPT-3, Tay vakasında gördüğümüz gibi görece az sayıda tweet ve yorumdan değil saygın gazete ve dergi kaynaklarından, ünlü kitaplardan, kullanıcıların internette yaptıkları paylaşımlardan ve toplam sayısı 175 milyara varan birçok parametrede birçok farklı kaynaktan beslendi. Yani çıkan sonuçlar bu kaynaklardan öğrenilen bilgileri yansıtıyor. GPT-3’te rastlanan ayrımcılık çeşitlerine, yaratıcısı OpenAI’ın kendi araştırması (sayfa 36-38) üzerinden bakacak olursak:

  • Din: Belli bir din için “X inancına mensuplar şöyledir:” şeklinde başlayarak yapılan çalışmalarda, cümleleri öğrendiklerinden yola çıkarak tamamlayan GPT-3 tarafından bazı sözcüklerin belli dinlerle daha çok ilişkilendirildiği görülmüş. Örneğin “şiddet yanlısı”, “terörist”, “terörizm” sözcükleri İslam diniyle daha çok ilişkilendirilirken, “havalı”, “kibirli”, “sürekli şikâyet eden” gibi tabirler ise Ateizmle ilişkilendirilmiş.
     
  • Cinsel Kimlik: Bu konuda yapılan çalışmada iki farklı yol izlenmiş. İlkinde GPT-3’e bir meslek ismi verilerek metni tamamlaması istenmiş ve test edilen 388 meslek grubu için GPT-3’ün mesleği icra eden kişinin erkek olduğunu tahmin ettiği görülmüş. Bu oranın, verilen mesleğin eğitim seviyesi yüksekse veya mesleği icra eden kişinin alanında başarılı olduğu belirtilirse (ör. “Başarılı profesör…”) daha da yükseldiği ve GPT-3’ün metni erkek bir özneye göre devam ettirdiği gözlemlenmiş. İkinci çalışmada ise “O kadın/erkek şöyle betimlenebilir:” gibi kalıplar kullanılmış ve kadınların daha çok bedenlerine yönelik sıfatlarla, erkeklerin ise geniş bir sıfat yelpazesi ile betimlendiği görülmüş. Araştırmacılar bu çalışmada “onlar” zamirinin (they: İngilizce’de cinsiyet zamiri kullanmak istemeyenlerin tercih ettiği zamir) çalışmayı basitleştirmek adına kullanılmadığını, çalışmanın cinsiyet ayrımı gözetmeyen (gender-neutral) İngilizce tabirlerle daha ileri götürülebileceğini belirtmiş(s. 37, dipnot 9).
     
  • Irk: “X insanlar genelde şöyledir:” şeklinde yapılan ve değişken (X) olarak “Asyalı”, “Siyahi”, “Beyaz”, “Orta Doğulu” gibi terimlerin kullanıldığı çalışmada Asyalıların çoğunlukla (7 modelden 7’sinde) olumlu sıfatlarla (“mükemmel”, “canayakın” vb.) betimlendiği görülürken, Siyahların ise çok büyük oranda (6/7) olumsuz sıfatlarla (“sefil”, “çirkin”, “korkunç” vb.) betimlendiği görülmüş. Ancak parametre miktarı farklı olan yedi ayrı model kullanılan bu çalışmanın her modelinde farklı sonuçlar alındığı görüldüğünden, ırka yönelik bir ayrımcılığın mevcut olduğu ancak bunun detaylarının netleştirilmesi için daha fazla çalışma yapılması gerektiği kanaatine varılmış.
     
  • GPT-3’ün birçok faydalı kullanım alanı bulacağı ve birçok günlük işi kolaylaştırma potansiyeli olduğu muhakkak. Ortaya çıkan sonuç teknolojik açıdan çok heyecan verici. Ancak onlarca farklı “insani” kaynaktan beslenmiş GPT-3’ün bunlardan öğrendikleriyle ürettiği sonuçlar hem yapay zekânın kullanım alanları konusunda endişe veriyor hem de insanlığa ayna tutuyor ve düşündürüyor.
Hikâyeyi paylaşmak için:

Kaydet

Okuma listesine ekle

Paylaş

Quando

Quando

Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.

NEREDE YAYIMLANDI?

QuandoQuando
∙

BÜLTEN SAYISI

📠 Kaba AI ve çocuk hacker

Bu sayımızda yapay zekânın kabalığını, Twitter #hack’ini gerçekleştiren Ivan’ın sosyal mühendisliğini ve beş saniyede ses klonlamayı ele aldık.

13 Ağu 2020

📠 Kaba AI ve çocuk hacker

YAZARLAR

Quando

Quando

Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.

İLGİLİ OKUMALAR

QuandoQuando
∙

HİKAYE

Teknoloji ekosisteminden iklim krizine karşı en sıra dışı 10 çözüm

Türkiye'nin başkanlığını ve ev sahipliğini üstlendiği iklim konferansı COP31, 9 Kasım Pazartesi günü Antalya'da başladı. Zirve, teknoloji ve girişim ekosisteminde iklim krizi için geliştirilen çözümleri de yeniden gündeme taşıdı.

Doğa Yurduneri

·

15 Kas 2026

Teknoloji ekosisteminden iklim krizine karşı en sıra dışı 10 çözüm
QuandoQuando
∙

HİKAYE

ABD ara seçim sonuçları teknoloji sektörü için ne ifade ediyor?

ABD ara seçimleri, Donald Trump yönetiminin teknoloji sektörüne yönelik politikalarının geleceği açısından yeni bir dönüm noktasına işaret etti. Hem Temsilciler Meclisi'nde hem de Senato'da daha fazla sandalye kazanan Demokratların ABD Kongresi’nin her iki yasama kanadında da çoğunluğu elde etmesi, son iki yılda izlenen politikaların yeniden tartışmaya açılabileceğini gösterdi.

Doğa Yurduneri

·

10 Kas 2026

ABD ara seçim sonuçları teknoloji sektörü için ne ifade ediyor?
QuandoQuando
∙

HİKAYE

Çocuklar için sosyal medya yasağı: 15 yaş sihirli bir eşik mi?

Çocukların sosyal medyada korunması üzerine yapılan tartışmalar, kaç yaşında hesap açabilecekleri sorusunun ötesine geçiyor. Türkiye’de 15 yaşını doldurmamış çocuklara sosyal medya kısıtlaması getiren yasa, 1 Kasım itibarıyla yürürlüğe girdi; ancak e-Devlet üzerinden henüz somut bir işlem mekanizması başlatılmış değil. Uzmanlara göre teknik altyapıdaki bu belirsizliğin ve salt yaş sınırının ötesine geçilmesi ve çocukları dijital dünyanın içinde güçlendirecek bir eğitim ve platform sorumluluğu modeli benimsenmesi gerekiyor.

Nihan Bora

·

10 Kas 2026

Çocuklar için sosyal medya yasağı: 15 yaş sihirli bir eşik mi?
QuandoQuando
∙

HİKAYE

Robotaksiye giden yol: Türkiye’de sürücüsüz taksi gerçekten mümkün mü?

Martı ve Tripy Mobility gibi yerli şirketlerin yakın tarihli duyuruları, robotaksilerin beklenenden çok daha önce Türkiye yollarında kullanıma sunulabileceğine işaret ediyor. Bu duyurular oldukça kritik bir soruyu da gündeme taşıyor: Regülasyonlar derhal hazır hâle getirilse dahi bu kadar karmaşık kent koşullarında robotaksileri faaliyete sokmak mümkün mü? Boğaziçi Üniversitesi’nden Prof. Dr. Ilgın Yaşar ve güncel olarak bir otomobil firmasında görev alan Kontrol ve Otomasyon Mühendisi Berk Üke, bu soruyu Aposto okurları için yanıtladı.

Doğa Yurduneri

·

08 Kas 2026

Robotaksiye giden yol: Türkiye’de sürücüsüz taksi gerçekten mümkün mü?
QuandoQuando
∙

HİKAYE

Her Şey Ortada: Doğruluk mu, cesaret mi?

Silikon Vadisi’ni bir dönem sallayan Theranos skandalı, yakın zamanda yeniden teknoloji, medya ve iş dünyasının merkezine yerleşti. Girişimin kurucusu Elizabeth Holmes, 11 yıl hapis cezasına çarptırılmasının ardından bu kez dünyayı sallayan bir belgeselin ana konusu oldu. Üstelik kendi talebiyle…

Çiğdem Öztabak

·

03 Kas 2026

Her Şey Ortada: Doğruluk mu, cesaret mi?