Zeki, çevik ve etik yapay zekâ mümkün mü?

Geçtiğimiz hafta, algoritmik ön yargılar konusunda öncü bir araştırmacı olan, Google'ın “Etik Yapay Zekâ” ekibinin eş başkanı Timnit Gebru, Google'dan kovulduğunu Twitter'dan paylaştı.

• Arka plan: Timnit Gebru, aralarında Google çalışanlarının da bulunduğu 6 kişilik bir ekiple büyük dil modellerindeki ön yargılar konusunda eleştirileri içeren bir araştırma makalesi hazırladı. Google'ın, “şirketin çizgisine uymadığı” gerekçesiyle makaleyi geri çekmesini veya Google çalışanlarının adlarının makaleden çıkarılmasını istemesi üzerine Gebru, iş arkadaşlarına Google yetkililerinin çeşitliliğin savunulmasına karşı yaşattığı hayal kırıklığını ifade ettiği bir e-posta gönderdi. Bu e-posta üzerine Gebru’nun hesabı kapatıldı ve Gebru, Google’ın yapay zekâ ekibinin lideri Jeff Dean tarafından işten çıkarıldığını tweet'ledi.
   
• Yapay zekâ etiği: Yapay zekâda etik algısının temelinde, yapay zekânın asla insan güvenliğini ve itibarını etkileyebilecek aceleci kararlara yol açmaması gerektiği fikri yatıyor.
  
  
  • Avrupa Komisyonu'nun yayımladığı "Güvenilir Yapay Zekâ için Etik Kuralları" belgesinde etik ve güvenilir yapay zekâ için gerekli yedi temel şart; insan unsuru ve gözetimine dikkat edilmesi, teknik dayanıklılık ve sağlamlık, gizlilik ve veri yönetişimi, şeffaflık, ayrımcılık yapmama ve adalet, toplumsal ve çevresel refah ile hesap verebilirlik olarak belirtiliyor.
     
  • Timnit Gebru ve ekibinin hazırladığı "Stokastik Papağanların Tehlikeleri Üzerine: Dil Modelleri Fazla Büyük Olabilir mi?" isimli araştırma makalesi; doğal dil işlemenin tarihi, büyük dil modellerinin dört ana riski ve daha fazla araştırma yapılabilmesi için bazı önerileri içeriyordu. MIT Technology Review’a göre makaledeki etik konusunda kritik olan bu dört ana risk unsuru; çevresel ve finansal maliyetler, fazla miktarda veri yüzünden anlaşılmaz modeller, yanlış yönlendirilmiş araştırmaların fırsat maliyetleri ve yapay zekânın insanları kandırmak için kullanılmasından doğan anlam yanılsamaları.
     
• Etik kurallar neden önemseniyor? Gebru ve diğer araştırmacıların değindiği bu konular, yapay zekânın zarar oluşturabilecek şekilde kullanılabileceğini anlatıyor. Makalenin yazarlarından Emily Bender'ın söylediğine göre bu makalenin amacı, doğal dil işleme alanındaki mevcut araştırmanın manzarasını değerlendirmek. Ancak bunu yaparken olumlu yönler çok açık görülebiliyorken olumsuz yönleri de göstermeyi ve bu durumdan fayda sağlarken oluşabilecek etik riskleri azaltabilmeyi vurgulamak istiyorlar.
   
• Google nasıl karşıladı? Timnit Gebru’nun attığı tweet üzerine 1500'den fazla Google çalışanı, Google'a karşı bir protesto kağıdı imzaladı. Google yapay zekâ ekibinin lideri Jeff Dean, şirket içi bir e-posta gönderdi ve makalenin Google'ın kriterlerine uymamasının nedenlerinden birinin "çok fazla alakalı araştırmayı görmezden gelmesi" olduğunu söyledi. Spesifik olarak, büyük dil modellerinin nasıl daha enerji verimli hâle getirileceğine ve ön yargı sorunlarının nasıl azaltılacağına dair daha yeni çalışmalardan bahsetmediğini belirtti.
   
• Geniş perspektif: Birkaç yıl önce Microsoft, “Adalet Hesap Verebilirlik Şeffaflığı ve Etik” grubunu kurdu. Alphabet’in DeepMind AI grubunun etik ve toplum ekibi bulunuyor. Facebook, 2018'de yapay zekâ sistemlerinin ön yargısız, mümkün olduğunca etik kararlar almasını sağlamak için özel bir ekip oluşturduğunu ve ayrı bir yazılım geliştirdiğini açıklamıştı. Yapay zekâyla ilgili çalışmalar yapan teknoloji şirketleri, etik kurallara bağlı kalmak için çalışmalar yapsa da şirketlerin bu alanda sınavı büyük. Google'ın Gebru ile bağlarını kesme kararı ise etik yapay zekâya olan bağlılığının ciddiyeti hakkında soru işaretleri uyandırıyor.