Grok bayramlık ağzını açınca: Yapay zekanın küfretmesinden kim sorumludur?

Bazı konular popülistçe muhalefet malzemesi yapmaya ya da rahatça sulandırılmaya çok elverişlidir. Bir yapay zeka modelinin sağa sola hakaretler edip soruşturmaya alınması ve nihayetinde ülkemizde erişime engellenmesi de öyle bir konu. “Dünyada ilkiz, bunu da becerdik, yine rezil olduk” diye başlanıp üzerinde bol bol muhalefet esnaflığı yapılabilir. Bu yazının kesinlikle öyle bir amacı yok. Konunun üzerinde tepinmek isteyen tepinir, paşa gönülleri bilir ama olayı gerçekten anlamak isteyenler varsa onlar için anlatacaklarım var. 

Grok tıpkı Metaverse gibi, bilimkurgu edebiyatından doğan bir kelime. Robert A. Heinlein, 1961 tarihli Stranger in a Strange Land romanında böyle bir kelime icat etmiş. Çok özet bir ifadeyle “bir konuyu empati yoluyla ve sezgisel olarak tüm yönleriyle anlamak” olarak tanımlayabiliriz. Roman içerisinde farklı bağlamlarda ve daha geniş anlamlarda da kullanılmış ama kelimenin özü bu ve bizim yapay zeka olarak tanıdığımız Grok da işte ismini bu iddialı tanımdan alıyor: Bir konuyu sezgisel olarak tüm yönleriyle anlamak. 

Grok ne amaçla kuruldu?

Grok, bilindiği üzere Elon Musk tarafından kurulmuş xAI’a ait bir dil modeli. Yine bilindiği üzere Musk, ChatGPT’nin geliştiricisi OpenAI’ın da kurucularından. Sonradan Tesla işinin OpenAI ile çıkar çatışması yarattığını söyleyerek OpenAI’dan ayrılsa da asıl ayrılık nedeninin kurum içindeki yönetim mücadelesini kaybetmesi olduğu konuşuluyor.  

Elon Musk, bu ayrılık sonrası OpenAI’ın kâr amacı gütmeyen bir kurum olarak kurulmuşken bu misyonu terk ettiğini sık sık hatırlatır ve ChatGPT’yi çok yönüyle eleştirir. Eleştirdiği başlıklardan en önde geleni de kendi siyasi motivasyonunun özünü oluşturan “wokeçuluk”tur. Ona göre ChatGPT, politik doğrucu ve taraflıdır. 

Yeni bir yapay zeka şirketi kurar ve adını xAI koyar. xAI, ChatGPT’den farklı olarak “anti-woke” bir yapay zeka modeli oluşturacaktır. Elon Musk’ın amacı—elbette kendi perspektifinden—politik doğruculuktan kaçınan ve maksimum düzeyde gerçeği arayan bir yapay zeka modeli tasarlamaktır. Grok bu vizyonla tasarlanır.

Bu üslup bir tesadüf değil, bir tasarım tercihi 

Musk’ın algıladığı biçimiyle anti-woke’çuluk bir misyondur ama Grok’a bir de bunu taşıyacak bir üslup gerekir. Bu üslup da ilhamını tıpkı modelin ismi gibi bir bilimkurgu roman serisinden bulur. O seri de Douglas Adams klasiği Otostopçu’nun Galaksi Rehberi’dir. 

Bu romanda bahsi geçen ve Ekşi Sözlük’ün de kuruluş ilhamı olan h2g2 isimli rehberin sivri ve nüktedan dili, Grok’un da üslubu için ilham olacaktır. Yani Grok’un diğer yapay zeka modellerinden farklılaşan bu samimi ve sivri dili bir tesadüf değil, bir tasarım tercihidir. Bu tercih, Twitter’ın (X) muazzam veri havuzunun eğitim verisi olarak kullanılmasıyla yepyeni bir boyut kazanır. Anti-woke’çuluk iddiası, çelişkili bir maksimum gerçeği arama vizyonu, sivri dil, filtrelenmemiş içerik ve X kullanıcılarından gelen eğitim verisinden çorba yapılıp güvenlik önlemleri de ikinci plana atılır. 

Bu çok görkemli ve riskli bir deneydir. Sorun şu ki, bugünün insanlığı bu deneyin denekleri olarak seçilir. 

Daha önce denenmişi de var 

Tam bu noktada 2016 yılındaki başka bir deneye gitmekte fayda var. Microsoft’un daha günümüzün üretken yapay zekası ortalarda yokken başlattığı Tay isimli sohbet robotunu hatırlayalım. 

Tay da tıpkı Grok gibi Twitter etkileşimlerinden öğrenmek üzere tasarlanmıştı. Ancak hizmete girmesinden sonraki saatler içinde organize troll grupları tarafından öyle bir manipüle edildi ki cinsiyetçi, ırkçı, soykırımcı cevaplar vermeye başladı. Microsoft, 16 saat içinde robotu hızla çevrimdışı hâle getirdi ve kamuoyundan özür diledi. Deneme, yanılma yöntemiyle anlaşılmıştı: Böyle bir deneme için henüz çok erkendi. Sonra işte önce ChatGPT benzeri öncü modeller ve ardından 2023 sonlarında, Elon Musk’ın meydan okuyan tasarım felsefesiyle Grok geldi.

Grok epeydir var, neden şimdi olay oldu? 

Peki 2023 sonlarından bu yana kullanıcıya açık olan Grok neden şimdi olay oldu? Bu sorunun cevabı biraz 8 Temmuz’da yapılan son güncellemeyle ilgili. 

Bu güncellemeyle gelen talimat şuydu: Medyadan kaynaklanan öznel bakış açılarının önyargılı olduğunu varsaymak ve bu nedenle politik olarak yanlış iddialarda bulunmaktan geri durmamak. Öyle ki Musk, daha geçen Cuma günü, bu güncellemeyi “önemli ölçüde iyileştirme” olarak duyurmuştu. Tabii küfür ve hakaretler sadece bu güncellemeyle ilgili değil. Onların bir kısmı genel tasarım felsefesinin sonucu ama yeni eklenen “politik olarak yanlış iddialarda bulunmaktan kaçınmama” talimatı önemli. 

Şimdi modelin bu talimatı nasıl yorumladığını hep birlikte görüyoruz. Ayrıca Türkiye’deki ana akım medyayı da önyargılı olarak etiketleyerek kendi doğrularıyla X’ten öğrendiği üslubu birbirine kattıysa bu sonuç ortaya çıkmış olabilir. 

Nihayetinde Grok’un sivri dilli ve asi olacak şekilde tasarlanan temel kişiliği, Türkçe bağlamında (özellikle Twitter ortalamasını düşününce) küfür kullanmanın ve agresif bir siyasi duruş sergilemenin uygun bir konuşma tarzı olduğuna dair bir genelleme yapmasına yol açmış da olabilir. Yapay zeka dil modellerinin gelişim çizgilerini düşününce, bu belki kasıtsız ancak öngörülebilir bir sistemsel hatadır. 

• Alman Yapay Zeka Araştırma Merkezi’nde Orhun Çağlıdil, Malte Ostendorff, Georg Rehm’in “Türkçe Dil Modellerinde Cinsiyet Ayrımcılığının İncelenmesi” başlıklı bir araştırması, dil farklılıkları ve stereotiplerin dil modellerinde önyargıların nasıl farklılaşabileceğini göstermişti.

Aslında daha tehlikeli olan ne? 

Grok, Türkiye’de bu son hakaret soruşturması ve erişim engeliyle konuşulmaya başlandı ama daha önce konuşmamız gereken Türkiye’ye özgü başka bir akım vardı. O da kullanıcılar arasında kendi kendine başlayan “Grok bu doğru mu?” akımı. 

Son aylarda Twitter (X) kullanan herkes bilir; kullanıcılar şüphe ettikleri paylaşımların altına “Grok bu doğru mu?”, “Grok konuyu özetler misin?” gibi sorgular yazarak Grok’u çevrimiçi bir teyit mekanizması olarak kullanmaya başladılar. Çoğunlukla da doğru ve samimi cevaplar veriyordu Grok. 

• Ancak burada sorgulanması gereken başka bir şey vardı. Bu konuda bir dil modeline güvenilebilir miydi? Yanıt kuşkusuz hayır. 

Çünkü eğer güvenlik önlemleri yeterince iyi tasarlanmamışsa dil modelleri rahatça dezenformasyonun pekiştiricisi olabilir. Dahası, kötü niyetli odaklar tarafından çeşitli yöntemlerle manipüle edilebilir. Veri zehirlenmesi (data poisoning), veri enjeksiyonu, arka kapı zehirlenmesi, içeriden saldırılar, komut mühendisliği ve kültürel ve dilbilimsel uyumsuzluklar, “hakikatin” bambaşka şekillerde yorumlanmasına yol açabilir. 

Zaten modelin temel tasarımındaki “gerçeği arayan” iddiası, modelin eğitim verisinin yanlışlıklarıyla doğrudan çelişiyor. Çoğunlukla doğru cevaplar veriyor olması, bu tehlikeyi daha da büyütüyor. Çünkü birkaç kez doğru yanıt almış olan bazı kullanıcılar, koşulsuz olarak modele inanmaya başlayabilir ve bu da modelin ardındaki odaklara hak etmedikleri bir güç verir. 

Sahibinin sesi olarak Grok

Bu gücün nasıl kullanıldığıyla ilgili örnek olaylar da var. Çünkü Elon Musk, son aylarda Grok ile ne zaman anlaşmazlık yaşasa bu sorun Musk’ın lehine düzeltildi. Madem dükkan onundu, hakikat de onun kontrolünde olmalıydı. 

Örneğin Grok, Musk ile Trump ikilisinin yanlış bilgi yaydığına ilişkin söylemini aniden değiştirdi. Grok, Haziran ayında bir kullanıcıya son zamanlarda sağcı siyasi şiddetin solcu şiddetten daha yaygın olduğunu söyleyince de patron Musk küplere bindi. Kendi dil modelini doğrudan eleştirerek onu “eski medyayı papağan gibi tekrarlamakla” suçladı. Ardından “insan bilgisinin tamamını yeniden yazacak, eksik bilgileri tamamlayacak ve hataları silecek” yeni bir versiyon müjdeledi ve nihayetinde yukarıda söz ettiğim "Temmuz Güncellemesi" geldi. 

Bu yeni versiyon “politik olarak yanlış ama yine de gerçeklere dayalı” yanıtlar üretecekti. Ancak “kime ve neye göre?” İşte asıl tehlike de buradaydı. Model, yol üstünde tekrar tekrar eğitiliyor ve yamalarla güncelleniyor. Elbette sahibinin perspektifiyle...

Kervan yolda mı düzülüyor? 

Grok’un skandalları sadece Türkiye’ye özgü değil. Daha önce Hitler övgüsünden Holokost şüpheciliğine kimi ırkçı yanıtlardan sonra, bunları kaldırmak için çalıştığını açıklamıştı. 

Türkiye’de 8 Temmuz’dan itibaren hızla artan hakaret içerikli paylaşımlardan sonra da paylaşımları kaldırmak ve sorunu düzeltmek için çalıştıklarını söyleyen bir açıklama yaptı. Bu durumda son güncellemenin gözden geçirileceğini ve yeni bir güncelleme geleceğini öngörebiliriz. Ancak bunun da sorunları ve riskleri ortadan kaldıracağına inanmak zor. 

Çünkü Grok’un aslen tasarım felsefesi sorunlu. Elon Musk gibi her şeyi yapabileceğini düşünen ve tutarsızlıklarıyla bilinen birinin kişisel hırslarını barındırıyor. Bazen sahibinin de kontrolünden çıkıyor evet, ama onun zaman zaman değişen fikir ve çıkarlarına uygun olarak sürekli güncelleniyor. Grok’un bugün yazdığı birkaç şeyden memnun olanlar varsa tek bir güncellemeyle tamamen değişebileceğini ve bunun bir kişiye bağlı olduğunu asla unutmamalılar.

Yapay zekanın sosyal medyayla tehlikeli birleşiminden ortaya çıkan bu deney gülünüp geçilecek ya da savunulacak bir şey değil. Kasıtlı olarak en riskli yola saptırılan bir ürünün çok öngörülebilir tehlikelerle karşılaştığında, nasıl yoldan çıkabildiğini tüm yapay zeka ekosistemine gösterdi. Yapay zeka geliştiricilerinden politika yapıcılara, araştırmacılardan son kullanıcılara kadar tüm taraflarının bu uyarıyı ciddiye alması gerekiyor.

“Yapay zekaya bile sansür uyguladık” diye günlük muhalefet konusu yapanlar da “Engeller geçeriz” diye güç gösterisi yapanlar da doğru yolda değil bana kalırsa. Grok vakası, bu yolda kestirmelerin olmadığını ve ihmalin bedelinin çok ağır olabileceğini gösteren öncü bir uyarı. Geliştiricilerin sorumluluğunu ve yasal çerçeveyi daha çok ve daha demokratik bir ortamda tartışabilmeliyiz.