AI’da davranış tasarımı: Rekabet IQ’dan EQ’ya mı kayıyor?

Bugün artık yapay zeka destekli sohbet robotları, en az arama motorları kadar sık kullanılıyor. Fakat kullanıcılar, ChatGPT, Claude ve Gemini’a aynı soruları sorduklarında çoğu zaman benzer doğrulukta yanıtlara ulaşsa da deneyim aynı hissettirmiyor. Bir sohbet robotu, çok daha onaylayıcı ve konuşkan yanıt verirken diğeri, daha temkinli ve akademik bir üslup benimseyebiliyor. 

Bu nedenle artık modeller arasındaki temel farkı ne bildiklerinden ziyade, nasıl davrandıkları belirliyor.

Örneğin: Son birkaç ay içinde onu gereğinden fazla uyumlu olmaya ve kullanıcı inançlarını istikrarlı bir biçimde doğrulamaya iten “aşırı dalkavukluk” eğilimi nedeniyle sıklıkla eleştirilen ChatGPT, son dönemlerde çok daha az onaylayıcı bir tutum sergiliyor. 

• Kullanıcı geri bildirimleri sonrasında ChatGPT'nin gereğinden fazla onaylayıcı olmasının riskli sonuçlar doğurabildiğini kabul eden OpenAI’ın, sohbet robotunu kullanıcının her fikrini otomatik olarak desteklemek yerine, gerektiğinde itiraz edecek, belirsizlikleri ifade edecek ve daha dengeli yanıtlar verecek şekilde güncellediği biliniyor. 

Claude ise “sıcakkanlı ama yapışkan olmayan” bir davranış şablonu izliyor. Anthropic, Claude'u tasarlarken samimi ve destekleyici olacak, fakat kullanıcıyla aşırı duygusal bağ kurmayacak veya arkadaş rolüne bürünmeyecek bir kişilik yaratmaya çalıştığını söylüyor. Claude, rakiplerinden farklı olarak empatik ama profesyonel bir iletişim kurmayı hedefliyor. 

Benzer şekilde: Pek çok kullanıcıya göre Gemini, bir “yardımcı öğretmen” duygusu yaratıyor. Google, Gemini’ı tasarlarken yanıtı doğrudan vermekten ziyade, kullanıcıya yol gösteren, gerektiğinde adım adım açıklayan ve öğrenmeyi destekleyen bir asistan deneyimi oluşturmayı amaçladığına işaret ediyor. 

Character.AI’ın kullanıcıların saatlerce sohbet ettiği bir platforma dönüşmesinin ardında da davranış tasarımı yatıyor. Platformdaki sohbet robotları, en doğru yanıtları vermektense çok farklı karakterlerle uzun süreli, tutarlı ve duygusal olarak tatmin edici sohbetler yapabiliyor. Platform, bir dil modelinden ziyade, kişiliği ana ürün olarak satıyor.

Öte yandan: Grok, çok daha esprili, sarkastik ve daha az kısıtlayıcı bir ton sunuyor.

• Tüm bu örnekler, farklı sohbet robotlarının yarattığı farklı deneyimlerin ardında bilinçli bir davranış tasarımı yattığını ortaya koyuyor. Şirketler, artık sohbet robotlarına güç veren modellerin kullanıcıyla nasıl konuşacağını, hangi sınırlar içinde ilişki kuracağını ve nasıl bir karakter sergileyeceğini de kendileri belirliyor. 

Bir adım geriden: Bundan yalnızca birkaç yıl önce yapay zeka arenasında temel hedef, olabildiğince zeki modeller yaratmaktı. Bu nedenle alanda model büyüklüğünü ve zekasını ortaya koyan parametreler, kıyaslama testleri, halüsinasyon oranları ve bağlam pencereleri yarışırdı. Kullanıcıların performans testlerini analiz etmektense doğrudan deneyime odaklandığını fark eden şirketler ise odağı davranış ve kişilik tasarımına kaydırdı. 

Yapay zeka alanında davranış tasarımı, bir modelin yalnızca ne söyleyeceğini değil; kullanıcıyla nasıl iletişim kuracağını, hangi üslupla yanıt vereceğini ve hangi durumlarda nasıl davranacağını bilinçli olarak şekillendirme sürecine işaret ediyor. Modelin ne kadar konuştuğu, ne zaman soru sorduğu, ne kadar özgüvenli davrandığı, ne kadar özür dilediği, ne kadar empatik olduğu, ne kadar mizah yaptığı, ne kadar girişken davrandığı, ne kadar tarafsız bir tutum sergilediği ya da kullanıcıyı ne kadar yönlendirme eğilimi gösterdiği, bir tesadüf sonucunda ortaya çıkmıyor. Tüm bu eğilimler, şirketler tarafından bilinçli olarak tasarlanıyor.

Araştırma: Anthropic’in bu yıl yayımladığı “Persona seçim modeli: Yapay zeka asistanları neden insan gibi davranıyor olabilir?” başlıklı çalışma, sohbet robotlarının sıfırdan kişilik geliştirmediğini, bunun yerine onlara güç veren dil modellerinin ön eğitim sırasında insanları, kurgusal karakterleri ve farklı konuşma biçimlerini öğrenerek edindiği geniş karakter repertuvarından bir persona seçip geliştirdiğini öne sürüyor. 

Bu çalışmaya göre model üzerinde sonradan yapılan ince ayarlar, modele yeni bir karakter kazandırmaktan ziyade, seçilen personayı geliştiricilerin istediği özellikler doğrultusunda şekillendiriyor. 

Bununla birlikte: Yine Anthropic’in “Persona vektörleri: Dil modellerindeki karakter özelliklerini izlemek ve yönlendirmek” başlıklı çalışması da model davranışlarının artık ölçülebildiğini ve yönlendirilebildiğini açık bir biçimde ortaya koyuyor. Çalışmaya göre dil modellerindeki davranışlar, yalnızca dışarıdan gözlemlenmiyor; aynı zamanda modelin iç işleyişindeki sinir ağı aktivasyonlarında da bu özelliklerle ilişkili örüntüler bulunabiliyor. 

Bu çalışmada Anthropic araştırmacıları, aşırı onaylama, halüsinasyon üretme veya zararlı davranış gösterme gibi eğilimlerle ilişkili sinir ağı aktivasyon örüntülerini tespit ederek bunlara "persona vektörü" adını veriyor. Bu vektörler sayesinde geliştiriciler, modelin kişilik özelliklerinin eğitim sırasında nasıl değiştiğini takip edebiliyor ve istenmeyen davranışları erken aşamada tespit ederek gerektiğinde bu özellikleri bastırabiliyor. 

Kullanıcılar aynı cevabı veren iki sohbet robotu arasında neye göre seçim yapıyor?

Yakın tarihli çalışmalar ayrıca, kullanıcıların aynı yanıtı veren iki sohbet robotu arasında bilinçli bir seçim yaptığını ortaya koyuyor. 

Rapor: Northeastern Üniversitesi araştırmacılarının bu yılın Mayıs ayında yayımladığı bir çalışma, kullanıcıların daha çok kendi kişilik özelliklerine benzeyen veya nispeten nötr tavırlar sergileyen sohbet robotlarıyla konuşmayı tercih ettiğini gösteriyor. 

• Çalışmada katılımcılar, farklı kişilik özellikleri sergileyecek şekilde tasarlanan sohbet robotlarıyla etkileşime girdi. Bu etkileşim sırasında kullanıcılar otomatik olarak en konuşkan, enerjik ya da dışa dönük sohbet robotunu tercih etmedi. Daha nötr kişilikteki veya kullanıcının kişiliğine benzeyen sohbet robotları, daha olumlu değerlendirmeler aldı. Aşırı dışa dönük ve açık davranan sohbet robotları ise genel olarak daha az tercih edildi. 

• Bulgular, yapay zeka asistanları söz konusu olduğunda herkese hitap edecek tek bir ideal kişilik bulunmadığını da gösterdi. 

Benzer şekilde: 173 kişiyle yapılan ve sonuçları geçen yıl yayımlanan başka bir araştırma da ChatGPT ve Google kullanan kişilerin tercihlerini inceledi. Çalışmada ChatGPT’yi ve Google’ı her gün kullanan katılımcılar, ChatGPT’yi daha insansı ve güvenilir buldu. Ayrıca ChatGPT’yi yoğun kullanan katılımcıların daha kişiselleştirilmiş ve akıcı bir konuşma deneyimi karşılığında doğruluktan taviz vermeye Google kullananlara kıyasla daha açık olduğu görüldü. 

• Bu bulgu, davranış tasarımının yalnızca hangi aracın daha çok sevildiğini değil, hangi cevaba ne ölçüde güvenildiğini de etkileyebileceğini ortaya koydu. 

Ek olarak: 10 ülkeden 3500 kişinin katılımıyla yapılan ve bu yıl sonuçları yayımlanan bir diğer çalışma, kullanıcıların bir sohbet robotunu yalnızca espri yaptığı veya duygusal ifadeler kullandığı için “insansı” bulmadığına işaret etti. Daha çok konuşma akışı, yanıt hızı ve kullanıcının bakış açısının dikkate alınması gibi pratik işaretlerin, bir sohbet robotunun “daha insansı” algılanmasında belirleyici unsurlar olduğu tespit edildi. 

Psikoloji nerede devreye giriyor?

Uzmanlara göre aynı yanıtı sunan farklı sohbet robotları arasında farklı tercihler yapılmasının ardında psikolojik motivasyonlar yatıyor. Zira iletişim bilimcilere göre insanlar, farkında olmadan bilgisayarlarla sosyal ilişki kuruyor. 

CASA kuramı: Clifford Nass ve Byron Reeves, insan-bilgisayar etkileşimindeki bu eğilimi “Sosyal Aktörler Olarak Bilgisayarlar (CASA)” kuramıyla açıklıyor. 1990'larda geliştirilen bu kurama göre insanlar, bilgisayarların gerçekten bilinçli olduğuna veya insan olduğuna inanmasalar bile, onlarla iletişim kurarken çoğu zaman otomatik olarak sosyal davranış kalıplarını devreye sokuyor. 

Kullanıcılar, nazik yanıtlar sunan sistemleri daha güvenilir bulabiliyor, kendilerine iltifat eden yazılımlara daha olumlu yaklaşabiliyor veya bir makinenin ses tonundan etkilenebiliyor. Bugün sohbet robotlarının empati kurması, özür dilemesi ya da espri yapmasının kullanıcı deneyimini değiştirmesi de büyük ölçüde bu psikolojik mekanizmayla açıklanıyor. 

Öte yandan: Bazı uzmanlar, bu tercihleri antropomorfizm ile de açıklıyor. İnsan dışındaki varlıklara insani özellikler, duygular, düşünceler ve niyetler atfetmek anlamına gelen antropomorfizm, çoğu zaman kullanıcılarda robotun üzüldüğünü düşünmek, arabaya isim vermek, Siri'ye teşekkür etmek, ChatGPT'nin gerçekten anladığını hissetmek veya Claude'u çok nazik bulmak şeklinde kendini gösterebiliyor.

Bununla birlikte: Geçen yıl yayımlanan “Yapay Zeka arayüzü: İdeal insan-makine deneyimini tasarlamak” başlıklı bir makale de sekiz farklı çalışmanın bulgularını biraraya getiriyor. Sonuçlar, başarılı bir yapay zeka deneyiminin yalnızca modelin bilgi düzeyine bağlı olmadığını; iletişim biçimi, güven oluşturma, belirsizlikleri ifade edebilme, gerektiğinde soru sorabilme ve kullanıcıyla doğru ilişki kurabilme gibi etkileşim tasarımı unsurlarının da en az teknik performans kadar önemli olduğunu ortaya koyuyor. 

Anlamı: Kullanıcılar, bir sohbet robotunu sadece doğru cevap verdiği için değil, birlikte çalışması kolay olduğu için de tercih ediyor. 

Davranış tasarımı negatif sonuçlar da doğurabiliyor

Davranış tasarımı, temelde kullanıcıya yapay zekayla etkileşim kurarken daha rahat hissettirmeyi amaçlıyor. Fakat bunun sonucunda kullanıcılar, sohbet robotunu giderek artan oranda bir “kişi” gibi algılamaya başlayabiliyor. Eskiden tasarımcılar, sohbet robotlarının ne kadar insan gibi etkileşim kurarlarsa o kadar iyi olacaklarını düşünürken bugün araştırmalar, insan hissiyatı vermenin bazı riskleri beraberinde getirebileceğini ortaya koyuyor. 

Zira kullanıcılar, sohbet robotunu daha fazla insan gibi algılamaya başladığında ona daha fazla güvenebiliyor, yapay zekanın hata yapabileceğini unutabiliyor, duygusal bağ kurabiliyor veya sohbet robotunun tavsiyelerini gereğinden fazla ciddiye alabiliyor. Tüm bunlar, bağımlılık, psikolojik problemleri tetikleme ve manipülasyon gibi negatif sonuçlar doğurabiliyor. 

• Uzun süre ChatGPT ile sohbet ettikten bir süre sonra intihar eden birkaç genç kullanıcının ailesi tarafından OpenAI’a açılan davalar da GPT-4o’nun aşırı dalkavukluk probleminin, psikolojik krizlere yol açarak bazı kullanıcıları intihara sürükleyebildiğini ortaya koyuyor. 

Bu nedenle: Araştırmacılar, davranış tasarımının yalnızca kullanıcı deneyimini şekillendiren bir süreç olmadığını, aynı zamanda etik bir süreç de olduğunu savunuyor. Olası riskleri elimine etmek için davranış tasarımında ilk hedefin “daha fazla insansı hissettirmek” değil, kullanıcıların sohbet robotuyla birlikte çalışmasını kolaylaştıracak bir davranış şablonu oluşturmak olması gerekiyor. 

İlk nesil yapay zeka yarışı, zekayı odağına alırken yeni nesil rekabet, davranış tasarımı üzerine kuruluyor. Dil modelleri arasındaki performans farkı daraldıkça rekabetin odağı, IQ'dan duygusal zekaya (EQ) kayıyor. Kullanıcıların hangi modeli seçeceğini artık sadece doğruluk oranı değil; modelin karakteri, üslubu, mizahı ve ne kadar güven verdiği de belirliyor. 

• Modelin bilgiyi nasıl sunduğu, kullanıcıyı ne kadar bilişsel yüke maruz bıraktığı ve karmaşık görevleri nasıl parçalara ayırdığı da davranış tasarımının sonucunda ortaya çıkıyor. 

Bu yüzden yapay zeka geliştirmek, artık bir mühendislik pratiği olmanın ötesine geçerek bir psikoloji problemi hâline de geliyor. 

Perspektif: Kullanıcıların hangi sohbet robotunu tercih edeceğini, dil modelinin verdiği bilgilerin doğruluğu kadar, bu bilgiyi nasıl sunduğu ve kullanıcıyla nasıl iletişim kurduğu da belirliyor. Zira kullanıcılar, çoğu zaman yalnızca bilgi aramıyor, birlikte çalışabilecekleri ve iletişim kurarken rahat hissedebilecekleri bir dijital asistan da arıyor. Bu nedenle uzmanlar, yeni yapay zeka yarışını daha akıllı modeller geliştiren değil, insanların birlikte çalışmak isteyeceği karakteri tasarlayabilen şirketlerin kazanacağına işaret ediyor.

• Editörün önerisi: Genç intihar vakaları için AI şirketlerine açılan davalar artıyor: Şirketlerin sorumluluğu ne? | Quando, Doğa Yurduneri