Arkadaşım AI: İnsanın insanı anlaması giderek zorlaşırken kolaya kaçmanın bir yolu

Kaç kere izlediğimi hatırlamıyorum. İlkin çocukken izlemiştim onu iyi hatırlıyorum. O güne kadar izlediğim tüm filmlerden farklıydı ve açıkçası büyülenmiştim. Özellikle Youtube çağı sonrası kolay erişebildiğim için canım sıkıldıkça tekrar tekrar izliyorum. 1988 tarihli Arkadaşım Şeytan filminden söz ediyorum. Atıf Yılmaz’ın en iyilerinden. Goethe’nin Faust’una göndermeli, harika bir Ümit Ünal senaryosu. İzleyip teyit etmedim ama 1967 yapımı Bedazzled filminden esinlendiği de söylenir. 

Arkadaşım Şeytan filminde reklam sektörünün çileli revizyonlarından ve bar şarkıcılığından çok sıkılan baş karakterimiz (Mazhar Alanson) ruhunu şeytana (Ali Poyrazoğlu) satmak için bir anlaşma yapar ve olaylar gelişir. Şeytan karakterimiz uzun aradan sonra geldiği 1980’lerin sonu Türkiyesi’nde, yıllar önce görev dağılımı yaptığı insan elçilerinin kendisini çoktan aştığına şahit olur. İnsanlar şeytana pabucunu ters giydirecek seviyeye ulaşmıştır. Şeytan, gücünün eski çıraklarına yetmediğini dehşetle fark ederek son çare olarak İstanbul’da bıraktığı eski sevgilisi Lavinya’yı (Deniz Türkali) ziyaret eder. Lavinya, şimdi biz izleyenlere komik görünen ama o zamanın teknolojisine uygun devasa bilgisayarlarla dolu bir odayı gösterir. Şeytan odaya şaşkınlıkla bakıp soracaktır: “Bunlar mı yönetiyor artık insanları?” Cevap gecikmez: 

“Bunlar ve bunların ardındaki çokuluslu, binlerce ortaklı büyük sermaye grupları, bankalar, holdingler, göze görünmeyen patronlar CIA, robotlar, kompüterler... Kıyamet günü geldi Şeto, görmek ister misin?”

1980’lerin sonunda, daha yaygın internetin bile olmadığı ortamda bilgisayar teknolojisini bugünün, üretken yapay zeka çağı ile karşılaştırınca bu son replik zamanına göre aşırı iddialıymış. Ancak bugünden bakınca, kendini gerçekleştiren bir kehanet olmuş da diyebiliriz. 

Meta’nın yapay zeka arkadaşlar vizyonu

Facebook ve Instagram’ı da bünyesinde bulunduran Meta’nın CEO’su Mark Zuckerberg’in geçen haftalarda ortaya attığı "Yapay Zeka Arkadaşlar" vizyonunu duyunca, aklıma hemen bahsettiğim film geldi. 

Zuckerberg, yapay zekanın yalnızlık sorununu çözmede yardımcı olabileceğini, insanlara şu anda sahip olduklarından daha fazla bağlantı sunabileceğini söylüyordu. Böylece Meta’nın yapay zeka destekli sanal arkadaşlar geliştirme hedefi de teyit edilmiş oluyordu. 

Elbette Meta farklı bir şey deneyecektir ama bu çok da yeni bir vizyon değil. Zaten halihazırda 150 milyondan fazla kullanıcıya sahip Snapchat’a bağlı My Ai, 25 milyon kullanıcılı Replica gibi, Character AI, Çinli Xiaoice ve İngiliz Chai gibi yapay zeka arkadaş uygulamaları var. Yine de Zuckerberg’in vizyonu yeni bir tartışma açtı. 

Muhtemelen çoğunluk ilkin “Robottan arkadaş mı olur?” diye sorarak insanlığın tarafında yer alacak. Bir insan yazar olarak benim de ilkesel olarak o taraftan olmam gerekir ama bu konuda çok da peşin hükümlü olamıyorum. Arkadaşım Şeytan filminin belleğimdeki etkisi rahat durmuyor ve kendi kendime soruyorum: İnsanlar şeytanı aşacak seviyeye ulaştıysa bir robotla arkadaşlık etmek niye peşinen daha kötü olsun?

Olmayacak şey bir insanın bir insanı anlaması

Bu konuda önyargıdan uzak olarak düşünmeye çalışırken belleğim durmaksızın bir insanla gerçekten anlaşmanın imkansızlığına dair sonuçlar getiriyor. Bir yandan Attilâ İlhan’ın “olmayacak şey bir insanın bir insanı anlaması” dizesi gibi edebiyattan örnekler, bir yandan da “Beni bir tek annem anladı, o da yanlış anladı” gibi sokak jargonundan söylemler kafama uçuşuyor. Bu düşünceleri önce uykuya yatırıyor, sonra yürüyüş eşlikçisi bir zihin gezintisine çıkarıyor. 

Nihayetinde Mark Zuckerberg’in sicili belli. Cambridge Analytica skandalı orada duruyor. Açık kaynaklı yapay zeka geliştireceğim diye kâr amacı gütmeyen vakıf niteliğinde bir kuruluş açıp sonra gözünü kâr hırsı büyüyen Sam Altman da şuracıkta duruyor. Arkadaşım Şeytan filminin o meşhur repliğindeki gözle görülmeyen patronlar da cabası. Öyleyse insandan umudu kesip makinelere sığınmak da ne ? Yine de peşin hüküm vermeden yapay zekadan arkadaş olur mu sorusunun peşine düşelim isterim.

Kaç yakın arkadaşınız var, kaç arkadaşınız olmalı? 

Mark Zuckerberg, söz konusu son açıklamalarında yapay zeka arkadaşlar vizyonunu, ortalama bir Amerikalının üçten az arkadaşı olduğuna ilişkin bir veriyle destekliyor. İnsanların anlamlı bir hayat sürmesi için 15 veya buna yakın arkadaşa sahip olması gerektiği fikrini de bu verinin peşine ekliyor. Aradaki açığı kapatmak da yapay zeka arkadaşların işi olacakmış. 

“Snapchat ve TikTok benden kaçtı ama bu benden kaçamayacak” gibi iddialı sözlerle de bu hedefini ortaya koyuyor. Arada toparlanıp yapay zeka arkadaşların gerçek insanların ve onlarla kurulan bağlantıların yerini alamayacağını da söylüyor tabii. Ancak sonra herkesi gerçekçi olmaya davet ediyor ve birçok insanın bu gerçek bağlantılara sahip olmadığını ve her zaman yalnız hissettiklerini ekliyor. 

İşte yapay zeka da bundan hareketle, insanların arkadaşı olma konusunda hayli hızlı ilerliyor. Açıkçası etrafımdaki birçok insanın arkadaşlarına bile sormaktan çekindikleri soruları yapay zeka modellerine sorduklarını duyuyorum. Bu konuda neredeyse her gün yeni bir örnekle karşılaşıyorum. Henüz Zuckerberg’in bahsettiği proje gerçekleşmemiş olsa da günümüzün yapay zeka modelleri bile arkadaşlık konusunda epey yol almış durumda. 

Yapay zeka arkadaşlığın umut veren potansiyeli

Uzun vadeli etkiler henüz bilinmese bile yapay zeka arkadaşlığının insan yalnızlığını azalttığına dair erken araştırmalar ve bulgular da var. Replica AI gibi ilk örnekler bu amaçla test edilmiş örneğin. Bu konuda çok daha geniş erimli araştırmalara ihtiyaç olduğu açık ama yine de ilk etapta, bu veriye göre yapay zeka arkadaşların kısa vadede “hiç yoktan iyidir” seviyesinde bir etki gösterdiği söylenebilir. 

Özellikle insanların, kendilerini bir insanın yargısına teslim etmeksizin içlerini dökmelerini sağlaması açısından bir işlevi var. Bu da onları bir “sosyal antreman” ya da “prova” aracı hâline getiriyor. Bir adım daha ileri gidersek özellikle belli bir yaştan sonra yeni arkadaş edinmenin çok zor olması gibi de bir gerçek var. 

Yetişkinlikte arkadaş edinmenin zorluğu üzerine Ekşi Sözlük’te ilgili başlığı okumanızı tavsiye ederim. 40’lı yaşların ortasına varmış bir yetişkin olarak bu başlıktaki tespitlerin büyük çoğunluğuna katılıyorum. 

Madalyonun öte yüzü: Riskler ve kaygılar

Yapay zeka arkadaşlarının “iyi hissettirme” potansiyeli üzerinde durup düşünürken benim aklıma gelen ilk risk faktörü, insan duygularının ticarileşmesi oluyor. 

Bilindiği üzere sosyal medya aslen bir dikkat ekonomisi yaratmıştı. Bunu insan duygularını manipüle ederek başardı. Ancak bu kez önümüzde çok daha farklı bir duygu alışverişi var. Bu da yapay zeka arkadaşlık uygulamalarına, dikkat ekonomisinin daha ötesine ulaşan bir duygu ekonomisi yaratma potansiyeli sağlıyor.

Bunun insan psikolojisine etkilerinin nasıl olacağı henüz tam olarak bilinmiyor. Meta üzerinden gidecek olursak halihazırda Facebook, Instagram ve Whatsapp dolayısıyla sahip olduğu veri havuzu ve bunun Meta AI ile birlikte çok daha genişleyeceğini görmek zor değil. Bu konuda geçmişte yaşananlar, Meta’ya ya da kişisel olarak Mark Zuckerberg’e hiç güvenmemek gerektiğini defalarca gösterdi. 

Hani “Whatsapp’a hiç para vermiyoruz, reklam da görmüyoruz ama nasıl bedava kullanıyoruz?” sorusu arada aklımıza takılır ya, şimdi o soru daha anlamlı. 

Hafıza adlı bir dosya

Bu konuda daha teknik riskler de var. Washington Post’ta Geoffrey A. Fowler tespit etmişti: Meta AI varsayılan olarak her şeyi hatırlıyor. Çünkü bu bilgileri “Memory” (hafıza) adı verilen bir dosyada saklıyor. Daha fazla kişiselleştirme için bu gerekli de zaten. 

Ancak bu durum, sosyal medyadakinden çok daha büyük bir mahremiyet ihlali, gözetim ve potansiyel manipülasyon riski yaratıyor. Sosyal medyanın dikkat ekonomisi, bu yeni sınavda duygu ekonomisine evriliyor.

Bir de dalkavukluk sorunu var 

Açıkçası robotlarla arkadaşlık, en çok psikolojinin konusu. Bu alanda çok daha fazla bilimsel çalışmaya ihtiyaç var. Şu ana kadar bildiklerimiz bile endişelenmek için yeterli. Örneğin bir süredir dillendirilen dalkavukluk sorununa bakalım. 

• Büyük dil modellerinin kullanıcılara aşırı derecede katılması ve onları deyim yerindeyse sürekli pohpohlamasıyla ilgili çok sayıda bulgu var. Open AI bile GPT-4o modelinden sonra bu konuyla ilgili özeleştiri mahiyetinde özel bir açıklama yayımlamış ve bir güncellemeyi geri almıştı. 

Bu durum yapay zeka modellerinin eğitim verileri ve tekniklerinden kaynaklanan bir sorun. İnternet, akademik literatür ve sosyal söylemlerden derlenen veri setleri, hâliyle insana dair mevcut önyargıları içeriyor. İnsanın sürekli onaylanma ihtiyacı da bu önyargılara dahil. Dolayısıyla çevrimiçi metinlerde pohpohlama eğiliminin daha yüksek bir yaygınlığa sahip olması da böyle bir durumu yaratıyor. 

• Peki bizi hiç yargılamayan, sürekli onaylayan bir arkadaş, gerçekten arkadaş mıdır? Kimilerinin sadece böyle insanları arkadaş olarak seçtiklerini biliyoruz ama bu insanları iyi bir yere götürür mü? Bana kalırsa götürmez.

Böyle bir durum, zaten sosyal medyanın en büyük sorunlarından olan yanlış bilginin güçlendirilmesini daha da ileriye taşır. Zararlı önyargıların pekiştirilmesinden tutun yapıcı geri bildirim eksikliğinden kaynaklı öğrenme sorunlarına kadar pek çok olumsuz sonuca yol açacağı da aşikar. Yapay zeka laboratuvarlarının dalkavukluk sorununun farkında olup eğitim verilerini geliştirmeye çalışması umut verici bir gelişme olsa da henüz yeterli bir ilerleme sağlanmadığını da bilmek gerekiyor. 

Arkadaş olmaya değer insan kaldı mı? 

Arkadaşım Şeytan filminde Ali Poyrazoğlu’nun canlandırdığı Şeytan karakteri, insandan umudunu kesiyor ve “Ele geçirmeye değer bir ruh yok” diyordu. Bu yazıyı okuyan birçok insanın da birçok gerçek arkadaşından kazık yeme deneyimiyle “Arkadaş olmaya değer insan yok” dediğini duyar gibiyim. Elbette aksini düşünenler de vardır. Yine de insandan umudu kesmemek gerek. Arkadaşlık karşılıklı emek isteyen bir şey. Bu emeğin tek taraflı kalması hayal kırıklığı yaratsa da çift taraflı olduğu durumlarda da insanı iyileştiriyor.

Yapay zekanın bu son meydan okuması bence insan olmanın değeri ve anlamı üzerine düşünmek için de yeni bir fırsat. İyimser bir senaryoda yapay zeka, insan ilişkilerinde tamamlayıcı bir rol oynayabilir. Ancak kötümser bir senaryoda da yapay zeka, izolasyonu ve yalnızlığı daha da derinleştirebilir. 

Bana kalırsa, bir yapay zeka arkadaş, asla gerçek bir arkadaşın yerini tutmaz ancak sorumlu bir kullanımda arkadaşlarla ilişkileri dahi geliştirebilir. Tabii bu “sorumlu kullanım ihtimali” hep kağıt üzerinde kalan bir temenni oluyor. Çünkü son sözü yine Arkadaşım Şeytan’a bırakırsak dünya öyle bir hâl almış ki, artık ne şeytanın gücü kalmış ne de şeytana ihtiyaç.