İhtiras ve yıkım arzusunun kıyısında: Yapay zeka, Faust ve yıldızlar

Hatırlarsanız 2023’ün son haftalarında yapay zeka alanındaki gerilimler o dünyanın içindeki çatlaklardan dışarı taşmıştı. Çok değil bir yıldan biraz önce, Kasım 2022’de, aniden giriverdi hayatımıza ChatGPT. Önce bir oyun gibiydi, “Şunu sordum, şöyle cevap verdi” diye birbirimize anlattık bir süre. Ancak kısacık bir zamanda, geliştirilmiş yeni sürümleriyle iş ciddiye bindi; ChatGPT insanların işlerini yaparken kullandığı bir programa dönüştü. 

Programla birlikte, arkasındaki şirket OpenAI ve yöneticisi Sam Altman’la da tanıştık. O sıralar sürekli gündemde, haberlerdeydi. Amerikan Senatosu da Macron gibi Avrupa liderleri de yapay zeka konusunda Altman’a danışıyordu. Kasım ortasında kurucusu olduğu OpenAI yönetim kurulu aniden Altman’ı görevden aldı. Zirveden oraya tırmandığı kadar hızlı, tepetaklak aşağı yuvarlanacak mı acaba diye olanı biteni bir televizyon dizisi gibi izlerken, senaryoda bir ters köşe daha oldu. Bir hafta sonra Altman göreve iade edildi. Bu sefer onu kapı önüne koymaya çalışanlar kapının dışında kaldılar. 

Bütün bunları izlemek heyecanlıydı ama günümüzün haber hızında artık eskimiş olan bu konuyu siz niye Zappa’ya taşıyorsunuz diyebilirsiniz. Sonuçta bir Silikon Vadisi şirketinin içindeki günlük çekişmelerden, güç oyunlarından bize ne? 

Bunu eski bir yazımızda tartıştığımız Fransız tarihçi Fernand Braudel’in önerdiği üç farklı zamansallık tanımlaması üzerinden düşünmek faydalı olabilir. Braudel zamanı içinde barındırdığı ritim farklılıklarına göre “kısa, orta ve uzun vade” olarak üçe ayırır. Kısa vade, gündelik olayların ve sansasyonel haberlerin zamanıdır. Bunlar çoğu zaman yeknesak, bazen de sarsıcıdır ama ne kadar sarsıcı olsa da Braudel onları toza benzetir. Üzerindeki tozu sildiğimizde görünür olan ise döngüsel dönüşümleri içeren konjonktürel (orta vade) olaylar ve yapısal dönüşümleri (uzun vade) çerçeveleyenlerdir. 

Olan bitene Braudel’in bize sunduğu lensleri kullanarak bakacak olursak ChatGPT, yeni sürümleri, patronun işten atılması ve geri alınması bir toz niteliğinde. Bu tozu silip altındakine bakınca, orta ve uzun vadede belirleyici olacak önemli süreçlerin izleri görünür oluyor.

Yapay zekanın kimler tarafından nasıl kullanılacağı ve kapitalist ekonomiye nasıl katılacağı konusunda bir yol ayrımındayız ve hatta bu yollardan bir tanesini seçip oraya doğru direksiyonu kırdık gibi. 2015 yılında kâr amacı gütmeyen bir yapı olarak kurulan OpenAI, 2018 yılında benimsedikleri tüzükte, misyonlarını Genel Yapay Zeka’nın (Artificial General Intelligence) güvenli bir biçimde tüm insanlığa fayda sağlaması olarak tanımlamış. Anlaşılan bu son kavga, yapay zekanın piyasayla nasıl ilişkileneceğine, Marxist terminolojiyle ifade edecek olursak, nasıl metalaşacağına dair yarılmadan kaynaklanıyor. Çok kabaca ifade etmek gerekirse Altman, hızlı piyasalaşmadan ve kârdan yana olan kanadı temsil ediyordu. Onun kazanması da piyasanın kazanmasının işareti olarak okunabilir.

Kabaca ifade edersek, yapay zeka konusunda birbirine zıt iki görüş var: Bir uçta yapay zekanın kontrolsüz ilerlemesinin risklerine vurgu yapan ve zaman zaman distopik senaryolara kayabilen bir gelecek beklentisi var. Diğer uçta ise yapay zekanın daha hızlı ilerlemesiyle insanlığın nihayet refah ve mutluluğa ulaşacağına dair ütopik beklentiler. 

Tehlike ve risklere işaret ederek daha temkinli gidilmesi gerektiğini savunanlar arasındaki önemli isimlerden biri yapay zekanın godfather’ı olarak bilinen Geoffrey Hinton. Bu teknolojinin yaratıcılarından birinin şimdi tehlike çanlarını çalmaya başlamış olması, söylediklerinin ağırlığını artırıyor hâliyle. Belli ki bir bildiği var dedirtiyor. 

Mashable

Hinton, klasik Silikon Vadisi tiplemesine hiç uymuyor. Geçen yüzyılın ilk yarısında doğmuş, yani genç değil. Eğitimini de yarıda bırakmamış. Aksine 1970’lerde İngiltere’nin yegane yapay zeka programının bulunduğu Edinburgh Üniversitesi’nde doktorasını tamamlamış. Sonuçta kurduğu şirketi 2013 yılında Google’a satıp teknoloji zengini olmuş ama hayatının büyük bir kısmını üniversitede hoca ve araştırmacı olarak geçirmiş. 2013’ten sonra Google’da çalışmaya başlayan Hinton geçen Mayıs ayında yapay zekanın riskleri konusunda daha rahat konuşabilmek için buradan ayrılmış. Şimdi de kendisini dinleyenlere yapay zeka konusunda neden çok dikkatli olunması gerektiğini anlatıyor. Biz New Yorker’da hakkında çıkan bir profil yazısını ve kendisiyle yapılan bir söyleşiyi tavsiye ediyoruz ama siz de internette kısa bir arama yaparak Hinton’un sayısız yazı ve konuşmasına ulaşabilirsiniz.

Yapay zeka çalışmaları, 1950’lerde başlıyor ama o günden bugüne yöntem ve yaklaşımlarda paradigmatik dönüşümler oluyor. Hinton da aslında bu paradigma değişimini başlatanlardan olduğu için önemli. Hinton yapay zekanın asla insanların becerilerine ulaşamayacağını düşünenlerin, “insanın istisnai bir yaratık olması” fikrine fazlaca bel bağladıklarını düşünüyor. Yeni yöntemlerle yapay zeka algoritmaları, beynimizin işleyişine benzer bir şekilde, nöronlar arasında ilişki kurarak öğrenip ilerliyor.

Hinton “Bugün artık ‘İnsan düşünen tek varlıktır, onun için biz bambaşkayız’ varsayımı geçerli değil” diyor. Aksine, bizim yıllar süren eğitim ve deneyimlerle oluşturduğumuz nöron bağlantıları öldüğümüz zaman yok oluyor. Yazarak, çizerek, konuşarak birbirimize bilgi ve deneyim aktarıyoruz tabii ama nöron ağlarımızı aktaramıyoruz. Onlar bizimle birlikte yok oluyor. 

Oysa bilgisayarlar bunu yapabilecek; yani bağlantılarını birbirlerine aktarabilecekler. Dolayısıyla bizim ne kadar güçlü, çalışkan olursa olsun tekil kalan; ancak yazı, çizi ve sesle paylaşım yapabilen akıllarımızdan fersah fersah güçlü olma ihtimalleri var. Bu konuda çalışmaya başladığı yıllarda Hinton, bunun ancak uzak bir gelecekte mümkün olabileceğini düşünüyormuş. “Nasıl olsa daha çok vakit var. Bilgisayarlar bizden daha akıllı hâle gelmeden biz onları kontrol etmenin bir yolunu buluruz” derken, yapay zeka konusunda son dönemdeki ivmelenme onu ürkütmeye başlamış. 

“ChatGPT’nin birçok hata yaptığına, bilmediği şeyleri uydurduğuna bakıp da bu teknolojiyi hafife almayın” diyor Hinton. Ona göre, yapay zekacıların “halüsinasyon” olarak nitelendirdiği bu tür hatalar, algoritmaların ilerde giderek daha yaratıcı ve insana benzer bir akılla hareket etmeye başlamasının ilk adımı olarak görülebilir. Ama bu durum da “aman ne güzel!” demeden önce biraz ihtiyatlı olmayı gerektiriyor: “Bir sistemin etkili olmasını istiyorsanız, ona kendi alt hedeflerini yaratma yeteneğini vermeniz gerekir. Şimdi sorun şu ki hemen hemen tüm hedeflere ulaşmanıza yardımcı olan çok genel bir alt hedef vardır: Daha fazla kontrole sahip olmak.” 

Hinton için asıl mesele burada başlıyor: Algoritmalar verdiğiniz hedeflere ulaşmak için daha fazla kontrol elde etmeleri gerektiğini fark ettiğinde ne yapacaksınız? Mesela cep telefonunuzdaki robotlara “Havaalanına en kısa yoldan git” komutunu veriyorsunuz. Trafik ışıklarında durmak bu hedefin önünde bir engel aslında! Başka bir deyişle, algoritmalar, onlara verdiğimiz nihai amaca ulaşmak isterken kontrolü ne kadar kendi ellerine alırsa o kadar etkin olacaklarını fark edebilirler. Bu durumda “Kontrolü ele geçirmek istemelerini nasıl önleyebiliriz?” Hinton’a göre şimdilik bu sorunun cevabını bilen yok. 

Bir de diğer uca bakalım. Ortağı Ben Horowizt ile 35 milyar dolarlık bir risk sermaye (venture capital) şirketinin sahibi olan Marc Andreessen, Silikon Vadisi’nin entelektüel liderleri arasında. Manifestovari metinleriyle de tanınan Andreessen yakın zamanda epey yankı uyandıran “Tekno-Optimist Manifesto” başlıklı yeni bir metin yayımladı. Başlık metnin meramını büyük bir ölçüde anlatıyor zaten, biz de mealen devamını şöyle getirebiliriz: Bizi çeşitli yalanlarla kandırmaya, teknolojiden korkutmaya çalışıyorlar ama siz bunları boşverin ve teknolojik ilerlemeye güvenin. Neden? Bakın tarihe, insanlık yüzbinlerce yıl yerinde saydı ama sonra birden endüstri devrimiyle birlikte devleşen adımlarla ilerleme yoluna girdi. O gün bugündür de hızlanarak ilerlemeye devam ediyor. Bunun nedeni ne? Büyüme! Yani ekonomik büyüme ve üretkenlik artışı. Bu da teknolojik gelişmeler sayesinde mümkün oldu. Büyümemek demek, “bozulmak, çöküş ve nihayetinde ölüm” demek. Bu aslında çok bildik, Aydınlanma’dan beri farklı biçimleriyle toplumsal ve ekonomik hayatı örgütleyen ilerlemeci söylem. Burada teknoloji tarafsız bir araç olarak konumlandırılıyor. Hayatlarımızı ancak iyileştirebilir; teknoloji sayesinde kansere de çare buluruz, çevre sorunlarını da hallederiz. 

Marshall Berman Katı Olan Her Şey Buharlaşır kitabında, modernleşme ve ilerlemenin içinde taşıdığı, yaratıcı olduğu kadar yıkıcı potansiyele de işaret eder. Bu ikircikli durumun modernliğe içkin tanımlayıcı bir özellik olduğunun altını çizerken Berman, Goethe’nin Faust’una referans verir. Berman’a göre Goethe, daha önce de farklı versiyonlarıyla bilinen Faust hikayesini 19. yüzyılda yeniden yazarken modern bireyin gelişmek, güçlenmek arzusunu ve idealini anlatır. 

Goethe’nin Faust’u, ruhunu şeytana para veya güç için değil, daha çok bilgi ve deneyime ulaşmak için satar. Bir sürü macera sonunda, çok güçlendiği ve neredeyse istediği her şeyi yaptığı hâlde bir türlü tatmin olmayan Faust, daha az okunan üçüncü ciltte bir ekonomik dönüşüm projesine girişir. Onun o zamana kadarki isteklerini mümkün kılan Mefisto bu projede yardımcı aktör rolüne indirgenir bir nevi. Faust her şeyi kendisi tasarlar, siyasi anlaşmalar yapar, işçileri getirir, büyük bir inşa ve ekonomik dönüşüm projesini kendisi idare eder. Gelişme ideası, ekonomik gelişmeyle özdeşleşir; büyüme ekonomik büyümeye indirgenir. Nereden nereye? Bilgi ve deneyime olan açlıkla başlayan Faust’un hikayesi ekonomik büyüme hırsıyla sona erer. Faust mu? Onun sonunun hüsran mı kurtuluş mu olduğu sorusuna cevap vermeyi de dilerseniz edebiyatçılara bırakalım…

Andreessen’in manifestosu, içeriği ve söylemi itibarıyla bize Faust’un içinden çıkamadığı ve beraberinde birçok felakete sürüklendiği vizyonunu hatırlatıyor. Başka bir deyişle, Goethe’nin tespit edip, epik bir şiirle aktardığı modern insanın hayatının hatasını tekrar ediyor: Bilgiye, kendini dönüştürmeye olan devasa açlık, sığ bir ekonomik söyleme indirgeniyor. Öyle ki Andreessen bu sonsuz büyümenin sonsuz bir enerjiye de ihtiyaç duyacağının farkında olduğu için manifestosunda nükleer enerji çığırtkanlığına da epeyce bir yer ayırıyor. Andreessen’in manifestosu hakkında daha çok şey duymak isterseniz, Foreign Policy dergisinin editörlerinden Cameron Abadi’nin Adam Tooze ile yaptığı Ones and Tooze podcast serisinin “The Techno-Optimism of Marc Andreessen” bölümünü özellikle tavsiye ederiz. 

Andreessen’in bize hatırlattıkları sadece Goethe’nin Faust’uyla sınırlı değil. Listemizde 1909’da Filippo Tommaso Marinetti’nin yayımladığı “Fütürist Manifesto” da var. Bu iki metni karşılaştırmak da nereden çıktı diyebilirsiniz. Sonuçta Marinetti bir yazar, şair. Üstelik çok daha şiirsel ve sembolik bir dil kullanıyor. Şehvetli ve heyecanlı bir dil. Sanatçıları yepyeni bir dünyaya çağırıyor. Çağrısı sadece dünyaya yeni bir şekilde bakmaya değil. Marinetti dünyayı yenileme hevesinde ve bu yenilenmeyi yıkımla, savaşla yapmak istiyor. Müzeler, kütüphaneler yok olsun; tarihî binaları yıkalım, tamamen yenilenelim diyor. Çıplak, eril gücün yücelttiği bu metinde makinalara ve onların getirdiği hıza neredeyse tapılıyor. Marinetti “nefret ve hızdan” beslenmek istiyor. Cesaret, başkaldırı, saldırganlık, şiddet ve mücadele diyor. Bu duruş çok kısa bir süre sonra faşizmi kucaklayacak ve Mussolini’nin faşist manifestosunu yazmasına yardım edecek. 

Flippo Tommaso Marinetti

Son olarak şunu eklemesek olmaz. Üniversite düşmanlığından tutun da içkin bir batımerkezciliğe varıncaya kadar iki metin arasında birçok benzerlik var. Ama bu benzerlikler arasında belki de en çarpıcı olanı, yıldızlara ulaşma isteği. 

Bu arzu bize 19. yüzyıl emperyalistlerinin neredeyse bütün şiddet ve vahşetini vücudunda toplayan Cecil Rhodes ve onun tüyler ürpertici ihtirasını hatırlatıyor. Rhodes, göklere bakınca yıldızları çok net ama bir o kadar da uzak görmenin onu üzdüğünden bahsederek ekliyor: “İmkanım olsa gezegenleri ilhak ederdim.”

Daha önceki bir yazımızda Elon Musk’ın yıldızları fethetme merakını anlatmıştık. Tek başına bile çok tehlikeli olan fetih fikrinin gücünü yıldızlarla sınamaya başlaması maalesef dünya sakinleri olarak pek parlak bir noktada durmadığımızın en önemli göstergelerinden birisi. Belli ki faşizm kapının dibinde, savuşturmak için ve daha önceki bir yazımızda tartıştığımız gibi insanlığın sonundan umut arar hâle gelmememiz için daha çok gayret etmemiz gerekiyor. Bu açıdan Andreessen’den ziyade Hinton gibilerinin söylediklerine daha çok kulak vererek işe başlayabiliriz.