“Makinalaşmak istiyorum. Trrrrum, Trrrrum, Trak Tiki Tak!"

1770’te yapılan “Mekanik Türk” olarak da bilinen bir masa ve bir insan modelinden oluşan sahte satranç oyuncusu otomatı muhtemelen dünyanın gördüğü ilk robottu. Benjamin Franklin’i, Edgar Allan Poe’yu yenmeyi başaran, Napoleon Bonaparte’a satranç taşlarını devirten ve sırrı yıllarca çözülemeyen bu otomat birçok edebi ve felsefi esere ilham oldu. Bugün birçokları tarafından bilgisayar biliminin kurucusu olarak gösterilen İngiliz matematikçi, filozof ve makine mühendisi Charles Babbage’in da Mekanik Türk’ten etkilendiği söylenir. Demek ki neredeyse 250 yıldır yapay zekâ imgelemleri, tahayyülleri insanların gündeminde. Makineler ve insanlar arasındaki ilişki, bu ilişki etrafında şekillenen dünya ve bu dünyanın geleceği tartışmaları, sanayi kapitalizminin hemen hemen tüm eğri ve doğrularıyla kendini iyiden iyiye gösterdiği 19. Yüzyıl dünyasında çokça tartışılan konular arasındaydı. Muhafazakarlık, liberalizm, sosyalizm gibi ideolojilerden ulus-devlet ve emek tabanlı toplumsal hareketlere kadar modern dünyayı tanımlayan birçok güncel kurumsal gelişmenin arka planında bu tartışmaların izlerini görmek mümkün… 

Dün olduğu gibi bugün de makine-insan ilişkisinin niteliklerine ve toplumsal sonuçlarına dair etik ve siyasi tartışmalar dünyanın geleceğini yakından ilgilendiriyor. Öte yandan can yakan bir sürü ekonomik ve siyasi sorunlarla boğuşan bir dünyada bu konunun ne kadar hakkıyla değerlendirildiği çok şüpheli... Örneğin, Yuval Noah Harari son kitaplarından Homo Deus’u tartıştığı bir mülakatta insanların kontrolü algoritmalara ve bunları üreten büyük teknoloji şirketlerine kaptırmak üzere olduklarını ama bu konunun siyasetçilerin gündeminde zor yer bulduğunu söylüyordu. Harari bu ihmalkârlığı 1960’lardan itibaren ortaya çıkan çevreci eleştirinin uzun süre dikkate alınmamasına benzetiyor. “Milli ve özgün hibrit roketle” aya gitme hayallerinin parti kapatma heyecanlarına karıştığı ülkemizde ise bu konularla ilgili cahillikle ilgisizlik arasında salınan bir duruş başta iktidar çevreleri olmak üzere tüm siyaset alanını kaplar vaziyette. Teknoloji, yapay zeka, “big data” gibi konular sosyal medya şirketlerine Türkiye’de temsilcilik açtırma ya da Wikipedia gibi sakıncalı görülen web sitelerine erişimi engelleme icraatlar çerçevesinde politika gündemine ancak girebiliyor.

Daha önce “Sıkıntı var. Hem de çok!” başlıklı bültende Cambridge’li tarihçi ve siyaset bilimci David Runciman’ın hazırlayıp sunduğu  History of Ideas podcast serisinden bahsetmiştim. Geçtiğimiz haftalarda Runciman bu serinin ikinci sezonunu yayınlamaya başladı. İkinci sezonda dinlediğim tüm programlar aynen birinci sezondakiler gibi oldukça sürükleyici ve doyurucu. C. Schmitt, R. Luxemburg, F. Nietzsche gibi modern siyasi düşünceyi şekillendiren düşünürlerin arasında Runciman bu programlarından birinde Samuel Butler’ı ve eserlerini tartışıyor. Makine/teknoloji ve insan ilişkisinin bugününe ve geleceğine dair muazzam iç görülerin yazarı Samuel Butler’ı bu program sayesinde öğrendim. Butler’ın eserlerini 19. Yüzyılın ikinci yarısında yazdığına inanmak hayli zor, anlattıkları o kadar çok 21. Yüzyıl meseleleri ki… 

Her şeyi makinelerin kontrol ettiği bir dünyada makineleri “kim” ya da “ne” kontrol edecek? Samuel Butler’ın ilk eserlerinden olan ve 1863’te, 28 yaşındayken yazdığı “Darwin Makineler Arasında” başlıklı makale bu temel soru etrafında şekilleniyor. Daha sonra meşhur olduğu kitaplardan Erewhon’da (2013, Kyrhos Yayınları) da bir distopya kurgusuyla yine bu sorunun cevabını arıyor. Erewhon, İngilizce’de hiçbir yer, bilinmeyen yer, var olmayan yer anlamına gelen “nowhere” kelimesinin iki harfin yer değiştirmesiyle tersten yazılmış hali. Aynı zamanda İngilizcedeki bu kelime Yunanca’da “olmayan yer” anlamına gelen ütopya kelimesine de karşılık geliyor.

Samuel Butler’ın düşüncelerini ve peşine düştüğü soruları şekillendiren iki temel olay/süreç var. Birincisi, 19. Yüzyılın ortasında sanayileşmeyle birlikte yeni enerji kaynaklarıyla, fabrikalarla, haberleşme ve ulaşım araçlarıyla makinelerin insanların hayatında kapladığı alan muazzam artıyor. İkincisi, 1859’da Darwin Türlerin Kökenleri’ni yayınlıyor ve “evrim” fikri siyasi ve felsefi tartışmaların tam ortasına yerleşiyor. 

Butler, evrimin mutasyonlarla ve bükülmelerle dolu gelişigüzelliğinden ve rastlantısallığından çok etkileniyor. Bu noktadan hareketle, giderek makinelerin hüküm sürdüğü bir dünyada sadece canlılar (bitkiler, hayvanlar, insanlar) arasında değil, canlılarla cansızlar arasında da mutlak sınırlar çizmenin imkansızlığını vurguluyor. Bitkilerin, hayvanların ve insanların oluşturduğu evrim zincirine son halka olarak makineler de eklenirse ne olacak?  “Darwin Makineler Arasında” yazısında makinelerin makinelerle evlenmesi, küçük makine bebekler yetiştirmesi, makinelerin de evrim geçirmesi ihtimallerini muzipçe sorguluyor. Son bölümündeki şu satırlardan sonra da “makinelere karşı topyekûn savaş açılması” çağrısıyla makalesini sonlandırıyor. 

“Gün geçtikçe makinelerin üzerimizdeki etkisi büyüyor; gün geçtikçe onların daha çok hizmetkarı oluyoruz; her gün daha fazla insan köleler gibi bağlanmış onlara bakıyorlar; her gün daha fazla insan hayatlarının enerjisini mekanik hayatın gelişimine adıyor. Makinelerin dünya ve yaşayanlar üzerinde tam egemenliklerine ulaşmaları sadece bir zaman meselesi. Bunu, gerçekten düşünen insanın bir an bile sorgulaması mümkün değil.” 

1872’de yazdığı Erewhon’da ise Samuel Butler makinelere karşı açtığı savaşı kazanmış bir toplumun hikayesini anlatır. Bu toplumda bütün makineler imha edilmiş ve insanların her türlü mekanik aletle ilişkisi yasaklanmıştır. Örneğin, romanın baş karakteri olan seyyah, bir tepenin üstündeki Erewhon’a ulaştığında ve bu ülkenin insanlarıyla ilk temasında hemen saatine el konulur. Seyyahın bu ülkede karşılaştığı tuhaflıklar saymakla bitmez: Bu ülkedeki kadınların istisnasız hepsi çok güzel, erkeklerin istisnasız hepsi çok yakışıklıdır. Tüberküloz gibi hastalıklardan mustarip insanlar cezalandırılmakta, hırsızlık gibi suçlara kalkışan insanlar da tedavi edilmeye çalışılmaktadır. O yüzden seyyahın karşılaştığı hasta bir kadın alkolik numarası yapıyordur, başkaları tarafından cezalandırılmak yerine sempati görebilmek için. Üniversitelerde hakikat ve akıl yerine nasıl yanlış olunabileceği öğretilmektedir. Peki neden tüm bu tuhaflıklar? Erewhon toplumu kendini sürdüremez bir noktaya geldiğinde, kendini yok etmek yerine kurtuluşu içini dışarıya çıkartmakta bulmuş, o güne kadar doğru bildiği değerleri ve ilkeleri tersine işletmeye başlatmıştır. 

Samuel Butler

Butler’ın yarattığı dünyadan çıkarılacak dersler arasında bana özellikle şu ikisi çok önemli geliyor. Birincisi, evrim fikrinin toplumsal dünyaya aktarımının imkansızlığı ve sakıncaları üzerine. S. Butler’ın Erewhon’da bir düşünce egzersizi yaptığı söylenebilir: Bir toplum Darwin’in ilkelerine göre davransa neye benzerdi, nasıl bir toplum olurdu? Bir düşünce deneyi yapıyor aslında. Erewhon’da ahlaki/kültürel değerlere ve ilkelere karşı davranmak cezalandırılmıyor, ama biyolojik/bedensel kusurlar/sapmalar cezalandırılıyor. Makineler doğayı taklit etmeleri sayesinde daha az fit olanların yaşamasına katkıda bulunuyor; toplumun dengesini bozuyor; o yüzden de imha ediliyor. 

Halbuki biliyoruz ki Darwin’in doğal dünya için öngördüğü modelin, örneğin doğal seleksiyon kavramının sosyal dünyaya uygulanması durumunda dezavantajlı grupların bırakınız iyi yaşaması hayatta kalması bile zora girer. Tek başına kaba güç belki doğada işe yarar ama toplumda asla... Darwin’in kuzeni Francis Galton’un başını çektiği “insan neslinin ıslahı fikrine dayanan” Eugenics hareketinden çok etkilenen faşist düşüncenin dünyada nelere mâl olduğu da hepimizin malumu. Ya da bugünün COVID dünyasında Eugenics’cilerin iktidarı elinde tuttuğunu düşünsenize: Sosyal politikalar zayıfların hayatta kalmasına neden oluyor, toplumun ortalama adaptasyon kabiliyetini azaltıyor diye düşünen birileri hastalıktan kırılan bir dünyayı, doğa dengeye geliyor diye yukardan ellerini ovuşturarak seyredecekti. 

İkinci olarak Eurowhon, dünyadaki doğal düzenle özdeşleştirilen değer ve ilkeleri sorgulayan bir yaklaşıma çok elverişli bir çerçeve sunuyor. Moral/ahlaki kusurları/sapmaları cezalandırmak fiziksel kusurları cezalandırmaktan o kadar farklı mı? Bugün bizim insanî addettiğimiz, insan olmaya yakıştırdığımız değerler ve ilkeler ne kadar doğal, ne kadar mutlak görülebilir? Sağlığa delice meraklı olmakla ahlaka delice tutkun olmak arasındaki çizgi o kadar da kalın mı? Ve tabii can alıcı soru: makinelerle insanlar arasındaki çizgi nerede başlıyor, nerede bitiyor? Ve de böyle bir çizgi çizmek gerçekten mümkün mü? 

Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü hocalarından Cem Say’ın 50 Soruda Yapay Zeka (2018, Bilim ve Gelecek) kitabı, bu soruların günümüzde aldığı anlamları düşünmek isteyenler için muazzam bir kaynak. Eğer benim gibi bugün artık hemen her yerde karşımıza çıkan yapay zekayla ilgili kavramları, tarihsel karakterleri, güncel gelişmeleri ve hatta geleceğiyle ilgili soruları daha iyi anlamak istiyorsanız, bu alanın en önde gelen uzmanlarından birinin yazdığı bu kitabı mutlaka edinmelisiniz. 50 Soruda Yapay Zeka, “Matematikçiler çelişkiyi sever mi?”, “Doğanın programlama dili nedir?”, “’Yapay zeka’ adını kim koydu?”, “Bilgisayarlar nasıl çeviri yapar?”, “Google nasıl gezegen keşfetti” “Robotlar askere alınsın mı?” ve “Robotlar aşık olabilir mi?” gibi sorulara herkesin anlayabileceği bir dille verilmiş, “sözelci okurları kaçırmayan” sarih cevaplardan oluşuyor. 

Cem Say 50 Soruda Yapay Zeka’ya yazdığı önsöze bir tespitle başlıyor: “Makinelerin ‘düşünce gerektiren’ işleri yapabilmesi insanlarda karışık duygular yaratıyor. Düşünme yeteneğinin insanlara mahsus bir özellik olduğuna inananlarımız bunu önce tuhaf, sonra da bir ölçüde rahatsız edici buluyorlar.” (s. 7) Bu tespit ve ilk cümlede düşüncenin etrafına yerleştirilen tırnaklar kitabın devamında sistematik olarak sürecek kurucu tartışmanın da habercisi. 

“Beyinler ve Diğer Bilgisayarlar” başlığını taşıyan ikinci bölümde bu tartışmanın daha içine giriyoruz. Bu bölümün başında “biz kuramcılar için önemli olan” bilgisayarın yaptığı iştir, bu iş de “hesaplama”dır (computation) diyor Cem Say. Hesaplamanın evrenselleştirilmesinin, yani bir makinanın simülasyon yolu ile farklı hesaplamaları yapabilmesinin çığır açıcılığının öneminin altını çiziyor ve ekliyor: “Hesaplama yapabilen her sisteme “bilgisayar” demenin şöyle ilginç bir sonucu oluyor: Bu durumda insanlar da bilgisayar! Bellek ve zaman kısıtlarını bir an için göz ardı edersek, insanlar kuşkusuz kimi algoritmaları ezberleyip icra edebiliyorlar.” (s. 43) 

Bu tabii, insan ve bilgisayar arasında düşünmenin nerede durduğu sorusuna yani bu kitabın kurucu sorunsallarından birisine soruyu tersine çevirerek yaklaşmanın bir yolu. Yani bilgisayarlar düşünebilir mi, akılları nereye kadar, hesaplama düşünmeye dönüşebilir mi gibi sorulara “insan zaten bilgisayar” diyerek bir tür cevap bulmuş oluyoruz.  Ama bir yandan da bir o kadar büyük bir tartışma alanı açmış oluyoruz, tam da bu yazıda Samuel Butler’ın eserleri üzerinden tartıştığımız gibi. Sonuç olarak, Cem Say’ın kitabı cevapladıkları kadar ortaya attığı yeni sorular, kışkırtıcı düşüncelerle de okunmayı hak eden bir kitap. 

Bilime olan sarsılmaz güveninin her satıra sindiği bu kitapta Cem Say’ın ufak tefek de olsa yapay zeka ile ilgili tereddütlerinin olduğu anlaşılıyor. Say’a göre yapay zeka “zeka ve beceri gerektiren bir mühendislik” konusu ve zeki ve becerikli mühendisler onları nasıl programlarsa öyle davranacaklar. Ama bir yandan da Say zeki, becerikli mühendislerin kötülükleri de programlayabilecekleri ihtimalini de görüyor. Say’a göre bunun çaresi yine yapay zekalar olacaktır, ama bu sefer iyilerin programladıkları: “Umalım ki onlara değerlerimizi olabildiğince kazandırmış olalım. Umalım ki bizi sevsinler ve korusunlar, yaşlığımızda bizi rahat ettirsinler, sonrasında da belleklerinde olumlu anılar olarak kalalım.” Bir sosyal bilimci olarak bu satırları okurken bu zeki ve becerikli mühendislerin edebiyat, tarih, sosyoloji, sinema gibi alanlara da entelektüel yatırımı olacaklardan çıkma ihtimalinin daha yüksek olduğunu düşünmeden edemedim. Bir yandan da daha adil, eşit ve sürdürülebilir bir dünyayı programlayacak yapay zekaları yaratmak için mühendislerin sosyal bilimcilerle, edebiyatçılarla ortak çalışmalar yapabildiklerinin hayalini kurdum. Yine ve yeniden birilerinin insafına kalmamak için disiplinler arasında diyalogu ve karşılıklı öğrenmeyi sürekli kılacak kurumsal mekanizmaların önemini düşündüm. 

Kazuo Ishıguro’nun yeni yayınlanan Klara and the Sun romanının tam da bu bültende bahsettiğim konularla alakalı olduğunu ve hakkında okuduğum, dinlediğim bütün eleştirilerde çok beğenildiğini söylemeden geçemeyeceğim. Okur okumaz sizinle daha ayrıntısıyla paylaşmak için heyecanlandığım bir kitap olduğunu not edeyim şimdilik. 

İstanbul Sözleşmesi’nin feshedildiği, Merkez Bankası müdürünün bilmem kaçıncı kez değiştiği bir hafta sonunda yapay zekayla, tarihle, makinelerle ilgili bir yazıyı sonuna kadar okuma konusundaki sebatınıza hayranlığımın ve şükranımın bir ifadesi olarak size bir sürpriz hazırladım. Umarım beğenirsiniz. 

Ve Nazım’ın şahane şiiriyle hoşça kalın diyor, herkese şimdiden iyi ve mutlu bir hafta diliyorum.  

Makinalaşmak İstiyorum

trrrrum,

trrrrum,

trrrrum!

trak tiki tak!

makinalaşmak istiyorum!

beynimden, etimden, iskeletimden geliyor bu!

her dinamoyu

altıma almak için çıldırıyorum!

tükrüklü dilim bakır telleri yalıyor,

damarlarımda kovalıyor

oto-direzinler lokomotifleri!

trrrrum,

trrrrum,

trak tiki tak

makinalaşmak istiyorum!

mutlak buna bir çare bulacağım

ve ben ancak bahtiyar olacağım

karnıma bir türbin oturtup

kuyruğuma çift uskuru taktığım gün!

trrrrum

trrrrum

trak tiki tak!

makinalaşmak istiyorum!

Her bültende olduğu gibi Biray, Burak ve Murat yazının her aşamasında yanımdaydılar, desteklediler, yol gösterdiler. Sağ olsunlar! Bitirirken yine hatırlatmalarımı yapayım: Bu bülteni çevrenize iletebilir, apos.to/n/zappa-zamanlar adresi üzerinden ücretsiz kayıt olmalarını söyleyebilirsiniz. [email protected] adresinden bana ulaşabilirsiniz.