Nobel'e götüren soyutlamanın öyküsü

Yazı: Albert Ali Salah

2024 Nobel Fizik Ödülü'nün Geoffrey Hinton ve John Hopfield'e verilmesi karışık duygulara sebep oldu. Bir yanda fizikçiler ödülü verecek fizikçi mi kalmadı diye serzenişte bulundular, diğer yandan bilgisayar bilimciler kendi alanlarından birilerinin bu ödüle layık bulunmasını hayretle ve gururla karşıladılar. Hinton ve Hopfield bile bu duruma şaşırdıklarını itiraf ettiler. 

• Arşivden: Hinton, Zappa Zamanlar okurlarının tanıdığı bir kişi, medyada sık sık yer alan bir isim. Hopfield ise daha çok yapay zeka tarihini yakından tanıyanların bildiği bir araştırmacı. 

Bu isimler neden Nobel aldılar?

19. yüzyıl ve sanayileşme insan hayatının orta yerine makineleri ve otomasyonu koydu. Otomasyonla birlikte fiziksel işler, makineyle yapılır hâle geldi. Bugün ise yaşadığımız yapay zeka devrimiyle düşünsel görevler de artık makinelerle yerine getirilebiliyor. Dahası makinelerin yanı sıra algoritmalar ve yapay öğrenme de işin içine girdi. 

• Artık belli bir tarife göre hazır yemek üreten bir fabrikanın yerini, sattığı ürünlere gelen beğenilere göre tarifi sürekli değiştiren bir fabrika alabilir. 

Yapay zekanın gelişimi 2. Dünya Savaşı'ndan sonra, 1946-1953 arasında düzenlenen Macy Konferansları ile hızlanmaya başladı. Sibernetiğin ve modern bilişsel bilimin temel sorularını ele alan bu toplantılarda kendi kendini yöneten sistemler, Gestalt psikolojisi, insan beyninin çalışma prensipleri gibi pek çok konu ele alınmıştı. Katılımcıların neredeyse hepsi ise kendi alanlarında öncü isimlerdi: Claude Shannon (enformasyon teorisi), Norbert Wiener (sibernetik), John von Neumann (bilgisayar mimarisi), Margaret Mead (antropoloji)...

Bu yıldızlar geçidi toplantıların katılımcılarından Warren McCulloch (nöropsikoloji) ve Walter Pitts (mantık) basit nöron modelleri geliştirip bunların matematiksel olarak mantık fonksiyonlarını yerine getirebileceğini, dahası bu basit fonksiyonların birleştirilerek çok daha karmaşık işler yapılabileceğini gösterdiler. 

^{Kaynak: commons.wikimedia.org}

Yukarıda gördüğünüz şemada, başka nöronlardan gelen bilgiyi (ilk hâlinde "0" veya "1" geliyor diye düşünebiliriz, sonraları herhangi bir sayı gelebilecek şekilde daha genel modeller üretildi) toplayarak birleştiren nöronumuz, aktivasyon fonksiyonunun değeri eşik değerini geçtiği zaman ateşliyor ve kendi bağlandığı nöronlara "1" sayısını yolluyor. Bu şekilde birbirine bağlanmış nöronlarda aktivasyonlar dalga dalga yayılabiliyor.

Bugün kullandığımız bilgisayarların temelinde basit mantık ve matematik fonksiyonlarının transistörlerle soyutlanması ve bu transistör devrelerinin kodlanabilir şekilde birleştirilmesi var. Transistör dediğimiz basit devre de tıpkı McCulloch ve Pitts nöronu gibi kendisine gelen ve "0" ve "1" seviyelerinin voltaj değeri olarak gösterildiği birkaç girdiden basit bir fonksiyona göre çıktı değeri üreten üniteler. Bunlar mantık önermelerini kodlamak için de çok elverişli yapılar, “1” değerini "doğru", “0” değerini de "yanlış" diye kodladığımızda, karmaşık mantık çıkarımları yapabilecek devreleri kurabiliyoruz. Bugün bir Intel i9 işlemcide 4.2 milyar transistör var, dolayısıyla bu devreler artık elle çizilemiyor, başka bilgisayarlar yardımıyla hazırlanıyor. 

• Hinton'un doktorasını aldığı yıllarda ise 10-30 bin transistörlü bilgisayar sistemleri vardı. Şimdinin transistörleri ise o zamankilerden yaklaşık bin kat daha ufak olduğu için artık çiplere daha çok transistör koyabiliyoruz.

Matematiksel gösterimler, modern bilgisayarların ve yapay sinir ağlarının temelinde yatıyor. Büyüyen ve güçlenen bilgisayarlar daha karmaşık matematiksel işlemleri daha az zamanda yapar hâle geliyorlar. Yeni algoritmalar geliştiriliyor (bunları yemek tarifleri gibi düşünebiliriz; bilgisayara bir dizi işi yaptırmak için yazılan komutlardan oluşuyorlar). Fakat araştırmalar ilerledikçe soyutlama hep büyük bir problem olarak karşımıza çıkıyor. 

• Bir problemi bilgisayarın veya bir algoritmanın çözebileceği şekilde nasıl ifade edeceğiz? Bir kere bunu doğru yaptıktan sonra problemin çözümü o kadar da zor değil. Asıl mesele (asıl zeka mı desek?) problemin soyutlanmasında sanki. Satrancı bir arama problemine dönüştürebilirsek, arama kısmını bilgisayar yapıyor işte.

2017'de kaybettiğimiz ABD'li felsefeci Hubert Dreyfus, 1979'da yazdığı ünlü What Computers Still Can't Do kitabında yapay zekanın başlangıcındaki yaklaşımları Ay'a gitmek için ağaca çıkmaya benzetiyor: Evet, aradaki mesafeyi kısaltıyorsunuz ama yaklaşım baştan yanlış, oradan inmeden de Ay'a gitmeniz mümkün değil. 

Soyutlamayı siz yapıyorsunuz, bilgisayar da o zamana kadar en iyi yaptığı işi yapıyor, bir sürü ihtimali hızlıca değerlendirerek doğru çözümü arıyor. Ya soyutlama yapabilen bilgisayarlar, onlar nerede? Dreyfus o dönemde MIT'deki yapay zekacı meslektaşlarının öğle yemeklerinde onunla aynı masaya oturmadıklarını şaka yollu anlatıyor. Ama söylediklerinde bir yere kadar doğruluk payı da var. 

Yapay zeka, bazı araştırmacıların iddia ettiği kadar başarılı değil. Bugün Gary Marcus gibi isimler Dreyfus'tan bayrağı devralmış durumda, şimdi onlar büyük dil modelleri gibi sistemlerin çok ciddi problemleri olduğunu, genel yapay zekaya ulaşmak için yanlış bir yol olduğunu söylüyorlar. 

• Gary Marcus, 2024 başında Twitter'da Geoffrey Hinton ve eski öğrencisi Yann LeCun ile bu konuda epey atıştı ve Hinton'u kendisiyle yüzleşmemekle suçladı. 

Bazı sistemleri ve yöntemleri bir kenara atmadan önce neler yapabildiklerini iyice öğrenmek gerekiyor. Bu açıdan hem Dreyfus hem de Marcus'un söyledikleri yanıltıcı olabilir. Öte yandan yapay zekayı olduğundan çok daha üstün gösterip bundan maddi çıkar elde eden pek çok insan ve şirket var, bu eleştirilerin de önemi büyük. 

Marcus şu an kullanılan sistemlerin bazı amaçlara uygun olduğunu (örneğin otomatik cümle tamamlama) ama pek çok kullanımının (özellikle karar verme ve bilgi üretme konularında) henüz yeterince anlaşılamamış tehlikeler içerdiğini söylüyor. Neticede hem Dreyfus hem de Marcus, temelde (kendi dönemlerinin) yapay zeka sistemlerini doğru (veya gerçekçi, veya insan beyninin yaptığı biçimde) soyutlama yapmamakla itham ediyorlar. 

Soyutlama nedir?

Bu soyutlama meselesi üzerine biraz daha düşünelim. Nedir soyutlama? Mesela bir sanatçı için nedir? Fiziksel veya zaten soyut bir nesneyi alıp, onun bazı boyutlarını seçerek bir tür indirgeme yapmak. İngilizcesi abstraction, Latince abs ve trahere kelimelerinden türetilmiş. Birincisi bir edat, bir şeyin zaman ve uzamda kaynağını göstermek için kullanılıyor, diğeri "çizmek” anlamında. 

İnsan beyninin yapabildiği önemli işlerden biri: Çokboyutlu, çokyönlü bir şeyi alıp daha basit hâle getirmek, bu şekilde farklı kullanımların önünü açmak. Mesela bir kutuyu "üzeri düz" ve "ağırlık taşıyabilir" özelliklerine indirmek, bu sayede onu bir sandalye olarak kullanabilmek. İnsan düşüncesinin esnekliği, biraz de bu soyutlama becerisinden kaynaklanıyor. 

Soyutlama için kullandığımız en büyük aracımız dil. "Üzeri düz" dediğimizde aslında bir kutunun algısını bir dil gösterimine çevirmiş oluyoruz. Bu noktada artık bu dil gösterimi ile çalışabiliriz, kutunun pek çok farklı kullanımını bulabilmek için artık kutunun kendisine ihtiyacımız yok. 

Dil çok karmaşık olguları da basit bir kelimeye indirgemek için kullanılıyor. Mesela "öfke" dediğimizde belki çok farklı duyguları paketlemiş oluyoruz. Ama bu yöntem bize "öfke" duygusunun bütün karmaşıklığını bir kenara koyup, öfke ile ilgili düşünme imkanı veriyor. Zor bir metni okuduğumuzda bazen hiçbir şey anlamamamız bundan. Metin büyük karmaşıklıkları barındıran parçalardan ve kavramlardan oluşuyorsa ya da bu parçaların arkasındaki düşünceleri bilmiyorsak metnin tamamı da bize bir şey ifade etmiyor. 

Soyutlama, insan yaratıcılığını farklı gösterim alanları arasında ilişkiler, köprüler kurarak besliyor. Peki bir makinenin soyutlama yapabilmesi ne demek? Bir girdiyi alıp bir çıktıya dönüştürmek mi acaba? Girdi ile çıktı arasında yeteri kadar fark varsa buna soyutlama diyebilir miyiz? 

• Boris Vian, Günlerin Köpüğü kitabında harikulade bir makineden bahseder. Piyanoyla çalınan bir parçayı, bu parçanın uyandırdığı duygulara karşılık gelen bir kokteyle dönüştüren bir makine. Algıyla gerçekliğin değiştirilebildiği bir dünya kurmasıyla edebiyat tarihinin en yaratıcı kitaplarından birine yakışan bir makine, müziği soyutlayarak kokteyle dönüştürüyor.

Yapay zekada bugün büyük sıçrama yapmamızı sağlayan yapay sinir ağları da aslında daha ileri soyutlama yapabilmek amacıyla bağlantılar ve dönüşümler üzerine kurulmuş bir yapı. Bir girdiyi alıp (mesela bir imge veya cümleyi) bunu bir çıktıya dönüştürüyor (başka bir imge veya cümleye). Arada nasıl bir dönüşüm olması gerektiğini insan yaratıcılığı ile üretilmiş milyonlarca imge ve cümleden öğreniyor. Bu alanda başarı kazandıkça, dönüşümün algoritmanın içindeki aşamaları da anlamlı aşamalar içermeye başlıyor. 

• Mesela imgeyi dönüştürürken önce imgenin temel yapıtaşlarıyla başlıyor, çizgileri, köşeleri, renk kümelerini saptıyor, daha sonra yavaş yavaş nesneleri buluyor, son olarak bu nesneler arasındaki ilişkilere göre çıktıyı şekillendiriyor. 

2024 Nobel'in öyküsü

Biz yine Nobel’e geri dönelim. Hopfield de Hinton da disiplinlerarası akademik formasyona sahip bilim insanları. Hopfield, 1958'de doktorasını fizik alanında alıyor; 1986'da Caltech'de Hesaplamalı ve Nöral Sistemler doktora programını başlatıyor, kariyerini moleküler biyoloji profesörü olarak noktalıyor. Hinton ise lisansta deneysel psikoloji okuyor, sonra doktorasını "yapay zeka" konusunda yapıyor. Doktorayı 1978'de alıyor, o tarihte henüz Sinclair 48K bilgisayar bile yok hayatımızda. 

Fakat yapay zeka, üzerinde düşünülen, tartışılan bir konu. Alan Turing, ünlü makalesini 1950'de yazmış; "Düşünen bir bilgisayar ne demektir?" diye sormuş. Bilgisayarın prensipleri ortaya konmuş, daha büyük şeyler başarmak için donanımın ölçeklenmesi gerekiyor, bunun da bir zaman ve kaynak meselesi olduğunun herkes farkında. 

Ama daha gelişmiş bilgisayarların insan düşüncesine ne kadar yaklaşabileceğini tam kestirmek güç, bunun için hangi yöntemin izlenmesi gerektiği de bilinmiyor. Douglas Lenat, "Çok büyük bir veritabanı yapıp bütün insan bilgilerini içine doldurmalıyız" diyor. Luc Steels, iki bebek bilgisayar yapıp birbirleriyle konuşa konuşa öğrenmelerini sağlamalıyız düşüncesinde. Rodney Brooks ise "Zeka için gösterime ihtiyacımız yok, davranışları basitten karmaşığa doğru hiyerarşik bir yapıda organize edersek makineler zekice davranır zaten" diye düşünüyor. Bu fikirlerin hepsi farklı araştırmacı grupları tarafından ele alınıyor, inceleniyor.

Hinton ve Hopfield'in düşünce geleneği ise "Paralel ve Dağıtık Sistemler" diye bilinen bir yaklaşım. Diğer yaklaşımlardan biyolojik sistemlere bir nebze daha yakın olmasıyla ayrılıyor. Bilişsel bilimin iki büyük ekolü, Noam Chomsky'nin temsilcisi olduğu ve daha sembolik gösterimlerin öne çıktığı MIT ekolünün karşısında yer alan, yapay sinir ağları ve varyantlarının öne çıktığı San Diego ekolüne dahil diyebiliriz. 

Bu yaklaşımda sistemdeki bilgi, pek çok ünitenin (nöronun) üzerine dağıtılmış durumda, derli toplu (sembolik) bir gösterim yok. Daha ziyade birbirine bağlı bilgi kırıntıları var, tek başına hiçbir şey ifade etmeyen bu kırıntılar ancak birleştiklerinde bir şeyler söyleyebilir hâle geliyorlar. 

• Mesela elle yazılmış rakamları tanıyan bir uygulama için, yazılı rakam görüntüsüne piksel piksel bakıp (-1,1) aralığında sayılar üreten binlerce nöronun ürettiği çıktıları birleştirerek cevap üreten bir sisteme ihtiyacımız var. 

Hopfield, doğrusal olmayan sistemler konusunda çalışıyor ve önerdiği yaklaşımın temelinde hafızanın dinamik yapısı var. Bu yaklaşımlara çağrışımlı bellek (associative memory) deniyor. Bu yaklaşımda sistem hatırlanacak bilgiyi bağlı olduğu bütün diğer bilgi kırıntılarının aktivasyonlarıyla oluşturuyor. 

• Girdi ile çıktı arasındaki ilişkiyi bağlantıların değerlerini değiştirerek öğrenme fikri ise daha eski, Japon araştırmacı Shunichi Amari Hopfield'den 10 yıl önce bu yöntemle modeller geliştiriyor.  

Hopfield modelinde sistemin tanımasını istediğimiz bir örüntüyü çokboyutlu uzayda bir nokta olarak düşünelim. Her farklı girdi de bu uzayda başka noktalara karşılık geliyor olsun. Bu uzayı üzerinde çanaklar olan bir masa gibi hayal edebiliriz. Her ezberlenen örüntü bu çanaklardan birinin tam orta noktası olacak şekilde bu çanakları dizmiş olalım. Elimizdeki bir bilyeyi masanın herhangi bir yerine koyduğumuzda bilye, altındaki çanağın tam orta noktasına doğru, doğrusal olmayan bir yol çizerek gidecek, dönecek duracak, durduğu zaman da bu merkez noktaya karşılık gelen örüntüyü bulmuş olacak. 

Aşağıdaki figürde buna bir örnek görebilirsiniz. Sisteme 15x15=225 boyutlu uzayda bir noktayı ezberletiyoruz. Burada her kare komşuları ile bağlı bir nöron gibi düşünebiliriz, "0" (beyaz) veya "1" (siyah) değerini alıyorlar. "A" harfine karşılık gelen örüntüyü ezberlettikten sonra (yani komşular arasındaki bağlantı ve eşik değerlerini öğrendikten sonra) sistemi sağ üstteki örüntüden başlatıyoruz. Bilye yuvarlanıyor, yuvarlanıyor, ve 40 adım sonra ezberlemiş olduğu örüntüde, çanağın ortasında duruyor. Bunu farklı örüntülerle de deneyebilirsiniz. 

Hinton'un yarattığı Boltzmann makinesi ise Hopfield'in öncülük ettiği, birbirine bağlı ünitelerin birbirlerini besleyerek kararlı bir duruma gelene kadar, dinamik bir şekilde değiştiği bellek yapısını geliştiriyor. İkisi de aslında bilgisayarın problemleri soyutlamasına yardımcı olaracak güçlü algoritmalar geliştirdikleri için Nobel ödülünü alıyorlar. 

• Arşivden: Yapay zeka fikir olarak uzun geçmişine rağmen son birkaç yılda büyük bir hızla gelişerek hayatımızın pratik bir parçası hâline geldi. Cem Say, 50 Soruda Yapay Zeka kitabında bu dönüşümü anlatıyor.

Teoriden pratiğe geçerken ekonomiden politikaya tüm toplumsal grupları ve kurumları yakından ilgilendiren dinamikler ve sorunlarla geldi yapay zeka; insanlar üzerinde yeni tahakküm mekanizmaları kurulmasına da kapılar açtı. Hinton, Nobel ödülünü aldıktan sonra verdiği röportajlarda yapay zekanın kontrolsüz gelişiminin sorunlu olduğunu, ürettiğimiz teknolojinin sonuçlarını tam kestiremediğimizi, işin bu yönüne mesai harcamak gerektiğini söylüyor.

Hinton'la ilk karşılaşmam 2001 yılında, doktorasını aldığı Edinburgh'da oldu. Bilişsel Bilim Cemiyeti'nin (Cognitive Science Society) ilk kez verdiği David E. Rumelhart ödülünü yeni örüntüler üreten modeller üzerine yaptığı çalışmalarıyla almaya gelmişti. Hinton o dönemlerde özellikle çağrışımlı bellek üzerinde aktivasyonların nasıl yayıldığını inceliyordu. Konferanstaki konuşmasına "Çok güzel bir fikrim var, ama bu sadece 100.000 dolarlık bir ödül, o yüzden bugün size başka bir fikrimi anlatacağım" diye başlamıştı. Acaba o diğer fikri neydi?