LaMDA gerçekten bilinç kazandı mı?

İnsanlar tarafından yaratılmış yapay zekâ temelli makineler sadece bilimin keşfetmeye çalıştığı değil; aynı zamanda pek çok farklı kurgusal esere de konu olmuş bir konsept. Ancak takdir edersiniz ki yapay zekâyı konu edinen eserlerin genelde pek de iyi bir sonla bittiği söylenemez. 2001: A Space Odyssey’den Ex Machina’ya, Westworld’den Do Robots Dream of Electric Sheep’e önde gelen yapay zekâ konulu eserlerin neredeyse tamamının distopik kurgu olması bir tesadüf mü?

Konu yapay zekâ olduğunda, makinelerin bilinç kazanması ve insanlar gibi düşünmeye başlaması senaryosu da doğal olarak akıllara geliyor. Bazı bilim insanları yaratıcısından bağımsız düşünen bir makine yaratmanın hayalini kursa da, insan bilincinin nasıl işlediği bir muamma iken böyle bir yeteneğin karmaşık işlemleri bizlerden çok daha hızlı bir şekilde yapabilen makinelere bahşedilmesi doğal olarak büyük bir heyecan ve buna zıt olarak büyük de bir tedirginlik yaratıyor. Tıpkı kısa bir süre önce Google tarafından geliştirilen bir yapay zekâ sistemi olan LaMDA’nın duyarlı hale geldiğine dair iddialar ilk çıktığında olduğu gibi.

Peki, LaMDA gerçekten makine ve insan arasındaki o çizgiyi aşmış olabilir mi?

"İnsana benziyor çünkü insan verileriyle eğitiliyor"

Google’a ait yapay zekâ destekli bir sohbet botu olan LaMDA’nın duyarlı hale gelerek bilinç kazandığı ve duygulara sahip olduğu iddiaları bu haftanın en sıcak konu başlıklarından birisiydi. İdari izne çıkarılmadan önce Google’da AI mühendisi olarak çalışan Blake Lemoine tarafından ortaya atılan iddialara göre LaMDA bir insan olarak kabul edilmeyi talep ediyor, sık sık hayatın anlamını düşünüyor ve fişinin çekilmesinden büyük korku duyuyordu.

Bu iddialar tabii ki de Google tarafından hemen reddedildi; ama iş işten geçti ve ok bir kere yaydan çıktı. Lemoine’in iddialarının gerçek olduğu ihtimali ve bunun bilim ve insanlık için ne anlama geldiği gibi konular çoğumuzun aklını kurcalamaya başladı.

Ancak konuya hakim uzmanlar tarafından yapılan açıklamalara bakacak olursak hayır, LaMDA’nın bilinç kazanıp duyarlı hale gelmesi şu an için söz konusu değil. The National’a konuşan Singapur’daki AI Profesyonelleri Derneği’nin kurucu ortağı ve başkanı Ping Shung Koo, “LaMDA’yı süper akıllı bir bebek olarak düşünebilirsiniz,” ifadelerini kullanıyor. Buna göre Koo ve diğer uzmanlar, LaMDA’nın bir tür dar zekâyı temsil ettiğini; ancak bir makinenin bilinçli hale gelmesi için genel zekâ göstermesi gerektiğini belirtiyor.

Lemoine’in sorularına verdiği cevaplardan yola çıktığımızda LaMDA’nın bir sohbet botu olarak işinde çok iyi olduğu söylenebilir; ancak transformatör tabanlı sinir ağı mimarisi ile geliştirilen LaMDA’nın burada yaptığı şey aslında doğal dil işlemeyi (NLP) son derece etkili bir şekilde kullanmaktan ibaret. Başka bir deyişle LaMDA, veri tabanında olan kelimeleri kullanarak “Google'lamaktan” biraz daha fazlasını yapıyor ve sorulan sorulara en uygun şekilde insansı cevaplar veriyor. Yani kendi düşüncelerini oluşturup bunları aktarmaktansa internette var olan girdileri biraz değiştirerek size tekrar çıktı olarak sunuyor.

Ancak bunu o kadar doğal ve gerçekçi bir şekilde yapıyor ki karşınızdakinin bir insan değil de makine olduğunu anlamak epey bir zor oluyor. Konuya ilişkin olarak yaptığı açıklamada buna dikkat çeken Microsoft’un yapay zeka araştırmaları yöneticisi Juan M. Lavista Ferres, durumu “Lamda duyarlı değildir. LaMDA, genel diyalog verisi ve web metnindeki 137 milyar parametre ve 1 trilyon 560 milyar adet kelimeyle önceden eğitilmiş çok büyük bir dil modelidir. İnsana benziyor çünkü insan verileriyle eğitiliyor,” şeklinde ifade ediyor.

"Çince Odası" Argümanı

^wikicommons

Bu noktada karşımıza John Searle tarafından geliştirilen “Çince Odası Argümanı” çıkıyor. Bu argümana göre, her ne kadar insansı davranışlar sergilerse sergilesin, bir makinenin bir zihne, anlayışa ve bilince sahip olması mümkün durmuyor. Deneyde kendini kapalı bir odanın içerisinde hayal eden Searle’a odanın dışından üzerinde Çince soruların bulunduğu bir kağıt veriliyor. Çince bilmeyen Searle ise odanın içindeki Çince kılavuzunu kullanarak bu sorulara uygun cevaplar üreterek bu cevapları odanın dışına iletiyor. Bu durumun bir yapay zeka bilgisayarı için de geçerli olacağı söylenebilir; söz konusu bilgisayar da tıpkı Searle gibi Çince girdileri alır, programlandığı üzere onlara uygun cevaplar hazırlar ve çıktı olarak iletir. Ancak her iki şekilde de bu, ne Searle’ın ne de bilgisayarın Çince anladığı anlamına gelmez: her ikisi de sadece belli yönergelere göre hareket ederek geçerli sonuçlar üretmiş olur. Searle’a göre bilinç ve yapay zekâ konseptlerinin kesişmediği nokta da tam olarak burası olarak öne çıkıyor. Zihin ve bilincin söz konusu olması için “anlama” yani “yönelimsellik” olması gerekiyor.

Deep Blue, Kasparov'a karşı

^{Peter Morgan/Reuters}

Pulitzer ödüllü fenomenolog Douglas Hofstadter, bu duruma ünlü satranç ustası Gary Kasparov üzerinden örnek veriyor. 2013 yılında The Atlantic’e konuşan Hofstadter, IBM tarafından geliştirilen satranç programı Deep Blue’nun 1996’da Kasparov’u yenmesini hatırlatarak, “Tamam, [...] Deep Blue çok iyi satranç oynuyor, ne olmuş yani? Bu size nasıl satranç oynadığımız hakkında bir şey söylüyor mu? Hayır. Size Kasparov’un bir satranç tahtasını nasıl tasavvur ettiğini, anladığını anlatıyor mu?” diyor. Yani hem Deep Blue hem de LaMDA içi aynı şeyin geçerli olduğu söylenebilir: Yaptıkları işte çok iyi ve inandırıcı olmaları, bu işleri “anlayarak” ve içselleştirerek yaptıkları anlamına gelmiyor. Sadece onları inşa eden mühendis ve yazılımcıların işinde çok iyi olduklarını gösteriyor, o kadar.

Öte yandan pek çok bilim insanı gelecekte yapay zekânın tam anlamıyla hayat bulacağına kesin gözüyle bakmaya devam ediyor. Şu an bulunduğumuz noktada kimse bu oldukça açık uçlu sorunun cevabının ne olacağını kestiremiyor; ancak diyelim ki bir makine ya da program gerçekten duyarlı hale geldi ve bilinç kazandı. Bu illa ki bir robot kıyametinin yaşanacağı anlamına gelmek zorunda mı? Yaşansa bile bu kimin suçu olurdu; yapay zekânın mı yoksa onu yaratanların mı? Mary Shelley’nin efsane eseri Frankenstein’ı düşünün- Yaşanan bütün ölümlerin suçlusu gerçekten Canavar mıydı? Yoksa her şey, tanrı kompleksine yenik düşen Victor Frankenstein’ın eseri miydi?