Teknolojide söz hakkı: AI’ı kullanmak, geleceğine razı olmak demek mi?

QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Bir sohbet robotunun hayatımızı kolaylaştırması, onu geliştiren şirketlerin gelecek planlarına onay verdiğimiz anlamına mı geliyor? Yapay zeka, insanın yerini almak için mi, yoksa insanın kapasitesini genişletmek için mi geliştiriliyor?
Massachusetts Teknoloji Enstitüsü’nde (MIT) çalışmalarını sürdüren, 2024 Nobel Ekonomi Ödülü sahibi Daron Acemoğlu’nun son dönemdeki açıklamaları, bu sorulara odaklanıyor. Acemoğlu, 21 Ağustos’ta Nature’da yayımlanan makalesinde yapay genel zeka (AGI) yarışına yönelen dikkatin çalışanların uzmanlığını güçlendiren ve fırsatlarını artıran sistemlere çevrilmesini savunuyor. “Çalışanlardan yana yapay zeka” olarak da adlandırabileceğimiz “pro-worker AI” yaklaşımı, teknolojik ilerlemenin hangi hedeflere hizmet ettiğini sorguluyor.
Acemoğlu’nun Eylül ayında yayımlanan Justified Posteriors söyleşisi ise yapay zeka ajanlarının ilerlemesine odaklanıyor ve ünlü ekonomist, söyleşide bugün hesaplasaydı ekonomik etki tahminlerini yükselteceğini, ancak henüz yeni bir hesaplama yapmadığını söylüyor. Güvenlik ve yön değişikliği için geçici yavaşlama yapmak ile teknolojik gelişimi durdurmayı birbirinden ayıran Acemoğlu, toplumun yararına olanın, uzmanlıkla beslenen demokratik bir tartışmayla belirlenmesini öneriyor.
- Bu ayrım, Acemoğlu’nun kaygılarını yapay zekayı bütünüyle durdurma çağrısıyla aynı yerde konumlandırmamak açısından önemli.
Yakın plan: Acemoğlu’nun tavsiyesiyle dikkat çeken Obsolete kitabının yazarı Garrison Lovely’yi dinlemek için 17 Eylül’de New York Focus’un düzenlediği bir etkinlikteydik. Kitap için yazdığı değerlendirmede Acemoğlu, kaygıların kaynağını Silikon Vadisi’nin yaptığı tercihlerle ilişkilendiriyor. New York’taki söyleşi de bu tercihlerin kim tarafından ve kimin adına yapıldığı sorusuna odaklanıyor.

Etkinliğin ev sahibi New York Focus, 2020’nin Ekim ayında kurulan bağımsız ve kâr amacı gütmeyen bir araştırmacı gazetecilik kuruluşu. Kurum, New York eyaletindeki iktidar ilişkilerini, özellikle eyalet yönetimi tarafından alınan kararların insanların gündelik hayatına nasıl yansıdığını inceliyor. Konut, adalet, iklim ve emek gibi alanlarda habercilik yapan kuruluş, kamusal kararları daha görünür ve denetlenebilir kılmayı amaçlıyor.
Yapay zekayı odağına alan bu buluşma da "Focus On" söyleşi dizisinin ilk etkinliğiydi. Etkinlik, yapay zeka geliştirme çalışmalarını durdurmayı öneren bir gazeteci-yazar ile genç bir politika yapıcıyı biraraya getirdi.
Profil: Kuruluşun genel yayın yönetmeni Akash Mehta’nın yönettiği söyleşinin konuklarından Garrison Lovely, Brooklyn’de yaşayan bir gazeteci ve yakında yayımlanacak Obsolete kitabının yazarı. Pulitzer Center’ın 2025’te takip edilmeye değer yapay zeka gazetecileri arasında gösterdiği Lovely; The New York Times, The Nation, Jacobin, Nature ve TIME gibi yayınlarda yapay zeka, güç ve emek üzerine yazıyor.
Obsolete, yapay zekanın bir balon mu, insanlığın son icadı mı, girdiği her ortama zarar veren bir teknoloji mi, yoksa varoluşsal bir tehdit mi olduğu sorusunu ele alıyor. Kitap ayrıca, bu olasılıkların birbirini dışlamak zorunda olduğu varsayımını sorguluyor.
Öte yandan: Diğer konuk Alex Bores, New York Eyalet Meclisi’nde yer alıyor. Bilgisayar bilimi alanında yüksek lisans yapmış ilk kongre adayı olan Bores, siyasete girmeden önce de mühendis olarak çalışmış. Yapay zeka güvenliğine yönelik RAISE Act’in meclisteki öncülerinden biri olan Bores, tartışmaya yasal düzenlemeler ve siyasi sorumluluk perspektifinden katıldı.
Konuşma boyunca insan emeğinin geleceği, şirketlerin siyasete etkisi ve yapay zekanın kontrolden çıkma ihtimali tartışılırken hâlâ hayatımızı değiştirecek sistemlerin hangi amaçla, hangi hızda ve hangi sınırlar içinde geliştirileceğine kimin karar verecek olduğunu bilemiyor olmanın gündeme taşıdığı sorular da odağa alındı.
İnsanlığın New York’tan İstanbul’a, Londra’dan Sidney’e aynı soruları sorduğu aşikar…
Sirenleri dinlerken
Bu yaza damgasını vuran The Odysseus filmine yön veren anlatıda Odysseus, Sirenlerin büyüleyici sesini duymak istediğinde peşlerinden gitmemek için kendisini geminin direğine bağlatır. Kahraman, hem kendisine müthiş acılar veren güzel Sirenlerin sesini dinlemek ister, hem de o şarkılara teslim olmamak…
Yapay zekayı durdurma çabasında da benzer bir durum yok mu? Hatta Homeros bu destanı geleceği öngörüp yapay zeka için yazmış olabilir mi? Kim bilir, bugüne şahit olsa kendi hikayesini nerelere taşırdı? Ne de olsa geçmiş hâlâ hepimiz için tüm gizemini koruyor.
Yapay zeka, her şeyi bir gün çözüverecek gibi düşünüyoruz ve insanlık olarak geçmiş tarihe geleceği gören gözler eklemeye bayılıyoruz.
Geniş açı: Gazeteci-yazar Lovely ise konuyu tam da günümüze, “Yapay zeka insanlığın sonunu getirecek mi?” sorusuna getiriyor ve teknoloji şirketlerinin ürünlerini sevmek ile bu şirketlerin kazandığı güçten rahatsız olmak arasında bir çelişki görmüyor.
“Bir teslimat hizmetinin kolaylığından yararlanabilir, aynı zamanda onu sunan şirketin çalışma koşullarını veya piyasa üzerindeki etkisini sorgulayabilirsiniz” diyen Lovely, bir sohbet robotunu kullanırken de onu geliştiren şirketin daha güçlü ve daha özerk sistemler üretme hedeflerine itiraz edilebileceğini savunuyor ve bu ayrımı yapmak gerektiğine dair taze bir perspektif sunuyor.
Esasında bir ürünün işe yaraması ve o ürünü üreten endüstrinin nasıl yönetilmesi gerektiği konusunda kullanıcıların da kafası karışmış durumda. Gün içinde bir e-postayı düzenlemek için verdiğimiz karar, aynı zamanda kimin işsiz kalacağına, hangi verilerin kullanılacağına veya hangi risklerin kabul edileceğine ilişkin toplumsal bir onay sayılabilir mi?
Perspektif: İşini hızlandırmak isteyen bir çalışan, eserlerinin kullanımını sorgulayan bir sanatçı ve mahallesindeki veri merkezine itiraz eden bir yurttaş, aslında farklı şeylerden söz ediyor olabilir. Lovely, bu farklılıkları tek bir teknoloji yanlısı ya da karşıtı kimliğe sıkıştırmanın neyi tartıştığımızı anlamayı zorlaştıracağına işaret ediyor.
Hedef insan emeğinin yerini almak mı?
Lovely’nin konuşmasındaki en sert öneri, elbette son zamanların yükselen tartışma konusuydu: İleri yapay zeka sistemlerinin geliştirilme çalışmalarını durdurmak.
Ancak Lovely, bunu bütün yapay zeka uygulamalarından vazgeçmek olarak tarif etmedi. Ünlü yazarın itirazının odağında insan emeğini mümkün olan her alanda ikame edebilecek sistemler vardı. Lovely’ye göre daha bilimsel ya da faydalı amaçlarla geliştirilen, toplumsal yarar sağlayabilecek yapay zeka uygulamaları için alan bırakmak mümkün. Elbette bu yararların da sınırlarının çizilmesi ve sonuçlarının analiz edilmesi gerekiyor. Yapay zeka geliştirme çalışmalarının kontrolden çıkması ise bu sınırların çizilmesini zorlaştırıyor.
Öte yandan: Konuşmanın sonlarına doğru kendisini yazılımcı ve felsefe eğitimi almış biri olarak tanıtan bir dinleyici, tartışmanın yönüne itiraz etti. Düzenlemelere ve şirketlerin gücünün sınırlandırılmasına karşı olmadığını vurgulayan katılımcı, insanüstü yapay zeka ve kıyamet senaryolarına ağırlık vermenin dikkatleri bugünkü somut ekonomik sorunlardan uzaklaştırabileceğini düşünüyordu. Dinleyici ayrıca, bu anlatının şirketlerin kendi teknolojilerini olağanüstü güçlü gösterme çabasına hizmet etme ihtimalini de sorguluyordu.
Oldukça sağduyulu duran bu itirazları ciddiye almak gerekiyor. Bir şirketin ne yapmayı hedeflediğini incelemekle, bu hedefe mutlaka ulaşacağını varsaymak arasında fark var.
Algoritmik ayrımcılık, çocukların sohbet robotlarıyla ilişkisi, veri merkezleri veya ekonomik güç yoğunlaşması, farklı insanların öncelikleri olabilir. Alex Bores’a göre bunları birbirine bağlayan mesele, teknolojinin gelişiminde toplumun söz sahibi olup olmayacağı. Bu sorunun yanıtını henüz bilmiyoruz ve toplumun büyük bir bölümünü oluşturan son kullanıcılar olarak bir veri olmaktan öteye gidemiyoruz. Yapay zeka alanında çalışan sivil toplum kuruluşları ise şimdilik yeterli değil.
Yine de ortak kaygının ortak çözümü garanti ettiğini de varsayamayız. Veri merkezlerinin çevresel etkisine itiraz eden biri, yapay zeka modellerinin geliştirilme çalışmalarının durdurulmasını desteklemeyebilir. Denetim talep etmek ile yasak talep etmek, farklı siyasi tercihler… Eğer geniş bir koalisyon kurulacaksa bu ayrımların da konuşulması gerekiyor.
Kapitalizm, liberal siyasete karşı
Akash Mehta, finalde bir yanda veri merkezlerine karşı oluşan geniş tabanın, diğer yanda ise yapay zeka şirketlerinin siyasete aktardığı paranın durduğunu hatırlatarak bu durumun siyasi tabloyu nasıl değiştirdiğini sordu. Bores; Marc Andreessen, Ben Horowitz ve Greg Brockman gibi öncü isimlerin, siyasetçilere sektöre karşı çıkmamaları yönünde mesaj verdiklerini savundu. Bores’a göre yapay zekanın denetlenmesini desteklediği için kendisine seçim kampanyası aleyhine harcanacak 10 milyon dolarlık bir bütçe bildirildi.
Öte yandan: Salondan gelen bir soru, bu katılım çağrısının önündeki başka bir eksikliğe de işaret etti. Seçimleri ve siyaseti doğrudan etkileyen bu başlık eğitimdi. Zira mesele, toplumun yapay zeka konusunda yeterince bilgilendirilmemesi. Toplum, şu anda yapay zekayı içerik üreticilerinden ve sosyal medyadan öğrenir durumda.
Örneğin pandemi sırasında insanlara riskler ve alınabilecek önlemler aktarılmıştı ve bir bakıma toplum eğitildi. Bu teknolojiler konusunda da kesinlikle benzer bir bilgilendirmeye ihtiyaç var. Bu endişeyi dile getiren dinleyici, kamu politikası oluşturmak için halkı sürece katmak gerektiğini vurguladı ve şu ifadeleri kullandı:
“Korku, anlamanın yerini tutmaz.”
Korku anlamamıza engel mi oluyor?
Peki korku gerçekten anlamamıza engel mi oluyor? Muhtemelen evet. Yapay zeka okuryazarlığını yalnızca bu araçları daha verimli kullanmayı öğrenmek olarak düşündüğümüzde bu uyarının önemli bir kısmını kaçırıyoruz. Bir sistemin ne yapabildiğini, hangi iddiaların henüz varsayım olduğunu ve bir zarar oluştuğunda kime soru sorulabileceğini de anlamamız gerekiyor.
Dahası: Yapay zekanın geleceği hakkında söz söylemek için onu geliştiren şirketlerden birinde çalışmak gerekmiyor. Kullanıcı, çalışan, ebeveyn, gazeteci, araştırmacı veya yurttaş olarak farklı sorular sorabiliriz. Teknolojinin kimin yararına geliştirildiğini sorgulamak için teknolojinin her teknik ayrıntısında uzman olmak zorunda değiliz. Özellikle de ChatGPT ile ilişkili genç intiharlarının yükselişte olduğu bir dönemde…
Buz dağının görünmeyen kısmı gerçekten çirkin ve ibre o tarafa dönmesin diye bir avuç insanın çırpınması yetmeyecek. Lovely, Bores ve Mehta’nın sohbetinin açtığı en verimli alan, geleceğin önceden kararlaştırılmış olduğu düşüncesine itiraz edebilmekti. Zira bir yapay zeka aracını faydalı bulurken onu geliştirenlerin toplum adına karar vermesine razı olmayabiliriz. Bir teknolojiyi kullanmayı seçmek, onun geleceği hakkında söz sahibi olma hakkından vazgeçmek anlamına gelmemeli.











