Jeff Sebo ile bilinç, risk ve sorumluluk üzerine: 'Sihirli bir değneğim olsa yapay zekayı olduğu yerde dondururdum'

Yapay zeka yarışını yavaşlatma çağrıları artık yalnızca teknoloji şirketlerinin dışından gelmiyor. Bu söyleşi yayına hazırlanırken, daha önce OpenAI’da da çalışmış Anthropic araştırmacısı Jacob Coxon görevinden ayrılarak şirketlerin yapay zeka yarışında yeterince sorumlu davranmadığını savundu ve kontrolsüz ilerlemenin insanlık için varoluşsal bir risk yaratabileceği uyarısında bulundu. Anthropic araştırmacısı Evan Hubinger da Coxon’ın temel kaygısına katıldı; yapay zekanın önümüzdeki 10 yıl içinde insanlığın yok oluşuna yol açma ihtimalini yüzde 10'un üzerinde gördüğünü söyledi.

Birkaç gün sonra tartışmaya Anthropic CEO’su Dario Amodei de katıldı. Amodei, 12 Eylül’de yayımladığı We Must Pace the Frontier başlıklı yazıda yapay zeka geliştirmeyi tamamen durdurmayı olmasa da güvenlik önlemlerinin teknolojik ilerlemeye yetişebileceği daha kontrollü bir tempoya geçmeyi savundu. Bağımsız güvenlik denetçilerine sürekli erişim verilmesi, şirketler arasında ortak güvenlik standartları oluşturulması ve hükümetler arasında uluslararası koordinasyon kurulması çağrısı yaptı.

Tam bu tartışmanın ortasında, New York Üniversitesi’nden felsefeci ve çevre araştırmacısı Jeff Sebo ile görüştük. Sebo’nun yapay zekaya yaklaşımı, teknolojinin insanlara ne yapacağı sorusuyla sınırlı değil. Üzerinde çalıştığı daha alışılmadık bir mesele var: İnsanların yarattığı yapay zeka sistemleri bir gün bilinçli veya duyumsayan varlıklara dönüşürse onlara karşı ahlaki sorumluluklarımız olacak mı?

^{Fotoğraf: Jeff Sebo}

Jeff Sebo, New York Üniversitesi’nde Çevre Çalışmaları Doçenti. Aynı üniversitedeki Center for Environmental and Animal Protection ile Center for Mind, Ethics, and Policy’nin direktörlüğünü, Wild Animal Welfare Program’ın ise eş direktörlüğünü yürütüyor. Araştırmaları ahlak ve zihin felsefesinden hayvan bilinci ve refahına, yapay zeka sistemlerinin olası ahlaki statüsünden çevre etiğine uzanıyor.

2025’te yayımlanan The Moral Circle: Who Matters, What Matters, and Why kitabında insan merkezli ahlak anlayışının sınırlarını sorgulayan Sebo, ahlaki çemberin hayvanları ve gelecekte ahlaki önem taşıyabilecek yapay zeka sistemlerini de kapsayacak biçimde genişletilmesi gerektiğini savunuyor. Aynı yıl Lucius Caviola ve Jonathan Birch ile yayımladığı çalışmada, toplumların olası bir yapay zeka bilincini nasıl değerlendirebileceğini hayvan bilincine yönelik tarihsel tutumlarla da karşılaştırdı.

• 2026’da Robert Long ve diğer araştırmacılarla hazırladığı Studying AI Welfare Empirically raporu ise tartışmayı bir adım ileri taşıyor: Yapay zeka sistemlerinin bilinç, duyumsama veya kendi refahları açısından ahlaki önem taşıyıp taşımadığını bilimsel olarak araştırmak mümkün mü? Çalışma, henüz çok yeni olan bu alanın deneysel yöntemlerle incelenebileceğini savunuyor.

Yapay zeka tartışmaları çoğunlukla insanın etrafında dönüyor. İşimizi elimizden alacak mı? Yaratıcılığımızı köreltecek mi? İnsan ilişkilerinin yerini alacak mı? Bizi daha üretken mi, yoksa daha bağımlı mı yapacak? Sebo'ya tartışmanın çok az konuşulan karşı yakasını sorduk.

Yıllardır yapay zeka, hayvanlar, bilinç ve ahlaki statü üzerine çalışıyorsunuz. Peki kişisel olarak yapay zeka konusunda ne hissediyorsunuz?

Yapay zeka konusunda oldukça endişeliyim. Bu teknoloji şimdiden son derece dönüştürücü ama bir yandan da yıkıcı etkiler yaratıyor. Üstelik geliştirme ve kullanım hızı, bırakın düşürülmeyi giderek artıyor.

İlerleme yavaşlasa bile, elimizdeki teknolojilerin yaygın biçimde benimsenmesi büyük bir dönüşüme yol açacak. Bunun birçok faydası olacak ama beraberinde ciddi riskler de getirecek. Gelişme bu hızla sürer ya da daha da hızlanırsa son derece belirsiz bir döneme girebiliriz. Sonuç çok iyi olabilir, çok kötü olabilir ya da ikisinin arasında bir yerde kalabilir.

Şu anda çok fazla bilinmeyen var. Beni endişelendiren de bu.

Sihirli bir değneğiniz olsaydı ve bugünün yapay zeka alanında tek bir şeyi değiştirebilseydiniz neyi değiştirirdiniz? Tasarım, politika ve uygulama alanlarına nasıl müdahale ederdiniz?

Sihirli bir değneğim olsaydı toplum olarak hâlihazırda sahip olduğumuz teknolojiye uyum sağlayana kadar daha fazla ilerleme kaydedilmemesi için yapay zekayı olduğu yerde dondururdum.

Tek bir politik müdahale yapabilseydim yapay zeka gelişimini yavaşlatmak ve ekonomik geçişi sorumlu biçimde yönetmek için gerçek bir uluslararası koordinasyon mekanizması kurardım. Çünkü hükümetlerin ve şirketlerin gelişimi tek başlarına yavaşlatmasının önündeki en büyük engellerden birinin bu koordinasyon eksikliği olduğunu düşünüyorum.

Tasarım açısından ise Eric Schwitzgebel ile birlikte “Duygusal Uyum Tasarım Politikası” (Emotional Alignment Design Policy) adını verdiğimiz yaklaşımı uygulardım. Temel fikir şu: Yapay zeka sistemleri, kullanıcılarda sistemlerin gerçek yeteneklerini ve ahlaki statüsünü doğru biçimde yansıtan duygular uyandıracak şekilde tasarlanmalı.

Bir sistemin bilinçli olduğuna ilişkin kanıt zayıfsa insanların onunla gereğinden fazla empati kurmasına yol açacak antropomorfik özellikler atfetmemelisiniz. Bilinç veya kişilik sahibi olduğuna dair kanıtlar güçlenirse bu tür özelliklerin kullanılması daha uygun olabilir. Böylece tasarım, yapay zeka sistemlerine yönelik duygusal tepkilerimizin gerçeklikle daha uyumlu olmasına yardımcı olabilir.

Akıllı telefonların ve sosyal medyanın konsantrasyonumuz üzerindeki etkilerini gördük. Bir arkadaşımızla, bir hayvanla ya da doğayla baş başa olsak bile zihnimiz başka bir yerde olabiliyor. Yapay zeka bizi gerçek dünyadan daha da koparabilir mi?

Yapay zekanın bizi doğadan koparması mümkün. Fakat doğal dünyayla yeniden bağlantı kurmamıza yardımcı olması da mümkün. Sonuç, teknolojiyi hayatlarımıza ve toplumlarımıza nasıl yerleştirdiğimize bağlı.

Sosyal medya, televizyon, film ve video oyunları gibi yapay zeka da bize sonu gelmeyen, kişiselleştirilmiş bir dijital eğlence dünyası sunabilir. Bu konfor, gerçek insan ilişkileri kurmak, hayvanlarla bağ geliştirmek veya doğada olmak gibi daha fazla emek isteyen şeyleri yapma isteğimizi azaltabilir.

Ama tersi de olabilir. Yapay zeka, ilişkilerini daha iyi yönetmeye çalışan birine yardımcı olabilir, bir hayvanı sorumlu biçimde sahiplenmek isteyen birine rehberlik edebilir veya çevremizdeki bitkileri, hayvanları ve mantarları daha iyi tanımamızı da sağlayabilir.

Hatta bir süre sonra neyin “canlı”, neyin “doğanın parçası” olduğu hakkındaki varsayımlarımızı sorgulamamıza yol açabilir. Onları biz yaratmış olsak bile bazı yapay zeka sistemlerini bir gün doğanın parçası olarak görmemiz gerekebilir. Yapay zeka, doğal ile yapay arasındaki sınırı da bulanıklaştırabilir.

Yapay zeka bir yandan balinalar gibi başka türlerin iletişimini anlamamıza yardımcı oluyor, diğer yandan insan benzeri bir arkadaş, partner veya terapist olarak hayatımıza giriyor. Bu iki yönünü nasıl değerlendiriyorsunuz?

İkisinin de hem olumlu hem olumsuz sonuçları olabilir. Balinalarla iletişim örneği özellikle ilginç. İnsan dışı hayvanların iletişimini ve düşüncelerini anlamayı öğrenirsek onları daha iyi tanıyabilir, dolayısıyla daha iyi koruyabiliriz. Fakat aynı bilgi onları daha kolay manipüle etmemizi ve kendi amaçlarımız için kullanmamızı da sağlayabilir.

Örneğin bu bilgiyi hayvanların güvenli bir bölgeye ulaşmasına yardımcı olmak için kullanabiliriz. Ya da onları yaşadıkları yerden uzaklaştırıp o bölgeyi ormansızlaştırmak veya başka amaçlarla kullanmak için de...

Teknoloji iki yönde de kullanılabilir ve muhtemelen kullanılacak. Bu nedenle asıl mesele doğru toplumsal normları oluşturmak ve ardından insanları yararlı kullanımlara yönlendirecek kurumlar ile teşvikler oluşturmak. Bu, teknik olduğu kadar toplumsal, hukuki, siyasi ve ekonomik bir mesele.

Yapay zeka sistemlerinin yalnızca insanlara değil, hayvanlara karşı da sorumlu davranmasını teknik tasarım ve hukuk yoluyla sağlayabilir miyiz?

Center for Mind, Ethics, and Policy’de kısa süre önce “Welfare Alignment Project” adını verdiğimiz bir çalışma başlattık. Yapay zeka uyum yöntemlerinin ve bunları belirleyen belgelerin hayvan refahını nasıl daha iyi kapsayabileceğini inceliyoruz.

Yapay zeka sistemleri yalnızca insanları değil, diğer hayvanları da sistematik biçimde etkiliyor. Buna rağmen hayvanların duyumsama kapasitesi ve refahına ilişkin bilgiler, modellerin davranışını şekillendiren belgelerde neredeyse hiç yer almıyor.

Önerilerimizden biri bu nedenle model tanımlarında, model anayasalarında ve uyum sürecini belirleyen diğer belgelerde hayvanların duyumsama kapasitesinden ve refahından açıkça söz edilmesi.

Bir modele “topluma yardımcı ol” dediğimizde, “toplum” kavramının diğer hayvanları da kapsaması gerekir. “Topluma zarar verme” dediğimizde de aynı şekilde.

Bunun son derece pratik sonuçları var. Yapay zeka ve makine öğrenimi bugün hayvancılıkta aydınlatmadan yem ve su yönetimine, hastalıkların tespitinden hayvanların izlenmesine kadar birçok alanda kullanılıyor. Aynı teknolojiler vahşi hayvan popülasyonlarını izlemek, akıllı şehirleri yönetmek, aydınlatma sistemlerini düzenlemek ve otonom ulaşımı geliştirmek için de kullanılıyor.

Bu sistemleri hayvanların sağlığını ve refahını geliştirecek, vahşi hayvanlarla araçların çarpışmasını azaltacak ve hayvanlara verilen zararı sınırlayacak biçimde tasarlayabiliriz.

Bu konuda diğerlerinden daha doğru adımlar atan bir ülke var mı?

Şu anda hiçbir ülke yapması gereken her şeyi yapmıyor.

ABD ve Çin özellikle önemli, çünkü ileri yapay zeka geliştirme ve uygulamalarının büyük bölümü bu iki ülkede yürütülüyor. Dolayısıyla doğru adımlar atmaları kritik.

Birleşik Krallık ve Avrupa Birliği de tartışmanın önemli aktörleri. Yapay zekayı ciddiye almaları ve düzenlemeler için kamu kaynağı ayırmaları doğru yönde atılmış adımlar.

Ama en fazla güce ve sorumluluğa sahip aktörlerle bu sorumluluğun gereğini yerine getirenler arasında hâlâ çok büyük bir boşluk var.

Kurumsal dünyada da ilginç bir dönüşüm yaşanıyor. Sosyal medya ilk ortaya çıktığında bazı şirketler çalışanlarının kullanımını kısıtlıyordu. Şimdi bazı şirketler çalışanlarından yapay zeka araçlarını kullanmalarını bekliyor, hatta bunu zorunlu tutuyor. Kurumlar doğru dengeyi nasıl bulabilir?

Bu yeni teknoloji hakkında çok hızlı karar vermek zorunda kalan yöneticilere anlayışla yaklaşıyorum. Çünkü iki yönde de yanlış karar vermek kolay.

Çalışanlar için gerçekten değerli olabilecek yapay zeka kullanımını tamamen yasaklayabilirsiniz. Öte yandan yapay zekanın herkesi otomatik olarak daha üretken hâle getireceğini varsayıp kullanımını zorunlu tutabilir ve sonuçta çalışanları daha verimsiz hâle getirebilirsiniz.

Özellikle büyük bir şirket veya üniversitede insanların yapay zekayı doğru ölçüde ve doğru biçimlerde kullanmasını sağlayacak normları ve kuralları belirlemek bana son derece zor bir sosyal mühendislik problemi gibi geliyor.

Binlerce çalışanı olan bir şirketi ya da binlerce öğrencisi olan bir üniversiteyi yönetiyor olsaydım kuralların tam olarak nasıl olması gerektiği konusunda benim de kafam karışırdı.

Özellikle gençler arasında yapay zekaya yönelik tepkinin ve kaygının arttığını görüyoruz. Bu kaygıyı haklı buluyor musunuz?

Bence oldukça anlaşılır. Yapay zeka, gençlerin zaten zorlu koşullarda iş aradığı bir dönemde yeni bir ekonomik sarsıntı yaratacak. Bazı durumlarda sosyal medya ve diğer teknolojilerin yarattığı yabancılaşmayı daha da derinleştirebilir.

Daha ileriye baktığınızda ise teknolojinin kötüye kullanılması, biyolojik veya siber silahlarda kullanılması ve teknoloji üzerindeki kontrolün kaybedilmesi gibi daha ciddi riskler de var.

Bu nedenle gençlerin endişeli olmakta haklı olduklarını düşünüyorum. Endişelerinin dayandığı gerekçelerin hepsi doğru olmayabilir ama kaygının kendisi anlaşılır. Bu teknoloji konusunda temkinli olunması gerektiğini düşünenler genel olarak doğru yönde bakıyor. Endişelenecek çok şey var.

Yapay zeka şirketlerinin liderleri de zaman zaman geliştirdikleri teknolojinin çok ciddi riskler yaratabileceğini söylüyor. Bir yandan teknolojiyi geliştirmeye devam edip diğer yandan toplumu uyarmalarını nasıl değerlendiriyorsunuz?

Şirket liderlerinin bu teknolojiyle bağlantılı ciddi riskler konusunda açıkça konuşmalarından memnunum.

Bazı insanlar felaket risklerinden söz etmelerini, teknolojinin yeteneklerini abartıp toplumun ilgisini artırmanın bir yolu olarak görüyor. Bunda doğruluk payı olabilir. Fakat birçok liderin bu riskler konusunda gerçekten kaygı duyduğunu ve bu meseleleri düşünmek, teknolojiyi düzenlemek ve sorumlu kullanım için koordinasyon kurmak üzere hâlâ zamanımız varken toplumu uyarmaya çalıştığını düşünüyorum.

Riskleri mümkün olduğu kadar uzun süre inkar edip tehlikeli bir endüstri kuran tütün veya fosil yakıt şirketlerinin izlediği yolu takip etmelerindense, riskler konusunda dürüst olmalarını tercih ederim.

En iyi senaryo herkesin bu teknolojiyi geliştirmeyi bırakmaya karar vermesi olurdu. Ama geliştirmeye devam edeceklerse riskler konusunda dürüst olmalarını ve toplumla açık bir diyalog kurmalarını tercih ederim.

Yapay zeka insanların yaptığı işleri üstlenmeye başlarsa bu teknolojiden büyük ekonomik kazanç sağlayan şirketlerin kazancın bir bölümünü topluma geri aktarması gerekir mi?

Bunu toplum olarak tartışmamız gerekiyor.

Yapay zeka şirketleri, önceki teknolojik dönüşümlerde görmediğimiz türde bir ekonomik sarsıntı ihtimalinden endişe ediyor. Geçmişte teknolojik değişimler bazı işleri ortadan kaldırırken yeni işler de yaratıyordu. Yapay zeka ise çok geniş bir zihinsel ve fiziksel görev yelpazesinde insan performansına rakip olacak, hatta onu aşacak bir noktaya gelebilir. Böyle bir durumda ortadan kalkan işler kadar yeni iş yaratılamayabilir.

Dolayısıyla teknolojinin yarattığı kârın nasıl paylaşılacağını tartışmalıyız. Daha güçlü bir sosyal güvenlik ağı kurulabilir, evrensel temel gelir uygulanabilir veya insanların yararlanabileceği başka kaynaklar ve fırsatlar oluşturulabilir.

Hedef, toplam iş sayısı azalsa bile insanların yalnızca geçinebilmesini değil, anlamlı hayatlar sürdürebilmesini sağlamak olmalı.

Şu anda bunların hiçbiri hazır değil. Temelden farklı bir toplum kurmamız gerekebilir. Üstelik bu dönüşüm önümüzdeki 10 yıl içinde yaşanabileceği için fikirleri şimdiden denemeye başlamalıyız.

2025’te yayımlanan The Moral Circle’ı bugün yeniden yazsaydınız yapay zekayla ilgili değiştireceğiniz bir şey olur muydu?

Her şey o kadar hızlı değişiyor ki bu konu hakkında düşünme ve konuşma biçimimiz de her yıl değişmek zorunda kalıyor.

Bu bir filozof için alışılmadık bir durum. Felsefi tartışmaların çoğu yüzyıllarca devam eder. Kant, Descartes, Platon ve Aristoteles’le yüzlerce yıl sonra bile aynı meseleler üzerinden diyaloğa girebilirsiniz. Yapay zeka gibi uygulamalı etik ve politika konularında ise tartışma altı ayda bir köklü biçimde değişebiliyor.

The Moral Circle’ı yazdığımda mevcut sistemlerin bilinçli, duyumsayan veya ahlaki açıdan önemli varlıklar olduğuna ilişkin kanıtların sıfır olmadığını ama zayıf olduğunu söylemiştim. Bu yüzden asıl meselenin bugünkü sistemlerden çok, yakın gelecekte ortaya çıkabilecek daha gelişmiş sistemler olduğunu düşünüyordum.

Fakat o satırları 2024 civarında yazdığımdan beri modeller çok daha gelişmiş ve bilişsel olarak daha bütünleşik hâle geldi.

Bugünkü sistemlerin ahlaki statüsünü tartışmamız gereken noktaya ulaştığımızdan henüz emin değilim. Ama yakında ulaşabiliriz.

Bu yüzden artık kendime şu soruyu soruyorum: Yakın geleceğin sistemlerine ne borçlu olabileceğimizi konuşmayı bırakıp bugünün sistemlerine ne borçlu olduğumuzu konuşmaya ne zaman başlamalıyız?

Yapay zeka etrafındaki kamusal iletişimin önemli bir bölümü korku üzerinden kuruluyor. Bunun etkisiz, hatta ters tepen bir yaklaşım olduğunu düşünüyor musunuz?

Korkuya dayalı söylemin başarısız olduğunu söyleyemem. Bazı insanlara ulaştı ve teknolojiye karşı belirli bir muhalefet yarattı.

Ama hayvan refahından halk sağlığına ve çevre sorunlarına kadar pek çok alandan bildiğimiz bir şey var: Olumsuz hikayeler sizi ancak belli bir noktaya kadar götürebilir. Olumlu hikayelere de ihtiyaç var.

Yapay zekanın risklerini ve verebileceği zararları açıkça anlatmaya devam etmeliyiz. İnsanların kaçınmamız gereken kötü gelecekleri görebilmesine yardımcı olmalıyız.

Fakat yapay zekanın insanlar, diğer hayvanlar ve belki yapay zeka sistemlerinin kendileri için güvenli ve yararlı olabileceği olumlu gelecekler hakkında da daha fazla konuşmalıyız.

İnsanlara umut verecek bir gelecek tasavvuru sunmak, yalnızca olumsuz hikayeler anlatmaktan daha güçlü bir motivasyon yaratabilir. En azından bu hikayeleri tamamlayabilir.

Son olarak, okurların bu söyleşiden aklında kalmasını istediğiniz tek bir düşünce olsa ne olurdu?

Bu konularda hemen “ya bu ya o” veya “ya hep ya hiç” tutumuna geçmek çok kolay. Oysa “hem bu hem o” ihtimallerini ve aradaki belirsiz alanları araştırmak çok daha yararlı.

İnsanlar, hayvanlar, yapay zeka ve çevre birbirinden ayrı meseleler değil. Hepsi önemli, zor ve birbiriyle bağlantılı.

Bazıları, “İnsanlar için yapmamız gereken bu kadar çok şey varken neden hayvanları düşünüyoruz?” diyecek. Başkaları, “Hayvanlar için hâlâ yapacak bu kadar çok şey varken neden yapay zeka bilincini ve refahını tartışıyoruz?” diyecek. Bazıları yapay zeka sistemlerinin kesinlikle bilinçli olduğunu düşünecek, diğerleri ise hiçbir zaman bilinçli olamayacaklarını savunacak.

Bence bütün bunların birbiriyle bağlantılı olduğunu hatırlamamız gerekiyor. İnsanlara, hayvanlara, yapay zekaya ve çevreye aynı anda fayda sağlayabilecek çözümler olabilir.

Bağlantıları görmek, “hem... hem de” bakışını korumak, belirsizliği kabul etmek ve aceleci kesin yargılar yerine temkinli ve alçakgönüllü davranmak. Şu anda en çok ihtiyacımız olan şeyin bu olduğunu düşünüyorum.