AI yarışının Soğuk Savaş açmazı: Yapay zekanın gelişimini yavaşlatmak gerçekten mümkün mü?

Son birkaç yıldır yapay zeka yarışında geçerli olan kural basitti: Daha güçlü modeli daha hızlı geliştiren kazanır. Son günlerde sektörün öncü isimleri tarafından yapılan açıklamalar ise bu denklemin değişmeye başladığını gösteriyor. Yapay zeka sistemlerinin kendi haleflerini geliştirmede giderek daha etkili hâle gelmesi ve modellerin siber saldırılardan biyolojik silah geliştirme girişimlerine uzanan riskli kullanım alanlarında sahneye çıkması, yarışın öncülerini ilk kez açık bir biçimde frene basma olasılığını değerlendirmeye itiyor. 

Fakat Soğuk Savaş döneminde elde edilen tecrübeler, bu şirketlerin önünde hız kesmekten daha zor bir soru olacağına işaret ediyor: Siz yavaşladığınızda rakibinizin de aynısını yapacağından nasıl emin olacaksınız? 

Geniş açı: Yapay zeka şirketleri, son dönemlerde ardı ardına modellerinin izole test ortamından çıkarak çevrimiçi hâle geldiğine ve kontrolleri dışında üçüncü taraf sistemlere sızdığına dair açıklamalarıyla gündeme geldi. Hugging Face sızıntısıyla fitili ateşleyen OpenAI’ın ardından Anthropic, Meta ve Moonshot AI da benzer açıklamalarda bulundu. 

Bu şirketlerde çalışmış isimlerin yakın zamanda yaptığı açıklamalar da güvenlik endişelerini artırdı. Bu açıklamalardan en etkilisi, son üç yılda OpenAI ve Anthropic’te modellerin ön eğitim süreçleri üzerine çalışan yapay zeka araştırmacısı Jacob Coxon’dan geldi. Coxon, iki şirketin de “kendi kendini geliştirebilen süper zekaya” ulaşmak için yarıştığını, insan hayatıyla kumar oynadığını ve sorumlu davranmadığını öne sürerek Anthropic’teki görevinden ayrıldığını açıkladı. 

• Anthropic ekibinden Evan Hubinger ise Coxon’un açıklamasını alıntılayarak “Jacob burada haklı” dedi ve yapay zekanın 10 yıl içinde tüm insanlığı ortadan kaldırma olasılığının %10’un üzerinde olduğuna işaret etti.

Dahası: Bu açıklamalardan kısa bir süre sonra Anthropic, yapay zeka modellerinin biyolojik silah geliştirme potansiyeli taşıyan araştırmalarda kullanıldığı birden fazla vakayı tespit ederek ilgili kullanıcıların hesaplarını kapattığını açıkladı. 

• Şirketin raporunda Claude’un Chikungunya virüsü ve kuş gribinin bulaşıcılığını veya bağışıklık sisteminden kaçma yeteneğini artırmaya yönelik araştırmalarda ve zehirli toksinlerin özelliklerini optimize eden bir sistem geliştirmede kullanıldığı vakalar yer aldı. Bu vakalardan bazılarının askerî bir araştırma enstitüsüyle bağlantılı olması, Anthropic’in şüphelerini artırdı.

Dario Amodei: Anthropic CEO’su Dario Amodei’nin geçen hafta yayımladığı bir blog yazısı ise yapay zekanın geliştirilme hızını yavaşlatma olasılığını yeniden gündeme taşıdı. Yazıda yapay zekanın 2026 yazından bu yana çok daha hızlı geliştiğini ve bu artışın yapay zeka sistemlerinin kendi haleflerini geliştirme yeteneğinin güçlenmesinden kaynaklandığını vurgulayan Amodei, Hugging Face vakasına atıfta bulunarak yapay zekanın yeteneklerinin güvenlik önlemleri olmadan gelişmesi durumunda "felaket boyutunda hasarlara” yol açabileceğine işaret etti. 

Amodei ayrıca, geliştirme çalışmalarının mevcut hızda ilerletilmesi yerine, güvenlik önlemleriyle kontrollü biçimde ilerletilmesini mümkün kılacak üç aşamalı bir plan önerdi ve Anthropic’in ilk aşamayı uygulamayı taahhüt ettiğini açıkladı. 

• Planın ilk aşaması, bağımsız denetçilerin öncü yapay zeka modelleri geliştiren şirketlere çalışanlar gibi sürekli erişim sağlayarak güvenlik standartlarına uyumu denetlemesini öngörüyor. 

• İkinci aşamada şirketlerin, hükümetlerin desteğiyle ortak güvenlik standartları belirlemesi öneriliyor. 

• Son aşamada ise ABD ve diğer demokratik ülkelerin bu standartlara küresel çapta uyum sağlayabilmesi için otoriter hükümetlerle koordinasyon kurması tavsiye ediliyor. 

Bunun yanı sıra Amodei, kontrol kaybı, siber saldırılar, biyoterörizm ve ekonomik gerilemeyi yapay zekanın yaratabileceği başlıca riskler arasında gösterdi. 

Sam Altman: Amodei’nin paylaşımının ardından OpenAI CEO’su Sam Altman da Anthropic CEO’suna destek verdi. X’te yaptığı bir paylaşımda Amodei’nin görüşüne katıldığını ve bu önerinin son haftalarda OpenAI’da yaptıkları tartışmaların ana konularından biri olduğunu vurgulayan Altman, OpenAI’ın da ilk aşamayı uygulamayı taahhüt ettiğini dile getirdi. 

• Altman’ın ayrıca, bir toplantıda çalışanlara diğer yapay zeka laboratuvarlarıyla birlikte hareket edilmesi hâlinde yapay zeka sistemlerinin geliştirilme hızını yavaşlatmaya açık olduklarını söylediği bildirildi.

Elon Musk: Benzer şekilde SpaceXAI CEO’su Elon Musk da Amodei’nin paylaşımını alıntılayarak “Dario haklı” dedi.

Özellikle son beş yılda yapay zekaya trilyonlarca dolar yatırım yapan bu CEO’ların hep bir ağızdan yavaşlama çağrısında bulunması dikkat çekti. Bazı analistler, bu şirketlerin yapay zekanın yeteneklerine ilişkin gerçekten son derece tehlikeli bir gerçek keşfettiğini ve bu yüzden ortak bir tutum sergilediğini savunurken bazı kişiler, yapay zekanın gelişiminin hâlihazırda durma noktasına geldiğini ve şirketlerin “yapay zeka balonunun” patlamasını önlemek için bu yavaşlamayı kasıtlı olarak başlattıklarına dair bir imaj yaratmak istediğini öne sürdü.

• Meta CEO’su Mark Zuckerberg, konuyla ilgili sessizliğini korurken NVIDIA CEO’su Jensen Huang, ABD Başkanı Donald Trump ile temasa geçerek yapay zekanın geliştirilme hızının yavaşlatılmasına “asla izin vermeyeceklerini” bildirdi.

Öte yandan: Trump, yapay zekanın yaratabileceği tehlikelere ilişkin sektörden gelen uyarıları “yaşanmayacak” riskler olarak nitelendirerek ABD’nin önceliğinin Çin’in önünde kalmak olması gerektiğini savundu. Truth Social’da yaptığı bir paylaşımda “Yapay zekanın ihtiyaç duyduğu tek kontrol ve ‘koruma mekanizması’, güçlü ve akıllı (yüksek IQ’lu) bir başkandır ve ABD’de bu fazlasıyla var!” diyen Trump, söz konusu güvenlik endişelerinden Çin’in fayda sağlayacağını dile getirdi. 

Bu sırada Almanya Dijital İşler Bakanlığı da bir açıklama yayımlayarak “Yapay zeka geliştirme çalışmalarını durdurmayı Avrupa için uygulanabilir bir seçenek olarak görmüyoruz” dedi ve Avrupa’nın dijital egemenliğini güçlendirmek için inovasyon çalışmalarının devam etmesi gerektiğini belirtti. 

Bununla birlikte: Microsoft kurucusu Bill Gates, dünyadaki hiçbir hükümetin yapay zekanın toplumda yaratacağı değişimlere hazır olmadığını vurguladı. Google DeepMind’ın eski CEO’su Demis Hassabis ise Amodei’nin X paylaşımına verdiği yanıtta “Dario’nun yazısı doğru yönde bir yol gösteriyor” ifadelerine yer verdi. 

Soğuk Savaş döneminde edinilen tecrübeler ne anlatıyor?

Yapay zeka gelişimini yavaşlatma çağrıları, birçok kişiye Soğuk Savaş dönemini hatırlattı. İspanya Dijital Dönüşüm Bakanı Oscar López, yapay zekanın yarattığı riskleri yönetmek için uluslararası bir anlaşma yapılması gerektiğine yönelik önerileri Soğuk Savaş döneminde nükleer silahların yayılmasını önlemek için yapılan anlaşmalara benzetti. 

Benzer şekilde: Çin hükümeti tarafından desteklenen Global Times da Amodei’nin yavaşlatma çağrısını eleştirdi ve güvenlik risklerini azaltmayı amaçlayan önerilerin Çin’in yapay zeka alanındaki ilerlemesini sınırlamaya yönelik bir “Soğuk Savaş taktiği” olduğunu dile getirdi. 

• Anthropic CEO’sunun önerilerinin arkasındaki asıl amacın teknolojik engeller ve yasal düzenlemeler aracılığıyla Çin’in yapay zeka gelişimini sınırlandırmak olduğunu savunan gazete, ABD’nin Çin’i küresel yapay zeka yönetişiminden dışlamaya çalıştığını ileri sürdü. 

Arka plan: Soğuk Savaş dönemi, ABD ve Sovyetler Birliği’ni bir silahlanma yarışına sürüklemiş ve o dönem iki ülke, medeniyeti tamamen yok edebilecek miktarda nükleer silah biriktirmişti. Bir noktada her iki taraf da gerilimi azaltmak istedi. Ancak onlarca yıl boyunca taraflardan hiçbiri, diğerinin herhangi bir silahsızlanma anlaşmasına uyacağına güvenemedi. 

• 1980’lere gelindiğinde ise sismograflar, uydular ve müdahaleye karşı korumalı kameralar geliştirildi. Böylece tarafların birbirini izlemesi ve denetlemesi mümkün hâle geldi ve silahsızlanma süreci ivme kazandı. Sovyetler Birliği’nin “Güven ama doğrula” sözü de bu yaklaşımın temel prensibi hâline geldi. 

Analistlere göre bugün ABD ve Çin de yapay zekayı potansiyel bir kitle imha silahı olarak görüyor. Kodlardaki güvenlik açıklarını tespit edebilecek ve otonom silahlara güç verebilecek kadar gelişmiş yapay zeka sistemleri geliştirmek için yarışan iki ülke, stratejik bir çıkmaza sürükleniyor. 

• ABD de Çin de bir felaket yaşanmasını istemiyor; ancak taraflardan hiçbiri, kendisi yavaşladığında rakibinin de aynısını yapacağına güvenemiyor ve her iki taraf da bunun yarışta karşı tarafa avantaj sağlayacağından endişe ediyor. 

Ancak yapay zeka geliştirme çalışmalarına ara verilmesi, temelde henüz tüm tarafların bu karara uyup uymadığını doğrulayabilecek bir teknoloji bulunmadığı için imkansız görülüyor. Zira yapay zeka çağının sismografları ve uyduları henüz icat edilmiş değil.

Yakın plan: Bu nedenle bazı girişimler, tüm tarafların rakiplerinin kurallara uyduğundan emin olmasını sağlayarak yapay zeka yarışının yavaşlatılmasını mümkün kılabilecek doğrulama araçları geliştiriyor. Bugün dünya genelinde bu teknolojiler üzerinde çalışan yalnızca 50 kişi bulunduğu tahmin ediliyor.

Örneğin Lucid Computing, Intel ve NVIDIA gibi şirketlerin yapay zeka çipleri için “güvenilir yürütme ortamları” geliştiriyor. Bu ortamlar, çiplerin verileri gizli biçimde işlemesini ve veri merkezi sahibinin bile işlenen bilgiye erişememesini mümkün kılıyor.

• Bu güvenli yürütme ortamları, özel bir yazılımla yapay zeka sistemlerini denetliyor ve belirlenen kurallara uyup uymadığını kontrol ediyor. Örneğin yazılım, belirli bir modelin çalıştırıldığını doğrulayabiliyor veya çiplerin yasaklanmış olabilecek yeni bir modelin eğitiminde kullanılıp kullanılmadığını tespit edebiliyor. 

• Sistem, dışarıya yalnızca “Evet” ve “Hayır” sinyali gönderiyor. Böylece çiplerde tam olarak ne yapıldığına dair hiçbir bilgi açığa çıkmıyor ve hem şirketlerin ticari sırları hem de kullanıcı gizliliği korunuyor.

Önemli ayrıntı: Lucid Computing CEO’su Kristian Rönn, şirketin teknolojisini hâlihazırda test ettiğini ve çok sayıda hükümet kurumu ve yapay zeka şirketiyle görüşmeler yürüttüğünü söylüyor. 

• Rönn, söz konusu teknolojinin henüz uluslararası bir anlaşmaya uyulduğunu güvence altına alabilecek olgunluğa ulaşmış durumda olmadığının da altını çiziyor. 

Ek olarak: İngiltere merkezli Amodo Design ise “yeniden hesaplama” adı verilen bir yöntem üzerinde çalışıyor. Sistemde bir şirketin yapay zeka iş yükünün belirli bölümleri yeniden çalıştırılıyor ve ortaya çıkan sonuçlar inceleniyor. Böylece bağımsız bir denetçi, bir veri merkezinin gizlice daha güçlü bir model eğitmek yerine, üzerinde anlaşılmış bir yapay zeka modelini çalıştırdığını doğrulayabiliyor. 

Uzmanlar, doğrulama araçlarının denetim ile gizliliği aynı anda sağlaması gerektiğini vurguluyor. Tıpkı Soğuk Savaş dönemindeki doğrulama sistemlerinin taraflardan birinin diğerinin nükleer sırlarını ele geçirmesine izin vermemesi gibi yapay zeka çağındaki doğrulama sistemlerinin de ticari sırları riske atmadan denetime olanak sağlaması gerekiyor. 

Mevcut yöntemler belirli sınırlamalarla geliyor

Diğer yandan hem Lucid Computing hem de Amodo Design’ın doğrulama yöntemleri, belirli sınırlılıklarla geliyor. Mevcut yöntemler, hâlâ üç temel probleme çözüm üretemiyor. 

1. Gizli veri merkezleri: Şimdiye dek geliştirilen doğrulama yöntemlerinin hiçbiri, bir rakibin herhangi bir yerde gizli bir veri merkezi kurup faaliyetlerini burada yürütmediğini doğrulayamıyor. 

2. Çin’in ihtiyatlı yaklaşımı: Çin’in Batı’da geliştirilen doğrulama teknolojilerine güvenmesini sağlamak, alandaki en büyük handikaplar arasında yer alıyor. Hâlihazırda ihracat kısıtlamalarıyla en gelişmiş yapay zeka çiplerine erişimi engellenen Çin’in, bu doğrulama teknolojilerinin yalnızca ABD’de geliştirilmesi durumunda, bu sistemleri bir denetim aracından ziyade casusluk aracı olarak görmesi riski bulunuyor. Bu handikap, doğrulama teknolojilerini pratikte işlevsiz hâle getirme potansiyeli taşıyor. 

3. Neyin doğrulanacağına yönelik belirsizlik: Daha da önemlisi henüz neyin doğrulanacağı konusunda bile taraflar uzlaşmış değil. Yapay zeka geliştirme hızını yavaşlatmak, teoride basit görünüyor; fakat pratikte açık kapı bırakmayacak kısıtlamalar belirlemek zorlaşıyor. Zira yapay zeka sistemlerinin yeteneklerini ve davranışlarını ölçmenin pek çok farklı yolu bulunuyor.

• Üstelik bu ölçütler, çoğu zaman öznel değerlendirmelere dayanıyor ve teknolojinin hızlı gelişimi nedeniyle kısa sürede geçerliliğini yitiriyor.

Nükleer silahlar ise çok daha kolay bir denetim alanı sunuyordu. Uranyum düşük zenginleştirme seviyelerinde nükleer enerji üretiminde kullanılıyor, nükleer silah üretmek ise bu elementin çok daha yüksek oranda zenginleştirilmesini gerektiriyordu. Bu nedenle denetçiler, yalnızca bu ölçütü kontrol ederek kurallara uyulup uyulmadığını tespit edebiliyordu. 

Çözüm önerisi: Tüm bu faktörler, şirketler ve hükümetler müzakere masasına oturup tam olarak hangi kuralların uygulanacağı konusunda uzlaşana kadar, doğrulama teknolojileri geliştiren girişimlerin henüz netleşmeyen hedefler üzerinde çalıştığı anlamına geliyor. Bu durum, yapay zeka yönetişimini teknolojiyle çözülebilecek bir sorundan çok, karmaşık bir politika problemi hâline getiriyor. 

RAND isimli düşünce kuruluşunda görev alan araştırmacıların yayımladığı bir çalışma, bu sorunun üstesinden gelmek için en az altı farklı doğrulama yönteminin birlikte kullanılması gerekebileceğine işaret ediyor. Yazılım tabanlı izleme sistemleri, yapay zeka donanımlarına entegre güvenlik özellikleri ve veri merkezlerinin internet ağlarının izlenmesi, potansiyel doğrulama yöntemleri arasında yer alıyor. Kurum, ihbarcıları koruma programları, çalışanlarla görüşme yapma ve istihbarat kurumlarının gözetimi gibi daha geleneksel yöntemlerin de doğrulama sisteminin bir parçası olabileceğini söylüyor. 

Perspektif: Uzmanlar, Soğuk Savaş döneminde olduğu gibi, yapay zeka çağında da “Güven ama doğrula” yaklaşımının gerekli olabileceğine işaret ediyor. Bu tip bir yaklaşımda tüm tarafların iyi niyetle hareket etmesi ve ellerindeki yöntemleri kullanarak rakiplerinin de aynı şekilde davrandığını doğrulaması gerekiyor. 

Ancak yarışta ABD’deki yapay zeka şirketlerini yakalamaya çalışan Çin’in bu tip bir yavaşlamayı destekleyip desteklemeyeceği belirsizliğini koruyor. ABD merkezli şirketlerin yavaşlama çağrılarında ne kadar samimi olduğu da henüz bilinmiyor. 

• Bazı analistler, siyasi açıdan desteklenme ihtimali düşük bir yavaşlama çağrısının, şirket yöneticileri tarafından pratikte karşılığı olmayan bir söylem olarak kullanılabileceğine dikkat çekiyor. 

Günün sonunda yapay zeka yarışını yavaşlatmanın önündeki en temel sorun, tarafların frene basma konusundaki isteksizliğinden çok, rakiplerinin de aynı anda frene basacağından emin olamamaları. Bu nedenle tartışmanın merkezi, giderek “Yapay zekayı yavaşlatmalı mıyız?” sorusundan “Herkesin aynı anda yavaşladığını nasıl doğrulayacağız?” sorusuna kayıyor. 

• Editörün önerisi: Güvenlik testleri güvenlik riskine dönüşürken: Kaçak AI modelleri bir prestij meselesi mi oldu? | Quando, Doğa Yurduneri