Pentagon’da yapay zeka tartışmaları: AI’ın etik sınırları yeniden belirleniyor

Hükümetler ve yapay zeka şirketleri arasındaki ilişki, uzun yıllardır ticari gerilimlerin ana konusu olsa da son dönemlerde bu ilişkiye dair en sert sınavlardan biri, savunma alanında veriliyor. ABD Savunma Bakanlığı’nın öncü yapay zeka şirketlerinin modellerini kendi sistemlerine entegre etme yönündeki çabaları, yakın zamanda teknoloji dünyasında yeni bir gerilim hattı oluşturdu.  

OpenAI’ın Pentagon ile anlaşma yoluna gitmesi, fakat Anthropic’in etik nedenlerle anlaşma dışında kalmayı tercih etmesi, tartışmayı adeta yapay zekanın etik sınırlarının gerçek dünyadaki dayanıklılığına dair bir teste dönüştürdü. Pentagon ile Silikon Vadisi arasındaki pazarlıklar, yapay zekanın geleceğinin hangi değerler üzerine inşa edileceğini belirleyen bir dönüm noktasının da kapılarını araladı. 

Ayrıntılar: Bakanlık ve yapay zeka şirketleri arasındaki iletişim trafiği, ilk olarak Axios’un bir raporuyla ortaya çıktı. Rapor, Pentagon’un OpenAI, Google, xAI ve Anthropic’in de aralarında bulunduğu yapay zeka şirketlerine teknolojilerini ABD ordusunun kullanmasına izin vermeleri yönünde baskı yaptığına işaret etti. Ayrıca şirketlerden birinin anlaşmayı kabul ettiği ve ikisinin şartları esnetme yoluna gittiği aktarıldı. 

Anthropic’in ise Pentagon’un talebine en çok direnen şirket olduğu ve bu yüzden bakanlıkla gerilim yaşadığı bildirildi. Habere göre Pentagon, Anthropic'ten Claude'u kitlesel gözetim ve tam otonom silahların geliştirilmesi de dahil olmak üzere "tüm yasal amaçlar" için kullanılabilir hâle getirmesini istemişti. Anthropic’in bu talebi reddetmesinin üzerine ise bakanlık, şirketi 200 milyon dolarlık sözleşmesini feshetmekle tehdit etmişti.

Öte yandan: Taraflar arasındaki gerilim hızlı bir biçimde tırmandı. Anthropic CEO’su Dario Amodei ile görüşen ABD Savunma Bakanı Pete Hegseth, şirkete yapay zeka araçlarındaki askerî kullanıma yönelik kısıtlamaları kaldırması için beş gün süre verdi. Bakan ayrıca, şirketi tedarik zinciri açısından risk olarak etiketlemekle ve Savunma Üretim Yasası’nı devreye sokarak fiilen isteklerini yerine getirmeye zorlamakla tehdit etti.

• Genellikle Çin hükümetiyle işbirliği yaptığı düşünülen Çin merkezli şirketler, Pentagon tarafından “tedarik zinciri riski” olarak etiketleniyor. 

Amodei ise bu sürenin sona ermesine 24 saat kala Pentagon’un ABD ordusunun yapay zeka sistemlerine sınırsız erişim sağlaması yönündeki talebine “vicdanen razı olamayacağını” açıkladı. Bazı kullanım senaryolarının bugünün yapay zeka sistemlerinin güvenilir bir şekilde kullanılabileceği sınırların dışında kaldığını vurgulayan Amodei, bakanlığın başka bir şirketle anlaşma yapması hâlinde geçiş sürecine yardımcı olabileceklerine ve zorluk çıkarmadan bakanlıkla yollarını ayırabileceklerine işaret etti. 

OpenAI anlaşması: Amodei’nin açıklamasından yalnızca bir gün sonra OpenAI CEO’su Sam Altman, ABD Savunma Bakanlığı ile yapay zeka modellerinin Pentagon ağında kullanılması konusunda anlaşmaya vardıklarını duyurdu. Pentagon’un modellerinin kitlesel iç gözetim, otonom silah sistemleri ve sosyal kredi sistemi gibi yüksek riskli otomatik karar sistemlerinde kullanılmaması konusundaki kırmızı çizgilerine saygı duyduğunu vurgulayan şirket, bu ilkelere uyulması için teknik önlemler alacağını ifade etti. 

OpenAI ayrıca, modelleri bulut bilişim ağı üzerinden Pentagon’un sistemlerine dağıtacağını ve yetkilendirilmiş OpenAI personelinin sürece dahil olacağını belirtti. 

• Bir hafta öncesinde Pentagon’un Grok modellerini sistemlerinde kullanmak üzere Elon Musk’ın yapay zeka girişimi xAI ile de anlaşmaya vardığı bildirilmişti. 

Bununla birlikte: Amodei’nin reddini takiben ABD Başkanı Donald Trump, federal kurumlara Anthropic’in teknolojisini kullanmayı bırakma emri verdi. Savunma Bakanı Hegseth de şirketi tedarik zinciri açısından risk teşkil eden şirketlerin derlendiği kara listeye ekledi. 

Fakat Trump ve Hegseth’in talimatlarından hemen sonra ABD’nin Claude’u İran saldırılarında kullandığı iddia edildi. 

Tepkiler: Pentagon ile anlaşmaya vardığını duyurmasının ardından OpenAI’ın yapay zeka destekli sohbet robotu ChatGPT’nin mobil uygulamasını cihazından silen ABD’li kullanıcı sayısı, bir günde %295 arttı. Bu oran, son 30 gün içindeki %9’luk ortalamadan önemli bir sıçramayı temsil ediyordu. Uygulamanın indirilme sayısı da anlaşmanın duyurulduğu gün %13 azaldı. 

Anthropic’in Claude uygulamasının indirilme sayısı ise şirketin Pentagon ile işbirliği yapmayacağını açıkladığı gün %37 arttı ve platform, ilk kez günlük indirilme sayısında ChatGPT’yi geride bıraktı. Ertesi gün de artış oranı %51’e çıktı. 

• Bunun üzerine Claude; ABD, Belçika, Kanada, Almanya, Lüksemburg, Norveç ve İsviçre’nin de aralarında bulunduğu pek çok ülkede App Store’da en çok indirilen uygulama hâline gelerek birinci sıraya yükseldi. 

Temel riskler ne? 

Elbette OpenAI’a yönelik tepkiler yersiz değildi. Pek çok uzman, yapay zekanın ileri savunma sistemlerinde kullanımının ciddi riskleri beraberinde getirebileceğine işaret etti. 

Uzmanlara göre en büyük risk, insan denetiminin azalması potansiyelinde yatıyor. Yapay zeka sistemleri, otomatik karar desteği ve hedef belirleme gibi kritik alanlarda kullanıldığında insan denetiminin azalması veya insanın karar mekanizmasından tamamen çıkarılması riski doğuyor. Bu durumun, özellikle savaş ortamında hedefin hatalı bir biçimde belirlenmesine veya yanlış kararlar alınmasına yol açarak sivil kayıplara veya çatışmanın istenmeyen bir biçimde tırmanmasına neden olabileceği tahmin ediliyor.

Benzer şekilde: Hedef belirleme ve ateş etme kararının yapay zeka tarafından belirlendiği tam otonom silah sistemleri, sorumluluk bölgesini belirsizleştiriyor. Bu tip bir sistemin hangi koşullarda kimin yetki alanıyla devre dışı bırakılacağı ve bir yanlış kararın sonuçlarından kimin sorumlu tutulacağı, uluslararası hukuk ve mevcut askerî yönergeler yapay zeka özelinde kapsamlı düzenlemeler sunmadığı için belirsizliğini koruyor. 

Ek olarak: Yapay zeka modelleri, oldukça büyük veri kümeleriyle eğitiliyor ve bu kümeler içinde insanlığın tarih boyunca ürettiği veriler yer alıyor. Bu durum, mevcut sohbet robotlarında da sıklıkla rastlandığı üzere yapay zekanın beslendiği veriye göre önyargılı veya belirli bir grubun çıkarını gözeten sonuçlar üretmesine yol açabiliyor.

Fakat olası bir önyargı, ırkçı eğilim veya yanlış sınıflandırma, özellikle tamamen otonom savunma sistemlerinde beklenmedik ve radikal davranışlara yol açma riski doğuruyor. Ayrıca yapay zeka sistemlerinin bilerek manipüle edilmesi de önemli bir risk faktörü olmaya devam ediyor. 

• Ayrıca birçok yapay zeka sistemi, bulut bilişim ağları üzerinde çalışıyor. Bu altyapı, istihbaratın, stratejik askerî bilgilerin ya da kişisel verilerin sızması gibi güvenlik zafiyetlerini de beraberinde getiriyor.

Bununla birlikte: Yapay zekanın sivil gözetim amacıyla kullanılması da önemli bir risk faktörü olmayı sürdürüyor. Kitlesel iç gözetim, ABD de dahil birçok ülkede anayasaya aykırı bir eylem olma niteliği taşıyor. 

OpenAI anlaşması risk faktörlerini gözetiyor mu? 

Tüm bu faktörler, yapay zekanın sivil kullanımından doğan risklerden daha ağır sonuçlara yol açma potansiyeli taşıdığı için OpenAI’a yönelik geniş çaplı bir tepki dalgasının ortaya çıkmasına neden oldu. Bunun üzerine CEO Sam Altman, ABD Savunma Bakanlığı ile yaptıkları anlaşmayı teknolojisinin Amerikalılara karşı kitlesel gözetim amacıyla kullanılmasını açıkça yasaklayacak şekilde değiştireceklerini açıkladı. 

Altman’ın açıklamasına göre OpenAI, anlaşmaya ABD Anayasası’nın 4. Ek Maddesi, 1947 Ulusal Güvenlik Yasası ve 1978 Yabancı İstihbarat Gözetim Yasası dahil tüm ilgili yasalar uyarınca yapay zeka sistemlerinin ABD vatandaşlarının takip edilmesi, izlenmesi veya gözetlenmesi için kasıtlı olarak kullanılmasını yasakladığı ve bakanlığın bu yasağı anladığını taahhüt ettiği bir madde ekledi. 

Bunun yanında: Bakanlık, OpenAI sistemlerinin Ulusal Güvenlik Dairesi (NSA) de dahil hiçbir istihbarat teşkilatı tarafından kullanılmayacağını taahhüt etti. 

• Altman, açıklamasında anayasaya aykırı olduğuna inandığı bir emir alması durumunda bu emre uymaktansa hapse girmeyi tercih edeceğini vurguladı.

Öte yandan: CEO, Anthropic’in bakanlıkla neden bu türden bir anlaşma yapamadığını anlamadığına işaret ederken “Gerçekten gerginliği azaltmak istedik ve sunulan anlaşmanın iyi olduğunu düşündük” dedi. Altman ayrıca, açıklamasında şu ifadelere yer verdi:

"Eğer haklıysak ve bu durum Savunma Bakanlığı ile sektör arasında gerginliğin azalmasına yol açarsa dâhi gibi görüneceğiz ve sektöre yardımcı olmak için çok fazla acı çekmiş bir şirket olarak anılacağız. Aksi takdirde ise aceleci ve dikkatsiz olarak nitelendirilmeye devam edeceğiz."

Altman, bu açıklamalarıyla bu denli hayati bir anlaşmanın aceleye getirildiğini de kabul etmiş oldu. 

Anthropic’in uzlaşamadığı konu neydi? 

OpenAI’ın anlaşma şartlarını güncelleyeceğini duyurmasının ardından Anthropic’e farklı bir anlaşma mı gittiği ve şirketin neden OpenAI’a benzer bir uzlaşma sağlayamadığı merak konusu oldu. Bu noktada ortaya çıkan en güçlü yanlış anlaşılma, Anthropic’in ABD Savunma Bakanlığı ile işbirliği yapma konusunda isteksiz olduğu kanısıydı. Fakat esasında şirketin hükümetle çalışma konusunda herhangi bir tereddütü yoktu. Zira Anthropic’in teknolojisi, hükümetle imzalanan bir kontrat kapsamında 2024’ten bu yana federal sistemlerde kullanılıyordu. 

Anthropic, Pentagon’un önerdiği anlaşmada iki hususta uzlaşmaya varamadı. Bu hususlardan biri kitlesel iç gözetim, diğeri ise tam otonom silah sistemleriyle ilgiliydi. Şirket, yapay zeka destekli kitlesel iç gözetimin anayasaya aykırı olduğunu ve mevcut yapay zeka sistemlerinin tam otonom silahlarda kullanılmak için yeterince güvenli olmadığını savundu. 

Perde arkası: Pentagon’un bu iki husus da dahil “tüm yasal amaçlar” için Anthropic’in teknolojisini kullanmayı talep etmesi üzerine ise şirket, anlaşmaya bu iki kullanım senaryosuna ilişkin açık yasaklar eklemek istedi. Bakanlık, bu talebe olumsuz dönüş yapınca görüşmeler tıkanma noktasına geldi. 

OpenAI, şartları esnetse de anlaşmaya net yasaklar ekleyemedi. Şirket, Pentagon’u yalnızca anlaşmayı ABD yasalarına uyum şartları ekleyerek güncellemeye ikna edebildi. 

Karşılaştırma: OpenAI’ın güncellediği anlaşmanın sunduğu sınırların, yeni ve net hukuki yasaklar değil, mevcut ABD yasalarına bağlılık üzerine kurulu olduğu görülüyor. Bu durum, geniş çaplı gözetim faaliyetlerine davetiye çıkarıyor. Anthropic’in eklenmesini talep ettiği şartlar ise Pentagon’un kitlesel iç gözetim ve otonom silahlar için yapay zeka kullanmasını net bir biçimde yasaklıyor. 

• Pentagon’un yapay zeka şirketleriyle yaptığı görüşmelere aşina bir kaynak da OpenAI'ın anlaşmasının Anthropic'in talep ettiği anlaşmadan çok daha yumuşak olduğunu söylüyor. 

Neden önemli? OpenAI’ın anlaşmasında Pentagon, teknik olarak yasalsa “herhangi bir amaç için” yapay zekayı kullanabiliyor. Son birkaç on yılda ABD hükümetinin, “teknik olarak yasal” ifadesinin kapsamını geniş çaplı kitlesel gözetim faaliyetlerini de içine alacak şekilde genişlettiği biliniyor. Anthropic, anlaşmaya bu tip bir faaliyeti özellikle yasaklayan net bir madde eklemeyi talep ederken OpenAI, büyük oranda mevcut yasal sınırlamalara güveniyor. 

OpenAI’ın otonom silah sistemlerine ilişkin önlemlerinin de oldukça zayıf olduğu görülüyor. Şirketin Pentagon ile imzaladığı sözleşme; yasalar, yönetmelikler ve bakanlık politikalarının insan denetimi gerektirdiği durumlarda OpenAI’ın teknolojisinin otonom silahları yönlendirmek için kullanılmasını yasaklıyor. Bu da sözleşmeyi 2023 tarihli Savunma Bakanlığı yönergesiyle uyumlu hâle getiriyor. Fakat sözleşme, bu hususta da herhangi bir bağlayıcı ek yasak içermiyor ve yine mevcut yasal sınırlara güveniyor. 

• Anthropic ise yapay zekanın, hazır hâle gelene kadar otonom silahlarda kullanılmasını ek bir bağlayıcı yasakla engellemeyi talep ediyor. 

Ek olarak: OpenAI CEO’su Altman, sözleşmenin otonom silah sistemleri de dahil herhangi bir güç kullanımında sorumluluğu insana atfettiğini vurguluyor. Anthropic ise doğrudan yapay zeka sistemlerini bir insan gözetimi olmadan konuşlandırmayı yasaklıyor. İnsan sorumluluğu, bu sistemlerin verdiği potansiyel bir hatalı kararın ardından sorumluluğun insana yükleneceği anlamına gelirken Anthropic’in talebi, yapay zeka sistemleri bu tür kararlar vermeden önce veya verirken sürece insanların dahil olmasını gerektiriyor. 

• OpenAI’ın sözleşmesindeki esnekliğin, Pentagon ile anlaşmaya varmasının önünü açan en önemli faktör olduğu tahmin ediliyor. 

Perspektif: Pek çok analiste göre Anthropic, 2024’ten bu yana ABD hükümetiyle işbirliği içinde olduğu için bugün yaşanan gerilim, hükümetle işbirliğini reddetmekten çok, askeri kullanımın sınırlarının nerede başlayıp nerede bittiğine dair bir müzakere krizine işaret ediyor. Mevcut işbirliği, devletlerin on yıllardır özel şirketlerle yaptığı ticari anlaşmaların bir uzantısı olsa da bu işbirliğinin etik sınırları aşma potansiyelini öngören ret, Anthropic’i birçok kişiye göre tarihin doğru tarafına konumlandırıyor. 

Yapay zeka, askeri operasyonlarda lojistik, analiz ve bilgi işleme gibi alanlarda avantaj sağlasa da daha geniş kapsamlı bir kullanım, mevcut risklerle birlikte ciddi etik ve hukuki belirsizlikler yaratıyor. Bu nedenle yaşanan müzakere krizi, yapay zekanın askeri amaçlarla etik bir biçimde kullanılmasının sınırlarını belirlemeye yönelik bir dönüm noktası olarak kabul ediliyor. 

Bu noktada kimsenin yapay zeka şirketlerinin hükümetle nasıl çalışması gerektiğine dair genelgeçer bir çerçevesi bulunmuyor. Bu çerçeve, çok yüksek ihtimalle OpenAI anlaşmasının çizdiği sınırların uygulamaya döküldüğü an oluşturulmaya başlanacak. Kimin gerçekten tarihin doğru tarafında durduğuna ise yine zaman karar verecek.