Savaşın yeni aktörü: İnsansı robotlar cepheye inerse ne olur?

Yapay zekanın hızla yayılması, yalnızca birkaç yıl önce distopik bilim kurgu filmlerinin konusu olan gelişmeleri bir gerçekliğe dönüştürdü. İsrail-ABD ve İran arasındaki çatışmaların ortasında Pentagon’un ardı ardına yapay zeka şirketleriyle yaptığı anlaşmalar, savaş ortamında teknoloji kullanımının sınırlarını ve insanın bu kullanıma dahlini yeniden gündeme taşıdı. 

Özellikle Anthropic’in ABD Savunma Bakanlığı’nın Claude'u kitlesel gözetim ve tam otonom silahların geliştirilmesi de dahil olmak üzere "tüm yasal amaçlar" için kullanma talebini reddetmesi, konuya ilişkin etik tartışmaların fitilini ateşledi. Hedef belirleme ve vurmayı da kapsayan öldürme döngüsünde insan kontrolünün bulunması gerekliliğine yönelik etik anlayış, yavaş yavaş bir ön kabul olmaktan çıkarak fikir ayrılıklarının bir konusu olmaya başladı. 

Bu etik tartışmalar, insansı robotların cepheye inme ihtimaline ilişkin soruları da gündeme getirdi. 

Bununla birlikte: İnsansı robotların savaş alanında kullanılıp kullanılamayacağına dair soru işaretleri, ABD toplumunun aşırı militarize hâle geldiği bir dönemde geldi. 

İnsansız hava aracı ve drone gibi otonom teknolojiler, yıllardır savaş alanlarında kullanılıyor olsa da insansı robotlar, bugüne dek hiç gerçek dünya koşullarında cepheye inmedi. Fakat oldukça kabiliyetli insansı robotlar geliştirebilen Asya pazarı, kimi zaman bu ultra yetenekli robotların savaş alanında kullanılabileceğinin düşünülmesine yol açtı. Benzer şekilde Silikon Vadisi’ne ev sahipliği yapan ABD pazarında da askerî amaçlı insansı robotlar geliştiren pek çok yeni girişim türedi. 

Foundation: Bu girişimlerin en popülerlerinden biri Foundation oldu. Şirketin çelik bir gövde ve renkli bir cam vizörle gelen yapay zeka destekli insansı robotu Phantom MK-1, yalnızca askerî amaçlar için geliştirildi. 

Standart insansı robotlardan çok daha sert bir görünüme sahip olan Phantom MK-1, tabanca, av tüfeği ve M-16 tüfeği gibi çok sayıda güçlü silahla donatılıyor. Foundation’ın kurucu ortağı Mike LeBlanc, bu tip robotların cephede askerlerin yerini almasının ahlaki bir zorunluluk olduğuna inandıklarını ve robotu bir insanın kullanabildiği her türlü silahı kullanabilir hâle getirmeyi amaçladıklarını söylüyor. 

Bugün Phantom MK-1, Atlanta’dan Singapur’a kadar dünyanın pek çok farklı yerinde fabrika ve tersanelerde test ediliyor. Foundation, Phantom MK-1’ın dünyanın savunma senaryoları için geliştirilen ilk insansı robotu olduğunu söylüyor. Şirketin hâlihazırda ABD Ordusu, ABD Donanması ve ABD Hava Kuvvetleri ile toplamda 24 milyon dolarlık sözleşmeleri bulunuyor. Bu durum, şirketi fiilen onaylı bir askerî tedarikçi hâline getiriyor. 

Ayrıca robotun, yakın zamanda deniz piyadeleriyle test edilmesi de bekleniyor. Bu testlerde Phantom robotların, birliklerin güvenli bir biçimde üslere girmesine yardımcı olmak için kapılara patlayıcı yerleştirmek üzere eğitileceği ifade ediliyor. 

Dahası: Foundation, bu yılın Şubat ayında iki Phantom robotu Ukrayna’da cepheye gönderdi. Robotlar, şimdilik cephede yalnızca keşif amaçlı kullanılsa da Foundation, Pentagon için de potansiyel muharebe senaryolarında kullanılacak Phantom robotlar geliştireceğine işaret etti. Bir Pentagon sözcüsü, bakanlığın aktif olarak karmaşık ve yüksek riskli ortamlarda askerlerin yanında görev almak üzere tasarlanmış insansı robot prototipleri üzerinde çalıştığını doğruladı. 

LeBlanc ayrıca, Phantom robotları devriye görevleri için ABD’nin güney sınırına konuşlandırmak üzere İç Güvenlik Bakanlığı ile de yakın temas hâlinde çalıştığını açıkladı. 

Phantom MK-2: Foundation’ın, yeni nesil robotu Phantom MK-2’yu da Nisan ayında piyasaya sürmesi bekleniyor. Kısa devre riskini azaltmak için birleştirilmiş bir elektronik aksam, su geçirmeyen bir gövde, daha büyük bir batarya paketi ve 79 kilogram ağırlıkla gelecek robotun, üretimi hızlandırmak ve maliyetleri düşürmek için döküm kaplamayla üretileceği ifade ediliyor. 

Nihayetinde yılda 30 bin adet Phantom robot üretmeyi hedefleyen Foundation, üretimde yarım milyon barajına ulaştıklarında parça başı maliyetin 20 bin doların altına düşeceğine işaret ediyor. 

• ABD Başkanı Donald Trump’ın oğlu Eric Trump, Foundation’ın yatırımcıları ve stratejik danışmanları arasında yer alıyor. 

ABD askerî insansı robotlar üzerinde çalışan tek ülke değil 

Elbette ABD, askerî amaçlı insansı robotlar üzerinde çalışan tek ülke değil. Rusya ve Çin de benzer teknolojiler üzerinde çalışıyor ve Batı ülkelerini insansı robot formunda silah geliştirme yarışına sokuyor. 

Öte yandan: Modern muharebe alanları, hâlihazırda akıllı mayın, lazer güdümlü füze ve roket savunma kalkanı gibi teknolojilerle büyük ölçüde otonom hâle getirilmiş durumda. Özellikle Rusya ile savaşta olan Ukrayna’da otonominin sınırlarının, mümkün olan en uç noktaya kadar genişletildiği görülüyor. LeBlanc, Phantom robotları Ukrayna’ya götürdüklerinde sahada robotların birincil savaşçı, insanın ise destekleyici hâle geldiğini gözlemlediklerini ve geleneksel savaşlarda tam tersi bir durum yaşandığını söylüyor. 

Günde 9 bine kadar insansız hava aracı fırlatan Ukrayna, hedef belirleme, hedef alma ve imha etme adımlarını kapsayan geleneksel öldürme zincirinin bazı bölümlerini otomatik hâle getirmek isteyen silah üreticileri için adeta bir test alanı hâline geliyor. Bu sayede Ukrayna’da savaşın büyük bir bölümü otomatikleştirilebiliyor. 

• Örneğin Ukrayna’da yüzlerce kilometre boyunca yükleri yönlendirebilen ve bir hedefe kilitlenebilen otonom drone’lar git gide daha da yaygınlaşıyor. Yapay zeka ile güçlendirilen bu insansız araçlar, iletişim kesildiğinde ve uzaktan kontrol imkansız hâle geldiğinde insan müdahalesi olmadan Rus askerlerine saldırabiliyor. Drone’ların bilgisayar görüşü, hedefin tespit edilip imha edilmesine olanak tanıyor. 

LeBlanc, bu yüzden Ukrayna’da gördüklerinin askerî insansı robotlara olan inancını güçlendirdiğini söylüyor. 

Dahası: Pek çok şirket, makinelerin hayati kararlar almasına olanak tanıyan sistemler de geliştiriyor. Scout AI, Anduril Industries ve Palantir Technologies, bu girişimler arasında yer alıyor. 

Örneğin Scout AI, hizmet aracı, tank ve drone gibi askerî araçlara yapay zeka entegre etmek üzerine çalışıyor. Şirket, hâlihazırda Şubat ayında yedi yapay zeka ajanının koordine bir saldırı düzenleyip hayata geçirdiği bir test etkinliği düzenledi. Testte Fury AI Orchestrator adlı sistem, mavi renkli bir düşman aracının en son belirli bir konumda görüldüğünü öğrendikten sonra hedefi belirlemek, konumunu tespit etmek ve etkisiz hâle getirmek için ihtiyaç duyulan kara ve hava araçlarını hiçbir insan müdahalesi olmadan yönlendirdi. 

• Scout AI kurucu ortağı Collin Otis, tüm öldürme zincirini insandan bağımsız ve uzaktan hayata geçirebilen ilk şirket olduklarını söyledi. Otis, beş yıl içinde insanların insansız hava araçlarını uçurmasına gerek kalmayacağının da altını çizdi. 

Öte yandan: Bu otonominin sınırları, hâlâ küresel arenada tartışılıyor. Birleşmiş Milletler Genel Sekreteri António Guterres’in, geçen yıl ölümcül otonom silah sistemlerini “siyasi olarak kabul edilemez” ve “ahlaki açıdan iğrenç” olarak tanımladığı biliniyor. 

Avantajları ve dezavantajları neler?

Foundation, askerî amaçlı insansı robotların tıpkı insansız hava araçları gibi otonom sistemlerin bir uzantısı olduğunu savunuyor. Bu tip robotik sistemler, pek çok avantajı ve etik kaygıyı da beraberinde getiriyor. Geleneksel savaşlar, genç askerlerin hayatının risk altına girmesi, siyasi tepkiler, toplumsal travma ve savaş suçu gibi pek çok bedelle geliyor. İnsansı robotlar ise gerçek askerlere çok daha dayanıklı bir alternatif sunma potansiyeli taşıyor. 

Robotlar, yorgunluk ve kaygıdan ya da radyasyon, kimyasal ve biyolojik silah gibi aşırı koşullardan etkilenmeden 7/24 faaliyet gösterebiliyor. İnsanlara benzer bir ısı izine sahip olan robotlar ayrıca, düşmanı şaşırtmaya yardımcı olabiliyor. 

Madalyonun diğer yüzü: Fakat askerî insansı robotlar, avantajlarından çok daha fazla etik kaygıyı tetikliyor. Pek çok analist, bu tür bir teknolojinin siyasi ve etik bariyerleri ortadan kaldıracağına, sorumluluk alanını belirsizleştireceğine ve savaşı insanlıktan uzaklaştıracağına inanıyor. 

• Mevcut Pentagon protokolleri, otonom sistemlerin yalnızca insan onayıyla devreye girmesine izin veriyor. Fakat Ukrayna’da kullanılan yapay zeka destekli insansız hava araçları, Rusya’nın radyo sinyallerini bozduğu anlarda uzaktan kontrol imkansız hâle geldiği için hedefleri tespit edip otonom bir biçimde vurabiliyor. 

Askerî amaçlı insansı robotların en büyük dezavantajı, fiziksel sınırlamalarda yatıyor. Ağır ve maliyetli olan bu robotlar, düzenli olarak şarj edilmeye ihtiyaç duyuyor ve arızalanma olasılığı taşıyor. Çamur, toz ve sağanak yağmur gibi negatif koşullara karşı da hassas olan insansı robotlar, en ufak bir arızayla işlevsiz hâle gelebilecek 20’den fazla motordan güç alıyor. 

Güvenlik riskleri: Bu risklere güvenlik riskleri de eşlik ediyor. Güncel olarak düşman tarafından ele geçirilen insansız hava araçları, hassas veri kaynağı ve ayrıntılı bir istihbarat deposu olarak kullanılabiliyor. Ayrıca bu araçlara güç veren sistemler siber saldırıların da kurbanı olabiliyor. 

Benzer şekilde hacker’lar tarafından kontrolü ele geçirilen askerî bir insansı robot da tüm filonun ele geçirilmesine yol açma ve tüm robot ordusunu düşman yanlısı hâle getirme riski taşıyor. 

Ek olarak: Uzmanlar, insansı robotların belirli bir durumu doğru bir şekilde değerlendirme kabiliyetinin de sınırlı olacağına işaret ediyor. Temelde bir makine olan bu robotlar, ahlaki ve yasal endişeler gütmüyor ve eylemlerinin etik sonuçlarını anlayamıyor. 

Ayrıca savaşta düşmanı video oyunu benzeri steril bir süreçle öldürmenin ahlaki ağırlığı azaltacağı, savaş alanından insan empatisini uzaklaştıracağı ve normal şartlarda kabul edilmesi mümkün olmayan yüksek kayıp oranlarını kabul etmeyi kolaylaştıracağı ifade ediliyor. 

Askerî insansı robotlar, sorumluluk alanını da belirsizleştiriyor. İnsansı bir robotun arızalanması, savaş suçu işlemesi veya sivil birini öldürmesi durumunda geliştirici şirketin mi, yoksa komutanın mı sorumlu tutulacağı belirsizliğini koruyor. Zira mevcut uluslararası hukuk, algoritmik hesap verilebilirliği henüz ele almıyor. Bu da konuyla ilgili yasal bir boşluk yaratıyor. 

Üstelik: Askerî insansı robotlara güç verecek yapay zeka sistemleri, hâlâ mükemmel olmaktan çok uzak. Büyük dil modelleri, eğitim verilerine dayanmayan, yanlış, yanıltıcı veya anlamsız çıktılar üretebiliyor. Yapay zeka halüsinasyonu olarak da bilinen bu çıktılar, bu sistemlerden güç alacak robotların savaş alanında kullanılmasını çok daha riskli hâle getiriyor. 

Ayrıca insanlık tarafından tarih boyunca üretilmiş verilerle eğitilen yapay zeka modelleri, önyargılı, ırkçı veya cinsiyetçi çıktılar da üretebiliyor. Bu nedenle bu sistemlerin öldürme zincirine dahil edilmesi, özellikle dezavantajlı ve azınlık gruplar için büyük bir risk teşkil ediyor. 

• Pentagon’un, Anthropic ile anlaşmaya varamamasının ardından OpenAI ve Google’a ek olarak siyasi açıdan taraflı, ırkçı, cinsiyetçi ve komplo teorileri içeren yanıtlarıyla ünlü Grok’un geliştiricisi xAI ile de anlaşma imzaladığı biliniyor. 

• xAI’ın kurucu CEO’su Elon Musk’ın elektrikli otomobil şirketi Tesla da Grok'tan güç alan “Optimus” adlı bir insansı robot geliştiriyor. 

Öte yandan: Bazı analistlere göre uzaktan ve özerk bir biçimde savaş yürütme kabiliyeti, insan kaybını minimuma indirerek risk toleransını da artırma potansiyeli taşıyor. Ayrıca insansı robotlarla savaşmanın daha az düşmanca görüneceğini savunan uzmanlar da bulunuyor. 

Fakat pek çok uzman, ulusların bayrakla örtülen tabutları eve getirmenin siyasi bedelini ödemeden savaş yürüttüğünde gereksiz çatışmalara daha fazla girme eğilimi göstereceğine inanıyor. Zira savaşın insani bedeli, kimi zaman hükümetleri savaştan uzak tutan bir unsur işlevi görebiliyor. 

‘İnsansı robotlar, bir sonraki savaşın bir parçası olacak’

LeBlanc, askerî insansı robotların ABD’nin de içinde bulunduğu bir sonraki savaşın bir parçası olacağına inanıyor. Bu yaygın kanı nedeniyle uluslararası örgütler de bir an önce savaş ortamında insansı robotlar ve otonom sistemlerin kullanılmasına ilişkin protokoller oluşturmaya çalışıyor. Yakın zamanda Birleşmiş Milletler ve Uluslararası Kızılhaç Komitesi’nin, yıl sonuna kadar savaşta insan kontrolü olmadan çalışan otonom sistemleri yasaklayan bağlayıcı bir anlaşma imzalamaya yönelik hükümetlere çağrıda bulunduğu biliniyor. 120’den fazla ülke, bu anlaşmayı desteklerken ABD, Rusya ve İsrail, anlaşmadan uzak duruyor. 

Mevcut müzakereler: Birleşmiş Milletler tarafından yürütülen mevcut müzakereler, otonom silahlara ilişkin iki ana unsuru bulunan bir çerçeveye odaklanıyor. İlk unsur, doğası gereği tahmin edilemez olan ve yüz tanıma gibi biyometrik verileri kullanarak insanları hedef alan sistemlerin tamamen yasaklanmasını öngörüyor. 

İkinci unsur ise otonom sistemlerin kullanılacağı coğrafi alan ve süre gibi faktörlere ilişkin katı kurallar getirilmesini ve bu sistemlerde herhangi bir anda insan müdahalesine olanak tanıyan bir “durdurma düğmesi” bulunmasını öneriyor. 

• Uluslararası hukuk da savaşta kullanılan her türlü otonom sistemde mutlaka insan kontrolünün devrede olmasını gerektiriyor. Fakat mevcut konjonktür, bu yasaların esnetildiği ya da hiçe sayıldığı birçok vakaya sahne oluyor. 

Uzmanlar, beklenenden çok daha yakın bir gelecekte insansı robotların cepheye inebileceğine inanıyor. Fakat bazı analistler, bu senaryoda tablonun insansı robotlar ve insanlar arasındaki bir savaştan ziyade, insansız sistemler arasında yaşanacak bir savaşa benzeyeceğine dikkat çekiyor. Zira insansız sistemleri insanlara karşı kullanmak, hâlâ pek çok ülke tarafından telafisi mümkün olmayan hasarları beraberinde getirecek bir risk faktörü olarak görülüyor.

• Editörün önerisi: Pentagon’da yapay zeka tartışmaları: AI’ın etik sınırları yeniden belirleniyor | Quando, Doğa Yurduneri