Orduda AI kullanımıyla ilgili endişeler artıyor

ABD Dışişleri Bakanlığı silah kontrol yetkilisi Paul Dean, 2 Mayıs'ta Washington’da yaptığı açıklamada Rusya ve Çin'den nükleer silah kontrolünü yapay zekaya bırakmamalarını istedi. Dean; ABD, Fransa ve Birleşik Krallık'ta nükleer silah kontrolünün insanların elinde kalmasına kararlı olduklarını belirtti. 

Büyük teknoloji şirketleri birbirleriyle rekabet edebilmek için yapay zekayı her alanda kullanmaya kararlıyken AI'ın orduda ve özellikle nükleer silah kontrolünde kullanımı, haklı korkulara neden olmaya başladı. Foreign Affairs'de AI uzmanı Max Lamparth ve Jacquelyn Schneider, bu hafta yayımladıkları makalede büyük dil modellerinin (LLM) savaş sırasında kullanılmasının ne kadar tehlikeli olabileceğine dikkat çekiyor.

• Ayrıntılar: Lamparth ve Schneider; OpenAI, Anthropic ve Meta'nın LLM'lerini savaş simülasyonları üzerinde test ettiklerinde yapay zekanın barışçıl alternatifler yerine silahlanma yarışını, çatışmayı yükseltmeyi ve hatta nükleer silah kullanımını önerdiğini açıkladılar.

Risklerin farkında olan Birleşik Krallık, ABD, Japonya ve Kanada yapay zekaya karşı güvenlik önlemleri almaya başladı. ABD Ulusal Güvenlik Bakanlığı, bu kapsamda Yapay Zeka Emniyeti ve Güvenliği Kurulu kuracağını geçen hafta açıkladı. Fakat hükümetlerin yapay zekaya karşı aldığı önlemler sadece büyük şirketleri kapsıyor. Savunma alanında yapay zeka kullanımı artarken halen orduların AI kullanımına karşı hiçbir engel yok.

Orduda AI kullanımı neden tehlikeli?

Yapay zeka modellerinin askerî dile hâkim olmaması ve modellerin eğitiminde ordu verilerinin kullanılmasının tehlikeli olabileceğinden endişe edilmesi askerî alanda yapay zeka kullanımına karşı çıkılmasının nedenlerinden sadece ikisi. Axios'tan Ryan Heath'in haberine göre, ordu ve istihbarat uzmanları, AI modellerinin vardıkları sonuca nasıl ulaştıklarını açıklayamaması nedeniyle, bunların gelecekteki sonuçlarının öngörülmesinin zorlaştığını belirtiyorlar. 

Yatırımcıların ilgisi artıyor

İsrail-Filistin ortak yayını +972 ve İbranice yayımlanan Local Call dergilerinin sistemi kullanan askerî istihbarat görevlilerinin ifadelerine dayanarak yaptığı haberde, İsrail Ordusu’nun istihbarat ve hedef belirleme için Lavender adlı yapay zeka uygulamasını kullandığı iddia edildi.

• Editörün önerisi: Lavender: İsrail, sivillerin kaderini yapay zekaya mı bıraktı?

Öte yandan: Hükümetler savaş alanında yapay zeka kullanımına karşı yeterli adım atmazken yatırımcılar savunma teknolojilerine her geçen gün daha fazla ilgi gösteriyor. The Intercept'in haberine göre, son olarak Microsoft da ABD ordusunda kullanılması için metinden görsel üreten AI modeli DALL-E'yi hükümete sundu. Yüz tanıma programı geliştiren Clearview AI da Ukrayna'nın Rus askerlerini hedef almasını kolaylaştırmak için AI destekli programını kullandığını açıklamıştı.

Yatırımcılar, askerî alanda yapay zeka kullanımı üzerine çalışan şirketlere yatırım yaparken hükümetler, şirketlerin denetimden kaçmasına izin veriyor.

Avrupa Birliği'nin yapay zeka yasası, "ordu, savunma ya da ulusal güvenlik amaçları" için kullanılan AI sistemlerini kapsamıyor. Beyaz Saray'ın orduda AI kullanımını sınırlayan bir kararnamesi var, ama yapay zeka bir "Millî Güvenlik Sistemi içinde kullanıldığında" kararnamenin alanından çıkıyor. ABD Kongresi ise bu belirsizliği ortadan kaldırıp ordunun yapay zeka kullanımını sınırlandırmak için adım atmıyor.

Batı'nın iki güçlü bloku ABD ve AB'de şu an için ordu ve istihbaratın AI kullanımını kısıtlayan bir yaptırımı bulunmuyor. Bu nedenle diğer ülkelerin orduda yapay zeka kullanmasını kısıtlayacak güce sahip değiller. Yani ABD hükümetinin yayımladığı ve ABD Dışişleri Bakanlığı silah kontrol yetkilisi Paul Dean'in altını çizdiği "Yapay Zekanın Sorumlu Askerî Kullanımı" beyannamesinin ise hiçbir bağlayıcılığı yok.

• Hatırlatma dozu: Her ne kadar Birleşmiş Milletler, 2018'de yapay zekanın orduda kullanımına karşı uluslararası kurallar getirmek için 100 ülkenin desteğini almış olsa da ABD, Birleşik Krallık, Rusya ve İsrail, anlaşmaya karşı çıkmıştı.