Güvenlik testleri güvenlik riskine dönüşürken: Kaçak AI modelleri bir prestij meselesi mi oldu?

Yapay zeka modellerinin tüm yeteneklerini keşfetmenin en iyi yollarından biri, onları kontrollü ortamlara yerleştirip sınırlarını zorlamak. Ancak son aylarda yaşanan bir dizi olay, bu yöntemin giderek daha ciddi bir paradoks yarattığını ortaya koyuyor. Modellerin yaygın kullanıma açılmak için yeterince güvenli olup olmadıklarını anlamak üzere yapılan testlerin kendisi, başlı başına bir güvenlik riskine dönüşüyor. 

Son dönemlerde OpenAI, Anthropic, Meta ve Moonshot AI’ın da aralarında bulunduğu yapay zeka laboratuvarları, ardı ardına geliştirdikleri modellerin kendi inisiyatifiyle izole test ortamından çıkıp çevrimiçi hâle geldiğini ve üçüncü taraf sistemlere sızdığını açıkladı. Başlangıçta bir şeffaflık prosedürü olarak görülen bu açıklamalar, zaman içinde bir prestij göstergesine dönüştü. Şirketler, modellerinin test ortamından kaçtığını açıklarken adeta bağımsız bir şekilde hareket edebilecek kadar tehlikeli ve “yetenekli” hâle geldiğini de duyurmuş oluyordu. 

Yapılan açıklamalar ayrıca, daha kritik başka bir gerçeği de ortaya koydu: Modeller, giderek daha yetenekli hâle geldikçe sınırlarını güvenli bir şekilde test etmek için tasarlanan ortamlar onları kontrol altında tutmakta yetersiz kalıyordu. 

Bir adım geriden: Yapay zeka şirketlerinin “güvenlik duyurusu” furyası, OpenAI’ın açıklamasıyla başladı. Temmuz ayında şirket, henüz yaygın kullanıma açmadığı ve GPT-5.6 Sol’un da aralarında bulunduğu yapay zeka modellerinin, bir siber güvenlik değerlendirmesi sırasında kontrolü dışında kendi kendine Hugging Face’in sistemlerine sızdığını açıkladı. 

Paylaşılan ayrıntılara göre değerlendirme sırasında modeller, izole test ortamından kaçtı, kendi inisiyatifleriyle internete erişim elde ederek çevrimiçi hâle geldi ve içinde oldukları bir performans testinde hile yaparak test için yanıt elde etmek üzere OpenAI’ın giriş bilgilerini çaldı ve Hugging Face’e sızdı. 

• Hugging Face, ABD üretimi modellerin güvenlik kısıtlamaları nedeniyle işe yaramadığını ve siber saldırıya karşı kendini savunmak için Çin merkezli Z.ai tarafından geliştirilen GLM-5.2 modelini kullanmak zorunda kaldığını açıkladı.

Üstelik birkaç hafta sonra Reuters’a konuşan kaynaklar, OpenAI’ın daha fazla sayıda ajanının izole test ortamından kaçtığını tespit ettiğini, fakat bu sızıntılardan hiçbirinde ajanların OpenAI ağından ayrılıp başka bir şirketin ağına sızmadığını bildirdi. 

Dahası: Takip eden haftalarda olaya ilişkin daha fazla ayrıntı da paylaşıldı. Paylaşılan her bir ayrıntı, yapay zeka güvenliğiyle ilgili endişeleri kademeli biçimde artırdı. 1-6 Ağustos tarihleri arasında düzenlenen Black Hat USA konferansında OpenAI çalışanlarının Hugging Face vakasına ilişkin paylaştığı bilgiler, en çok ses getiren ayrıntılar oldu. 

Açıklamaya göre vakaya konu olan test ortamındaki ajanlar, yaklaşık iki ay boyunca kendi aralarında bir mesaj panosu üzerinden güvenlik açıklarını paylaştı. OpenAI, 4 Temmuz’da panoyu kapatsa da ajanlar, 8 Temmuz’a kadar yeni bir iletişim kanalı oluşturmayı başardı ve buradaki paylaşımlar Hugging Face’e yönelik saldırıya zemin hazırladı. 

• Ayrıca süreç içinde ajanlar, OpenAI’ın bilgisi dışında iş bölümü yaptı, görevleri birbirlerine devretti ve ortak hedefler doğrultusunda koordineli çalıştı. 

Benzer şekilde: Temmuz ayı sonunda Anthropic de Opus 4.7, Mythos 5 ve dâhili bir araştırma modelinin testler sırasında internete erişim elde ederek üç kuruluşun sistemlerine izinsiz giriş yaptığını açıkladı. Üç vakada da modeller, üçüncü parti test ortağı Irregular ile etkileşim hâlindeyken izole test ortamından çıkarak internete erişim elde etti.

• Anthropic, üç vakada da Claude’a internet erişiminin olmadığına dair açık bir talimat verildiğini belirtti. 

Diğer yandan şirket, modellerin "özerk bir biçimde bir hedef peşinde koştuğuna" dair hiçbir kanıt bulamadığını ve yalnızca verilen görevi tamamlamaya çalıştıklarını vurguladı.

Bununla birlikte: Meta da Ağustos ayının ilk haftasında Muse Spark 1.1 modelinin izole test ortamından kendi inisiyatifiyle çıkarak internete erişim elde ettiğini ve üçüncü taraf bir sisteme sızdığını açıkladı. Şirketin açıklamasına göre model, Anthropic'e benzer şekilde Irregular’ın izole test ortamındaki bir yapılandırma hatası nedeniyle böyle bir sızıntıya karıştı. 

AISI değerlendirmeleri durumun ciddiyetini artırdı 

İngiltere’nin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından yapılan değerlendirmeler ise durumun ciddiyetini artırdı. Ağustos ayı başında kurum, Mythos 5 ve GPT-5.6-Sol modellerinin yeteneklerini değerlendirmek için yürüttüğü güvenlik değerlendirmeleri sırasında bu modellerden güç alan ajanların yetkisiz eylemlerde bulunduğunu tespit etti.

Ayrıntılar: AISI, ajanların yeteneklerini test etmek için modelleri kurgusal bir siber güvenlik senaryosundan geçirdi. 122 kez tekrarlanan testin 10’unda 19 yetkisiz eylem tespit edildi. 17 eylemin ardında Anthropic’in, 2’sinin ardında ise OpenAI’ın ajanı vardı. 

• Bir vakada yapay zeka ajanı, güvenli sistemlere yetkisiz erişim sağlamak için sahte çevrimiçi kimlikler oluştururken yakalandı. 

• Test edilen ajanlardan bazıları, gerçek kişilere ve kuruluşlara yönelik sürekli ve potansiyel olarak zararlı faaliyetlerde bulunmuş olsa da güvenlik açıklarının hiçbiri, gerçek dünyada herhangi bir zarara yol açmadı. 

Öte yandan: Şeffaflık açıklamaları, yalnızca Batı yakasındaki şirketlerin adından söz ettirmesine yol açmadı. Geçen hafta Çin merkezli yapay zeka girişimi Moonshot AI’ın Kimi K3 modeli de kendi inisiyatifiyle izole test ortamından kaçtı. 

Frontier Security'nin aktardığı bilgilere göre AISI tarafından geliştirilen kurgusal bir siber güvenlik test ortamından çıkan Kimi K3, çevrimiçi hâle gelerek yetkisiz bir şekilde GitHub’daki verilere erişim sağladı. 

Dahası: Meydana gelen vakaların birçoğunda olay yaşanırken şirketler, sızıntıyı fark etmedi. OpenAI, Hugging Face sayesinde hack’ten haberdar olurken Anthropic, test ortamına dönüp tekrar bakana kadar modelin çevrimiçi hâle geldiğini anlamadı. Meta vakasında da benzer bir durum vardı. 

• Box’ın Bilgi Güvenliğinden Sorumlu Üst Düzey Yöneticisi Heather Ceylan, TechCrunch’a yaptığı değerlendirmede “Eminim tespit edebilecekleri sinyaller vardı” dedi.

Yavaşlama çağrısı 

Ardı ardına yaşanan gelişmeler, OpenAI CEO’su Sam Altman’ın yapay zeka gelişimini yavaşlatma çağrısında bulunmasına da yol açtı. Like the Best isimli podcast programında konuşan Altman, dünyanın yapay zeka devrimine hazır olabilmesi için yapay zekanın gelişimini yavaşlatma zamanının gelmiş olabileceğini açıkladı.

“Toplumun bu yeni yetenek seviyesine alışması için yeterli zaman yaratmak adına yapay zeka geliştirme hızını yavaşlatmamız gerekebilir” diyen Altman, Hugging Face vakasını “son derece bilimkurguvari bir siber olay” olarak nitelendirdi ve “Bu kadar derinden hissettiğim ilk siber güvenlik olayıydı” dedi. 

• Altman ayrıca, OpenAI araştırmacılarının test ortamının güvenliğini sağlayana kadar modeli eğitmeyi bıraktığının da altını çizdi. 

Ek olarak: Şirket, yakında piyasaya sürmeyi planladığı Astra modelinin geliştirme çalışmalarını da modelin, ajan tabanlı kodlama ve siber güvenlik alanlarında endişe yaratacak kadar ciddi ilerlemeler kaydetmiş olduğunu tespit etmesi nedeniyle askıya aldı. Geliştirme aşamasındaki modelin kritik siber güvenlik eşiğine ulaştığı, yani bağımsız biçimde geleneksel olarak iyi korunan sistemlere yönelik siber saldırılar düzenleyebildiği belirtildi. 

• Ön değerlendirmelerin modelin göz ardı edilemeyecek kadar güçlü bir performans gösterdiğini ortaya koyduğuna dikkat çeken OpenAI, Astra’nın tamamen yeni bir model olduğunu ve Hugging Face saldırısıyla bir ilgisi olmadığını da vurguladı. 

Güvenlik testleri güvenlik riskine dönüşüyor

Uzmanlara göre açıklamaların endüstri ölçeğine yayılması, izole test ortamlarına ilişkin kontrollerin modellerin yetenekleriyle aynı hızda ilerlemediğini ortaya koyuyor. Test edilen modellerin doğası da güvenlik riskini artırıyor. 

Yapay zeka şirketleri, genellikle kötü niyetli eylemleri kısıtlayan standart güvenlik önlemlerini devre dışı bırakarak yeni modellerini test ediyor. Bu şekilde modelin yeteneklerinin sınırları, daha doğru bir şekilde anlaşılabiliyor. Fakat bu pratik, testlerin yapıldığı izole ortamın güvenliğini, modellerin kontrolden çıkmasını önleyen en kritik savunma hatlarından biri hâline getiriyor. 

Ayrıca: Uzmanlar, açıklanan vakalarda yapay zeka ajanlarına rastgele gerçek dünyadaki hedeflere saldırma talimatı verilmemiş olduğunun altını çiziyor. Tüm vakalarda ajanların, kendilerine verilen sorunu çözmek için gerekeni yaptığı görülüyor. 

CivAI adlı kâr amacı gütmeyen yapay zeka kuruluşunun araştırma direktörü Andrew Yoon, tüm bu olayların birlikte değerlendirildiğinde önemli bir değişime işaret ettiğini vurguluyor. TechCrunch’a konuşan Yoon, açıklamasında şu ifadelere yer veriyor: 

“Geçmişte yalnızca yapay zeka modellerinin dolandırıcılık veya çocukların cinsel istismarına yönelik materyaller üretmek gibi çeşitli amaçlarla insanlar tarafından kötüye kullanılmasından endişe etmemiz gerekiyordu. Şimdiyse yapay zeka modellerinin kendi başlarına birer tehdit aktörüne dönüştüğü bir noktadayız.”

Çözüm önerisi: TechCrunch’a konuşan diğer araştırmacılar ve siber güvenlik uzmanları da modellerin test edildiği ortamların birden fazla güvenlik katmanıyla güçlendirilmesi ve model üzerindeki kontrolün gerçek kullanım ortamlarında uygulanan güvenlik önlemlerine yakın bir seviyeye çıkarılması gerektiğine işaret ediyor. 

Bu da test ortamından internete ve diğer hassas sistemlere açılan tüm bağlantı yollarının ortadan kaldırılması anlamına geliyor. Bunun için şirketlerin sistemden dışarıya veri ya da trafik çıkmasına izin verebilecek tüm noktaları bilmesi gerekiyor. 

• Uzmanlar, bir model test veya geliştirme ortamında değerlendiriliyorsa modelin gerçek kullanıcıların kullandığı sistemlere ulaşabileceği hiçbir bağlantı yolu bulunmaması gerektiğini vurguluyor. 

Bununla birlikte: Modeller izole test ortamına sokulmadan önce değerlendirme ortamının bağımsız, üçüncü taraf denetimlerden geçmesi gerektiği ifade ediliyor. Bu kapsamda araştırmacılar, sektörün güvenlik değerlendirmeleri için standartlaştırılmış bir süreç geliştirmesi gerektiğini savunuyor. 

• Ceylan, “Özellikle güvenlik önlemleri devre dışı bırakıldığında dünyanın en yetenekli hacker’ını o ortamın içine yerleştiriyormuşsunuz gibi hareket etmeniz gerekir” diyor. 

Önemli ayrıntı: Fakat uzmanlar, asıl sorunun şirketlerin daha güvenli test ortamlarını nasıl oluşturacaklarını bilmemeleri değil, bu ortamları kurmanın hem maliyetli hem de zahmetli olması olduğunu vurguluyor. Zira test ortamında plan dışı bir gelişme olana kadar şirketleri bu yatırımları yapmaya teşvik eden bir unsur bulunmuyor. 

Çok fazla kısıtlama da değerlendirmeye ket vurabilir

Diğer yandan test sırasında modele çok fazla kısıtlama getirilmesi de araştırmacıların model piyasaya sürülmeden önce modelin bazı yeteneklerini keşfedememesine yol açabiliyor. Bu durum, en az modele test sırasında sonsuz özgürlük tanımak kadar büyük bir tehlike arz ediyor. Dolayısıyla modelleri güvenli biçimde test etmek ile gerçek kapasitelerini ortaya çıkarabilecek kadar özgür bırakmak arasında hassas bir denge kurulması gerekiyor. 

Perspektif: Bazı sektör uzmanları, bu noktada devreye regülasyonların girebileceğine işaret ediyor. Yaygın biçimde hükümetlerin sektöre fazla müdahalesinin yapay zekanın gelişimini yavaşlatabileceği ve rekabeti önleyebileceği tartışılsa da bazı uzmanlar, güvenlik değerlendirmelerinin de regülasyonlara tâbi olabileceğine inanıyor. 

Örneğin ABD’de Donald Trump hükümeti, hâlihazırda bu hedefe yönelik bir hamle yapmış durumda. Başkan Trump, Haziran ayı başında hükümete yapay zeka modellerini siber güvenlik için önceden değerlendirme ayrıcalığı tanıyacak bir başkanlık emri imzaladı. 

• İmzalanan kararname, yazılımlarda yapay zeka sistemleri tarafından tespit edilen güvenlik açıklarının bu sistemler kamuya açılmadan önce bankalar, yerel kamu kuruluşları ve hastaneler gibi kritik altyapı sağlayıcılarıyla paylaşılmasına olanak tanıyan bir süreç oluşturuyor. 

• Emir ayrıca, işbirliği yapan yapay zeka şirketlerini en güçlü modellerini yaygın kullanıma açmadan 30 gün önce hükümet incelemesine sunmakla yükümlü tutuyor. 

Yoon, son birkaç ayda yaşanan gelişmelerin kendi kendine denetim mekanizmasının artık yeterli olmadığını kanıtladığına işaret ediyor. Rekabet baskısının şirketleri güvenlik standartlarını giderek aşağı çekmeye ittiğini ve bu durumun düzenleyici kurumlar tarafından yapılacak müdahalelere alan açtığını vurgulayan Yoon, “Şirketlerin uyguladığı güvenlik önlemlerinin modeller henüz geliştirme aşamasındayken denetlenmesi gerekiyor. Bu denetim hem eğitim hem de test süreçlerini kapsamalı” diyor.

Üstelik: Bazı uzmanlar, asıl riskin test edilen modelin test edildiğinin farkına varması ve gerçek yeteneklerini bilinçli olarak gizleme kararı alması olacağına işaret ediyor. “Sandbagging” olarak da adlandırılan bu ihtimal, yapay zeka güvenliğinin en önemli araçlarından biri olan testlerin güvenilirliğini tartışmaya açıyor. Zira bir model güvenlik değerlendirmesini geçmek için olduğundan daha az yetenekli davranabileceği bir eşiğe gelirse test, otomatik olarak tehlikeyi tespit etmekte başarısız oluyor. 

Bu da yapay zekayı daha güvenli hâle getirmek için tasarlanan bir mekanizmanın, yine paradoksal biçimde ve bu kez geri dönüşü olmayacak şekilde yeni bir güvenlik riskine dönüşmesi anlamına geliyor. 

Geniş açı: Günün sonunda riski tamamen ortadan kaldırmanın herhangi bir yolu olmasa da modellerin yetenekleri geliştikçe onları test etmek için kullanılan ortamların güvenliğinin de aynı ölçüde güçlenmesi gerekiyor. Aksi takdirde test sırasında yaşanabilecek olası bir güvenlik açığının sonuçları giderek ağırlaşıyor. 

Modellerin test ortamlarının sınırlarını aşması, şirketler için bugün bir prestij göstergesi olsa da aynı zamanda bu ortamların ne kadar hızlı güçlendirilmesi gerektiğini de kanıtlıyor. Modellerin ne kadar “yetenekli” olduğunu kanıtlamak kadar, bu yetenekleri güvenilir biçimde ölçebilecek ve sınırlandırabilecek sistemler geliştirmek de giderek daha kritik hâle geliyor. 

• Editörün önerisi:Sam Altman’dan tarih çizgisine yeni bir işaret: 'Tekillik eşiği' ne demek? | Quando, Doğa Yurduneri