Erişim butonu: AI modellerinin ‘çok tehlikeli’ olduğuna kim karar veriyor?

Yapay zeka şirketleri, son birkaç yıldır birbirleriyle yarışırken tek bir hedefin peşinden gitti: Daha güçlü, daha hızlı ve daha yetenekli modeller geliştirmek. Başarı ölçütü ise oldukça basitti. Bir modeli ne kadar çok insan kullanıyorsa ve model ne kadar etkileyici sonuçlar üretiyorsa şirket de o kadar başarılı sayılıyordu. Fakat bu yıl yarışın kuralları değişti. 

• Artık pek çok şirket, geliştirdiği güçlü modeli geniş bir kitleye açmasıyla değil, “fazla tehlikeli” olduğunu öne sürerek yayımlamamayı tercih etmesiyle gündeme gelmeye başladı. 

Nisan ayında OpenAI, yaşam bilimlerine odaklanan yapay zeka modeli GPT-Rosalind’i duyurdu. Kimya, biyoloji, tıp ve ilaç keşfi gibi alanlarda halka açık modellerden önemli ölçüde daha iyi performans gösteren model, sınırlı sayıda araştırmacının erişimine açıldı. 

Aynı ay Anthropic, “bugüne kadar geliştirdiği en güçlü model” olarak nitelendirdiği siber güvenlik odaklı Mythos’u duyurdu. “Yaygın kullanıma açmak için fazla tehlikeli” olduğu ifade edilen model, Project Glasswing girişimi kapsamında sınırlı sayıda iş ortağının kullanımına sunuldu. OpenAI ise Anthropic'in bu hamlesine siber güvenlik odaklı GPT-5.4-Cyber’ı tanıtarak yanıt verdi. GPT-5.4 üzerine inşa edilen bu model de sınırlı sayıda kurum ve araştırmacının kullanımına açıldı. 

• Oldukça güçlü kodlama ve muhakeme becerilerine sahip olan Mythos ve GPT-5.4-Cyber, kodlardaki güvenlik açıklarını taramak için kullanılabiliyor. 

Öte yandan: Anthropic, kötüye kullanım riski ve güvenlik endişeleri nedeniyle sınırlı sayıda iş ortağına açtığı Mythos’un halka açık ilk sürümü Claude Fable 5’i bu ay yayımladı. Fakat model, katı güvenlik sınırlamalarıyla geldi. Modelin siber güvenlik, biyoloji, kimya ve model damıtma gibi yüksek riskli alanlardaki kullanıcı komutlarında yanıt sunmadığı ve kullanıcıyı Claude Opus 4.8’e yönlendirdiği tespit edildi. 

Birçok yapay zeka araştırmacısı, kısıtlamaların oldukça başarılı olduğuna işaret etti. Ancak modelin yayımlanmasından yalnızca bir gün sonra ABD hükümeti, Anthropic’e ulusal güvenliğe ilişkin endişeler nedeniyle Mythos 5 ve Claude Fable 5’e ABD dışındaki ülkelerde erişim engeli getirme emri verdi. Hükümet emri, ülke dışındaki Anthropic çalışanlarının yanı sıra ülkedeki yabancı uyruklu Anthropic çalışanlarını da kapsıyordu. 

İddia: Sektör kulislerinde paylaşılan iddialara göre erişim engeli emrinin kaynağı, Amazon CEO’su Andy Jassy oldu. Amazon araştırmacıları, siber saldırılarda kullanılabilecek bilgileri bulmak için Claude Fable 5’in kullanılabildiğini tespit etti ve bu açıkla ilgili Anthropic’i bilgilendirdi. İki şirket çalışanları arasında açığı kapatmak üzere birkaç gün süren bir iletişim trafiği yaşandı. 

Fakat bu trafikten haberdar olan Jassy, durumu ABD Hazine Bakanı Scott Bessent’in de aralarında bulunduğu hükümet yetkililerine bildirdi. Bunun üzerine Donald Trump hükümeti, Anthropic yetkililerini arayarak iki modeli erişime kapatması için 90 dakika süre verdi. 

• Anthropic, bu 90 dakika içinde sorunu anlamayı ve ortadan kaldırmayı denedi. Fakat talimattaki bilgi eksikliği, sürenin aşılmasına yol açtı. Verilen süre aşılınca hükümet, iki model hakkında ihracat kontrolü kararı aldı. 

• Kararın ardından Anthropic, erişimi ülke dışındaki herkes için askıya alabileceğinden emin olmadığı ve emre makul şekilde uyamayacağına kanaat getirdiği için Mythos 5 ve Claude Fable 5’e erişimi dünya genelinde durdurdu. 

Önemli ayrıntı: Hükümetin ulusal güvenlik endişelerine ilişkin somut ayrıntılar paylaşmadığına işaret eden şirket, Claude Fable 5’te keşfedilen güvenlik açıklarının önemsiz olduğunu ve GPT-5.5 de dahil olmak üzere diğer modellerde de bulunduğunu vurguladı. 

• ABD Ticaret Bakanı Howard Lutnick’in CEO Dario Amodei’ye gönderdiği mektup ise iki modelin Çin ve Rusya gibi ulusal güvenlik için tehdit oluşturan ülkelerdeki askerî istihbarat personeli tarafından kullanılabileceğine işaret etti. 

Bu sırada Anthropic’in üst düzey teknik ekibi, modelleri yeniden erişime açmaya yönelik bir çözüm bulmak için birkaç kez hükümet yetkilileriyle biraraya geldi. CEO Dario Amodei, bu görüşmelere fiziksel olarak değil, video konferans üzerinden katıldı. 

Dahası: Anthropic, hâlihazırda Trump hükümetiyle son derece gergin bir sürecin içinden çıkmıştı. Pentagon’un Claude'u kitlesel gözetim ve tam otonom silahların geliştirilmesi de dahil olmak üzere "tüm yasal amaçlar" için kullanma talebini reddeden şirket, hükümet tarafından “tedarik zinciri riski” olarak etiketlenmişti. 

• Bu etiket, listeye alınan şirketin Pentagon ve iş ortaklarıyla çalışmasını engelliyor. 

Anthropic ise kara liste kararına mahkemede itiraz etti. Bu sırada ABD Savunma Bakanlığı; OpenAI, Google ve xAI ile yapay zeka modellerini Pentagon ağında kullanmak için anlaşma yaptı. 

‘Potansiyel bir siber silah’ 

Diğer yandan Anthropic, daha önce Mythos serisinden bahsederken modellerin “potansiyel bir siber silah” olduğunu vurgulamış ve “En azından güvenlik önlemleri yeterli seviyeye gelenek kadar halka asla açamayız. Sadece işletmelere, hükümete ve siber güvenlik uzmanlarına sunacağız” demişti. Bu açıklama, şirketin en yetenekli modelini halkın kullanımına bırakamayacak kadar güçlü bulduğunu ortaya koymuştu. 

• OpenAI ve Anthropic, öncü modellerinin sahip olduğu yetenekler konusunda endişeli oldukları için bu modellerde erişimi kısıtladı. 

Geniş açı: Fakat bu yaklaşım, potansiyel olarak tehlikeli yapay zeka modellerinin geliştirilip geliştirilmemesi gerektiği ve bu modelleri kimlerin kullanmasına izin verileceği gibi kritik kararları özel şirketlerin vermesinin doğru olup olmadığıyla ilgili soru işaretlerini de gündeme taşıdı. 

Modellere erişimdeki ilk kısıtlamalar, Anthropic ve OpenAI’ın gönüllü kararıydı. Fakat modellerin yarattığı riskler daha ciddi ve karmaşık hâle geldikçe bu denetimin hükümete bırakılması gerektiğine dair bir kanı oluştu. Pek çok uzmana göre şirketlerin içme suyuna ne kadar zehirli kirletici madde koyacaklarına karar vermelerine izin verilmediği gibi erişime ilişkin kararlar da şirketlere bırakılamazdı. 

Arka plan: Biyoloji ve siber güvenlik gibi çift kullanımlı uzmanlıklar, yapay zeka şirketleri için ciddi bir zorluk teşkil ediyor. Siber güvenlik araştırmacılarının yazılımlardaki güvenlik açıklarını bulup kapatmasına yardımcı olan modeller, bir hacker tarafından siber saldırı amaçlı kullanılabiliyor. Benzer şekilde virüsleri incelemek için kullanılan bir model, daha ölümcül bir virüs tasarlamaya yardımcı olabiliyor. 

Bu nedenle şirketler, geçmiş yıllarda bu tür yetenekleri herkes için kısıtlayarak modelleri yaygın kullanıma açmayı tercih etti. Örneğin birçok sohbet robotu, COVID-19 mutasyonlarından hangilerinin virüsün bulaşıcılığını artırdığına dair soruları yanıtlamayı reddediyordu. Bu durum, ortalama kullanıcıyı rahatsız etmese de araştırmacılar için bariyer oluşturabiliyordu. 

Bugün ise sektördeki yaklaşım büyük oranda değişti. OpenAI, GPT-Rosalind’i belirli kısıtlamalarla yaygın kullanıma açmak yerine, tüm yetenekleriyle modelin kötüye kullanılmayacağından emin olduğu ve güçlü iç denetime sahip kuruluşlara sundu. Anthropic de Mythos’u kullanıma açmak için federal kurumlar ve özel şirketlerle ortaklık kurdu. 

• Lansman döneminde paylaşılan genel söylem ise modellerin “halka açılmak için fazla tehlikeli” olduğu yönündeydi. 

Öte yandan: Uzmanlara göre hangi modellere erişimin kısıtlanması gerektiğine karar vermek, modelin yetkin olduğu alana göre değişen hassas bir denge işi. Bir yapay zeka modelinin potansiyel bir siber tehdit oluşturup oluşturmadığını anlamak için “Mevcut sistemleri kırabilir mi?” sorusunun yanıtına bakmak gerekiyor. Biyolojik araştırmalar ise siber saldırılardan daha uzun süren, çok aşamalı ve karmaşık bir süreci doğuruyor. Bu nedenle GPT-Rosalind gibi bir modelin halka açılması durumunda tehdit oluşturup oluşturmayacağı daha büyük bir belirsizlik yaratıyor. 

Hükümetler erişimi denetleyebilir mi? 

ABD’de Trump hükümeti, Mythos 5 ve Claude Fable 5’e ilişkin yetkiyi devraldı. Fakat birçok analist, hükümet kararlarının da mevcut ilişkiler ve politikalar etrafında şekillendiğini hatırlattı. Zira Trump hükümetiyle daha iyi bir ilişkisi olan OpenAI’ın Mythos’a eşdeğer bir modeli olsaydı yetkililer, şirkete muhtemelen çok daha fazla zaman tanıyacaktı, daha fazla görüşme yapılacaktı ve ihracat kısıtlamasında “Çalışanlar da dahil” ifadesi kullanılmayacaktı. 

Anlamı: Hükümet, benzer bir istihbaratın ardından yine alarma geçecek olsa da erişimi kısıtlama yöntemi çok büyük olasılıkla bu kadar sert olmayacaktı. 

Yapay zeka yarışında Çin’i geride bırakmak isteyen ABD Başkanı Trump, Haziran ayı başlarında hükümete yapay zeka modellerini siber güvenlik için önceden değerlendirme ayrıcalığı tanıyacak bir başkanlık emri de imzaladı. 

• İmzalanan kararname, yazılımlarda Mythos gibi yapay zeka sistemleri tarafından tespit edilen güvenlik açıklarının bu sistemler kamuya açılmadan önce bankalar, yerel kamu kuruluşları ve hastaneler gibi kritik altyapı sağlayıcılarıyla paylaşılmasına olanak tanıyan bir süreç oluşturuyor. 

• Başkanlık emri ayrıca, yapay zeka şirketlerini gönüllü olarak en güçlü modellerini yaygın kullanıma açmadan 30 gün önce hükümet incelemesine sunmakla yükümlü tutuyor. 

Henüz yürürlüğe girmeyen bu kararname de Trump yönetiminin esasında yapay zekayı yasal olarak nasıl regüle edeceğinden emin olmadığını ortaya koyuyor. Zira emirdeki temel yükümlülük, gönüllülük esasına dayanıyor. 

Regülasyon eksikliği: Trump yönetimi, göreve başladığından bu yana yapay zekayla ilgili çok fazla yasal düzenleme yapmadı. Önceki dönemlerde yapılan düzenlemelerin tümü de geri çekildi. Uzmanlar, modellere ilişkin çok daha net bir yasal çerçeveye ihtiyaç duyulduğuna işaret etti. Özellikle gönüllülük esasına dayalı düzenlemelerin işlevsel olmayacağının da altı çizildi. 

Yasal çerçeve eksikliği, Mythos 5 ve Claude Fable 5 ihracat kısıtlamasına takılınca herkesin aynı soruyu sormasına neden oldu: "Bu karar hangi kurala göre alındı?" 

Zira ne hükümet ne de şirketler, esasında modellerin hangi eşikte yasaklanacağını biliyordu. 

Kâr odağı: Uzmanlara göre şirketler de erişim kısıtlaması konusunda doğru bir karar mercii değil. Çünkü hem OpenAI hem de Anthropic, yakın zamanda halka arz başvurusunda bulundu. Bu da yakın vadede iki şirketin de kâr odağının, toplum yararının önüne geçeceği anlamına geliyor. 

Anthropic, güncel olarak en güçlü sistemlerin yalnızca hükümetler ve büyük kurumlar tarafından kullanılmasını savunurken OpenAI, bu sistemleri daha geniş kitlelere açmayı destekliyor. Fakat her iki şirket de günün sonunda kâra geçmek ve para kazanmak istiyor. Açıklanan temel değerler çerçevesinde Anthropic belirli bir şekilde, OpenAI ise tam zıttı yönde resmedilirken esasında her iki şirket de kâr amacı güttüğü için birbirlerinin savunduğu değerler üzerinden zıt söylemler üreterek ürünlerini pazarlıyor. 

• Her iki şirket de markasını “en iyi ve en ahlaklı yapay zeka geliştiricisi” olarak resmediyor. Fakat bilim kurgu filmlerinde de "daha büyük bir iyilik için hareket etme" felsefesi, genellikle hikayedeki kötü karakter tarafından benimseniyor. 

Ulusal egemenlik: ABD’nin bir modeli dünyanın geri kalanına kapatması, Çin gibi rakip ülkeleri kendi egemen yapay zeka sistemlerini kurmaya yönlendiriyor. Bu da büyük ölçüde küresel olan internet ve bulut bilişim gibi teknolojilerin aksine, öncü yapay zeka modellerini ulusal sınırlar içine çekiyor. 

Perspektif: Tüm bu belirsiz alanlar, iki soruyu oldukça kritik hâle getiriyor: En güçlü modele kim erişecek ve bu erişime kim karar verecek? Öncü modellerin kontrolü birkaç şirket ve hükümetin eline geçerken yapay zeka yarışı, bir inovasyon yarışından çok, erişim ve güç dağılımı yarışına dönüşüyor. 

Daha da önemlisi topluma yarar sağlama hedefiyle yola çıkan yapay zeka şirketleri, artık en güçlü modellerini yalnızca elit bir kitlenin kullanımına açarak erişimi bir güvenlik meselesinden ziyade, bir prestij meselesi hâline getiriyor.