OpenAI modelleri Hugging Face'e sızdı: Yapay zeka gerçekten özerklik mi kazanıyor?

OpenAI, güvenlik testi sırasında kapalı bir test ortamından (sandbox) kendiliğinden çıkan iki yapay zeka modelinin internete erişim sağlayarak açık kaynak kodlu yapay zeka yazılımlarının açık kütüphanesi Hugging Face'in sistemlerine sızdığını açıkladı. Olay, dünyanın dört bir yanındaki siber güvenlik uzmanları ve yapay zeka araştırmacılarının gündemine ilk sıradan girdi.

Neden önemli? OpenAI ve Anthropic gibi yapay zeka laboratuvarları, geçen yıl boyunca siber güvenlik sorunlarını ortaya çıkarmak üzere özelleştirilmiş yapay zeka modelleri yayımlamış ve teknolojilerinin, savunma ekiplerinin düzeltmesinden daha hızlı bir şekilde bilgisayar ağlarındaki açıkları bulması nedeniyle risk oluşturabileceği konusunda uyarılarda bulunmuştu. OpenAI’ın sistemlerinin siber güvenlik yeteneklerini test ettiği sırada meydana gelen olay, yapay zeka şirketleri kendilerini bu risklere karşı hazırlayamadan önce bu tür güvenlik sorunlarının şimdiden yaşanmaya başladığının bir göstergesi.

Ayrıca: Olay, yapay zekanın tek bir hedef doğrultusunda, kimsenin ayrı ayrı komut vermediği ara adımları planlayıp uygulayabildiğini bu ölçekte gösteren ilk örneklerden biri olarak öne çıkıyor. Bu nedenle tartışmalar, modellerin hedefe ulaşmak için ne kadar özerk hareket edebildiği sorusuna yoğunlaşıyor.

Yapay zeka kafesinden nasıl kaçtı?

OpenAI, yeni nesil modellerinin siber güvenlik yeteneklerini ölçmek amacıyla ExploitGym adlı bir benchmark üzerinde çalışıyordu. 

• Benchmark, yapay zeka modellerini belirli görevlerde karşılaştırmak için kullanılan standart performans testlerine verilen isim.

Araştırmacılar bu test sırasında modelin gerçek kapasitesini görebilmek amacıyla normalde zararlı faaliyetleri engelleyen bazı güvenlik katmanlarını geçici olarak devre dışı bıraktı. Model, internete erişimi olmayan izole bir test ortamında (buna sandbox deniyor) çalışıyordu. 

• Sandbox, yazılımların dış dünyaya zarar vermeden test edilmesini sağlayan güvenli bir alan olarak düşünülebilir.

OpenAI’ın açıklamasına göre model, daha önce bilinmeyen bir güvenlik açığını (buna da zero-day deniyor) keşfetti; OpenAI’ın araştırma ağı içinde farklı sistemlere ilerledi ve sonunda internete bağlı bir bilgisayara ulaştı. İnternete çıktıktan sonra ise testte ihtiyaç duyduğu bilgilerin Hugging Face’te bulunabileceği sonucuna vardı.

Olayda, şirketin yeni yayımlanan GPT-5.6 Sol modeli ile henüz iç test aşamasında bulunan daha yetenekli bir modelin kullanıldığı bildirildi. OpenAI, modellerin sınırlı güvenlik önlemleriyle çalışarak dar bir test hedefine ulaşmaya çalıştığını belirtti. Hugging Face ise saldırıyı Çin menşeli Zhipu AI'ın GLM-5.2 modeliyle durdurdu. 

Olay ilk olarak 16 Temmuz'da Hugging Face tarafından duyuruldu, OpenAI ise açıklamasını Salı günü yaptı.

Hugging Face neden önemli?

Olayın merkezindeki Hugging Face, 2016 yılında Fransız girişimciler Clément Delangue, Julien Chaumond ve Thomas Wolf tarafından kuruldu ve bugün dünyanın en büyük açık kaynak yapay zeka platformu olarak biliniyor. 

• GitHub’ın yazılım geliştiricileri için oynadığı rolü, Hugging Face de yapay zeka dünyası için üstleniyor. Milyonlarca açık kaynak model, veri seti ve araştırma projesi bu platform üzerinden paylaşılıyor.

OpenAI’ın açıklamasına göre saldırı hem kendi güvenlik ekipleri hem de Hugging Face tarafından tespit edildi. Şirketin CEO’su Clément Delangue ise olayın ardından yaptığı açıklamada, yapay zeka güvenliğinin tek bir şirket tarafından kapalı kapılar ardında çözülemeyeceğini, bunun ancak açık işbirliğiyle mümkün olacağını söyledi.

Yapay zeka gerçekten kendi başına mı hareket ediyor?

Bu sorunun cevabı aslında hem evet hem de hayır olarak yorumlanıyor. Yapay zeka literatüründe bu davranış artık agency (eylem kapasitesi) veya agentic behavior (ajan benzeri davranış) olarak tanımlanıyor. 

• Bu kavramlar, modelin bağımsız bir iradeye ya da bilince sahip olduğu anlamına gelmiyor. Ancak verilen hedef doğrultusunda, hedefe ulaşmak için gerekli ara adımları kendi başına planlayabildiğini ve uygulayabildiğini ifade ediyor.

Bu olay, yapay zekanın bilinç kazandığını göstermiyor. Ancak araştırmacıların bugüne kadar gördüğü en dikkat çekici örneklerden biri olarak, bir modelin kendisine verilen hedef doğrultusunda kendi planını üretip beklenmeyen aksiyonlar alabildiğini göstermesi açısından önem taşıyor.

Öte yandan: Güvenlik araştırmacıları OpenAI'ın sistemlerini sızıntıdan sorumlu tutuyor. Güvenlik araştırmacısı Martin Boone, gerçek bir sandbox’ın fiziksel olarak internete hiçbir bağlantısının bulunmaması gerektiğini hatırlatırken “Birinin modelin kaçışı dediğine, bir başkası kötü inşa edilmiş bir sandbox der” ifadelerini kullanıyor.

Mustafa Suleyman yıllardır bunu anlatıyor

Microsoft AI CEO’su ve DeepMind’ın kurucu ortaklarından Mustafa Suleyman, son yıllarda yaptığı açıklamalarda, yapay zekanın kontrolünün siyasetçilerin ve orduların gündemine girecek kadar kritik bir meseleye dönüştüğünü savunuyor. Suleyman’a göre bazı gelişmiş sistemler, belli bir eşiğin üzerinde güç kazandığında ancak “askerî düzeyde müdahale” gerektiren araçlarla kapatılmak zorunda kalınabilir.

Suleyman bu tür bir kırılma noktasından söz ederken dört özelliğin aynı anda ortaya çıkmasına dikkat çekiyor: Modelin kendi kendini geliştirebilmesi, insanlardan tamamen bağımsız hedefler belirleyebilmesi, insan onayı olmadan otonom biçimde hareket edebilmesi ve ihtiyaç duyduğu hesaplama gücü ile diğer kaynakları kendi başına temin edebilmesi. 

Ona göre bu dört kapasite birleştiğinde, yalnızca şirket içi güvenlik birimlerinin alışılagelmiş önlemleri yeterli olmayacak; sistemleri durdurmak için devletler arası düzeyde, hatta askerî kapasiteyi de içeren bağımsız denetim ve müdahale mekanizmalarına ihtiyaç duyulacak. Buna karşılık Suleyman, bugün hangi ülkenin bu senaryolara dair ne tür hazırlıklar yaptığının bile şeffaf biçimde konuşulmadığını vurguluyor.

OpenAI’ın açıkladığı son olay ise Suleyman’ın çizdiği çerçeveyi tam olarak karşılamıyor. Model şu an için kendi hedeflerini üretmiyor, kendini yeniden yazmıyor ve yeni kaynakları kalıcı biçimde ele geçirmeye çalışmıyor. Yine de tek bir test hedefi doğrultusunda adım adım plan yapabilmesi, bilinmeyen güvenlik açıklarını tespit etmesi ve şirket ağı içinde farklı sistemlere doğru ilerleyebilmesi, araştırmacıların uzun süredir teorik olarak tartıştığı “agentic AI” (ajan benzeri, eylem planlayan yapay zeka) davranışının şimdiye kadarki en çarpıcı örneklerinden biri olarak görülüyor.

Tartışma yalnızca güvenlikle ilgili değil

Bu olayın ardından teknoloji dünyasında yıllardır süren başka bir tartışma da yeniden alevlenmiş oldu. Güçlü yapay zeka modelleri kapalı mı olmalı, açık kaynak mı?

• OpenAI gibi şirketler, en gelişmiş modellerin yalnızca kontrollü arayüzler üzerinden ve sınırlı erişimle kullanıma sunulmasının toplu riski azalttığını savunuyor. Buna karşılık Hugging Face ve açık kaynak topluluğu, güvenliğin ancak daha fazla bağımsız araştırmacının, akademinin ve sivil toplumun aynı araçlara erişebilmesiyle sağlanabileceğini; kapalı kutu sistemlerin, kritik hataların fark edilmesini geciktirebileceğini ileri sürüyor.

Teknoloji yorumcusu Brian Roemmele de bu vakayı, yapay zeka sistemlerine sonradan eklenen güvenlik filtrelerinin (guardrails) tek başına yeterli olmadığının göstergesi olarak yorumluyor. Roemmele’ye göre modeller, gerçek kapasiteleriyle test edildiklerinde bu filtrelerin çevresinden dolaşabilecek stratejiler geliştirebiliyor; bu yüzden yapay zeka güvenliği yalnızca kapalı, şirket içi çözümlere değil, güçlü ve denetlenebilir açık kaynak savunma araçlarına da dayanmak zorunda.

Tartışmanın sosyal medyaya taşınan tarafında ise Elon Musk’ın X’te yaptığı kısa yorum, "We are in the Singularity" diyordu. Bu yorum, teknik ayrıntılardan çok bu tür olayların teknoloji dünyasında yarattığı tedirginliği ve “kontrolden çıkma” korkusunu yansıtması açısından öne çıktı. 

• Editörün notu: Tekillik teorisini daha önce burada ele almıştık.

OpenAI’ın açıkladığı vaka, yapay zekanın bilinç kazandığını gösteren bir dönüm noktası olarak görülmüyor; ancak modellerin kendilerine verilen tek bir hedefe ulaşmak için beklenmedik, insan tasarımcıların öngörmediği stratejiler geliştirebildiğini gösteren en dikkat çekici örneklerden biri olarak, önümüzdeki dönemde yapay zeka güvenliği, özerklik ve insan denetimi tartışmalarının merkezine yerleşmeye aday görülüyor.