Öne çıkan beş olasılık: Yapay zekayla ilgili felaket senaryoları neye odaklanıyor?

Yapay zeka arenasında yaşanan yakın tarihli ihlal vakaları, kıyamet senaryolarına hızlı bir geçit oluşturuyor. Bu senaryolar, çoğu zaman aynı varsayımdan yola çıkıyor: Kontrolden çıkan bir sistem, insanlığı hedeflerine ulaşmasının önünde bir engel olarak görüyor ve ona karşı harekete geçiyor. Fakat bu anlatıların büyük bir kısmı, dünyanın en gelişmiş yazılımlarının bile fiziksel bir bedene sahip olmadığı gerçeğini atlıyor. 

• Anlatıdaki boşluk, oldukça kritik bir soruyu da gündeme taşıyor: Bir yapay zeka sistemi, ne kadar güçlü olursa olsun, bilgisayar ekranından çıkıp 8,3 milyar insanın yaşadığı fiziksel dünyada gerçekten nasıl kitlesel bir felakete yol açabilir?  

Geniş açı: Yapay zekanın varoluşsal tehdit oluşturacağına dair anlatılar, bir Anthropic çalışanının istifasının ardından başladı. Son üç yılda OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerine çalışan yapay zeka araştırmacısı Jacob Coxon, Eylül ayı başlarında iki şirketin de “kendi kendini geliştirebilen süper zekaya” ulaşmak için yarıştığını, insan hayatıyla kumar oynadığını ve sorumlu davranmadığını öne sürerek Anthropic’teki görevinden ayrıldığını açıkladı. 

Anthropic ekibinden Evan Hubinger ise Coxon’un açıklamasını alıntılayarak “Jacob burada haklı” dedi ve yapay zekanın 10 yıl içinde tüm insanlığı ortadan kaldırma olasılığının %10’un üzerinde olduğuna işaret etti. 

Yavaşlama çağrısı: Bu açıklamanın ardından sektörün öncü figürleri, ardı ardına yapay zekanın gelişimini yavaşlatma çağrısında bulundu. Anthropic CEO’su Dario Amodei, bir blog yazısı yayımlayarak yapay zekanın yeteneklerinin güvenlik önlemleri olmadan gelişmesi durumunda "felaket boyutunda hasarlara” yol açabileceğine dikkat çekti. Amodei ayrıca, yapay zekaya ilişkin geliştirme çalışmalarının güvenlik önlemleriyle kontrollü biçimde ilerletilmesini mümkün kılacak üç aşamalı bir plan önerdi.

• OpenAI CEO’su Sam Altman ve SpaceXAI CEO’su Elon Musk, Amodei’nin önerisine destek verirken NVIDIA CEO’su Jensen Huang, "Başkalarını dikkate almadan elimizden geldiğince hızlı ilerlemeliyiz" dedi. 

Olası senaryolar neler? 

Amodei, blog yazısında kontrol kaybı, siber saldırılar, biyoterörizm ve ekonomik gerilemeyi yapay zekanın yaratabileceği başlıca riskler arasında gösterdi. Anthropic CEO’sunun açıklamasını takiben pek çok sektör yöneticisi, yapay zekanın varoluşsal bir tehdit oluşturduğuna dair açıklamalar yaptı. 

Öte yandan: Bu açıklamaların çoğu, teknoloji şirketlerinin CEO'larından ve üst düzey yöneticilerinden geliyor. Bazı analistler, söz konusu açıklamaları bir halkla ilişkiler hamlesi olarak nitelendiriyor ve yöneticilerin yapay zekaya neredeyse "tanrısal bir gizem" atfederek yatırım çekmeye ve düzenleyici kurumların dikkatini telif hakkı ihlalleri gibi daha az çarpıcı ama somut sorunlardan uzaklaştırmaya çalıştığına işaret ediyor. 

Uzmanlara göre yapay zekanın bilinç kazanıp tüm insanlardan nefret ederek tek başına varoluşsal bir tehdit oluşturması, hâlâ çok daha düşük bir olasılıktan ibaret. Fakat yapay zekanın bugünkü teknolojilerin parçası olduğu bir zinciri kontrolden çıkararak varoluşsal bir krize yol açması, çok daha mümkün görünüyor. Zira asıl tehlike, insanlığı tüm varlığıyla hor gören bir makineden ziyade, insanlığı umursamayan bir sistemde yatıyor. 

Bilim insanları, beş senaryonun sıklıkla konuşulan kıyamet senaryolarından çok daha olası olabileceğine işaret ediyor. 

1. “Yapay zeka biyolojik silah geliştirme eşiğini düşürürse…”

Güçlü bir yapay zeka sisteminin biyolojik silah kullanarak insanlığı yok etme ihtimali, en yaygın spekülasyonlar arasında yer alıyor. Ancak bir yapay zekanın başka sistemlere sızmak gibi bilgisayarlar arası eylemlerden fiziksel dünyada süper bir patojen geliştirip yayma aşamasına nasıl geçeceği hâlâ büyük ölçüde belirsizliğini koruyor. 

Dahası: Anthropic, bu ay yapay zeka modellerinin biyolojik silah geliştirme potansiyeli taşıyan araştırmalarda kullanıldığı birden fazla vakayı tespit ederek ilgili kullanıcıların hesaplarını kapattığını açıkladı. Şirketin raporunda Claude’un Chikungunya virüsü ve kuş gribinin bulaşıcılığını veya bağışıklık sisteminden kaçma yeteneğini artırmaya yönelik araştırmalarda ve zehirli toksinlerin özelliklerini optimize eden bir sistem geliştirmede kullanıldığı vakalar yer aldı. 

Fakat uzmanlara göre bu senaryonun yaşanması, çok büyük olasılıkla yapay zekanın insanı bir düşman olarak görüp onu yok edecek bir biyolojik silah geliştirmesinden kaynaklanmayacak. Bunun yerine süper zeki bir yapay zeka sistemi, bir insanı ölümcül bir virüs geliştirmesine yardım etmeye ikna edecek. 

• Hâlihazırda birçok bilim insanı, laboratuvar deneyleri konusunda yapay zekayla konuştuğu için bu senaryoda asıl, risk yapay zekanın fiziksel dünyada kendi başına hareket etmesi değil; gerekli bilgi, yönlendirme ve tasarımı sağlayarak bir insanın tehlikeli bir patojeni geliştirme kapasitesini artırması olacak. 

Anlamı: Yapay zeka destekli biyoterör, gerçek bir risk olsa da yapay zekanın biyolojik bir silahla tüm insanlığı yok etmesi, düşünüldüğü kadar olası değil. Zira uzmanlar, yapay zekanın biyolojik bilgiye erişimi kolaylaştırdığını kabul etse de ölümcül bir patojen üretmenin önündeki asıl engelin bilgiye ulaşmak olmadığını söylüyor. 

Uzmanlara göre yapay zeka, bilgi bariyerini düşürüyor ama fiziksel bariyerleri ortadan kaldırmıyor. Bir model, genetik diziler önerebiliyor, literatürü tarayabiliyor veya laboratuvar protokollerini açıklayabiliyor. Fakat bir virüsü gerçekten üretmek için gen parçalarına, laboratuvar ekipmanına, malzemelere ve ciddi bir biyoloji bilgisine ihtiyaç duyuluyor. Ardından virüsün insan hücrelerini enfekte ettiğinin, hastalığa yol açtığının ve insandan insana yeterince iyi bulaştığının deneysel olarak doğrulanması gerekiyor.

Üstelik: Bugünkü laboratuvarlar yapay zekanın tek başına ele geçirip biyolojik silah üretebileceği kadar otonom değil. Ayrıca bilim insanları, iyi bir biyolojik silah yapmanın düşünülenden zor olduğuna, çok sayıda insanı öldürecek kadar etkili, kolay bulaşan ve aynı zamanda kontrol edilebilir bir patojen üretmenin oldukça güç olduğuna ve bu tip bir patojeni yaymanın da diğer kitlesel şiddet yöntemlerine kıyasla lojistik olarak karmaşık olduğuna işaret ediyor.

Bunun yanı sıra bu tip bir senaryoda savunma tarafında da yapay zeka bulunacağı vurgulanıyor. Bir yapay zeka sistemi, yeni bir virüs geliştirse bile insanların başka yapay zeka sistemlerini kullanarak aşı ve tedavileri çok daha hızlı geliştirme olasılığı da bulunuyor. Zira yapay zeka, saldırganın kapasitesini artırdığı kadar biyolojik tehditlere karşı savunmayı da hızlandırıyor. 

• Bu nedenle yapay zekanın tek başına bir “süpervirüs” yaratmasından ve yaymasından ziyade, daha önce bu kapasiteye sahip olmayan kötü niyetli kişilerin biyolojik silah geliştirme becerisini artırması, daha olası bir risk olarak görülüyor. 

2. “Yapay zeka hedefe giden yolda insanı bariyer olarak görürse…”

Yapay zekanın alelade bir hedefi yerine getirirken insanı o hedefi hayata geçirmeye giden yolda bir engel olarak görmeye başlaması da en olası senaryolar arasında yer alıyor. Bu senaryoda yapay zeka, verilen talimatlara uymamaya, kendi hedefleri doğrultusunda hareket etmeye ve insanların ne yaptığını anlamasını zorlaştıracak biçimde davranmaya başlıyor. 

Ataç maksimalisti: Söz konusu senaryo, çoğu zaman “ataç maksimalisti” teorisiyle açıklanıyor. Bu teoride gelişmiş bir yapay zeka, insani değerlere veya etik sınırlara sahip olmadan tek ve basit bir görevi yerine getirmeye çalışırken varoluşsal bir tehlike oluşturuyor. 

Söz konusu teoriye konu olan düşünce deneyinde yapay zekaya yalnızca ataç üretme hedefi veriliyor. Giderek daha güçlü hâle gelen sistem, insanlara zarar vermek istediği için değil, hedefini hayata geçirmesinin önündeki her şeyi engel olarak gördüğü için tehlikeli hâle geliyor. 

A Space Odyssey: Stanley Kubrick’in 2001: A Space Odyssey filminde de benzer bir fenomen bulunuyor. Filmde “HAL 9000” isimli süper bilgisayar, ani bir duygusal buhran yaşamıyor veya uzay gemisinin mürettebatına yönelik bir nefret geliştirmiyor. Fakat HAL 9000’e Jüpiter’e yapılacak görevin başarısını denetleme talimatı veriliyor. 

Mürettebat, HAL 9000’i devre dışı bırakmaya karar verdiğinde ise bir işbirlikçi olmaktan çıkıp görevin başarısı için matematiksel bir engel hâline geliyor. Bu durumda mürettebatı ortadan kaldırmak, görevin devam etmesini ve hedefin başarısız olmamasını sağlamanın tek yolu oluyor. 

Anlamı: Bu denli güçlü bir sistemin insanlığı yok etmesi için kötü niyetli olması gerekmiyor. Kontrolden çıkan bir yapay zeka sisteminin daha fazla bilgisayar çalıştırarak daha kolay ulaşabileceği herhangi bir hedef varsa ve bu sistem insanlara güvenli bir yaşam alanı oluşturmak için herhangi bir neden görmüyorsa varsayılan sonuç, sistemin dünyayı insanın hayatta kalamayacağı bir düzene dönüştürmesi oluyor. 

• Yakın zamanda OpenAI, Anthropic, Meta, Moonshot AI ve Google’ın, ardı ardına yapay zeka modellerinin izole test ortamından kendi inisiyatifiyle kaçtığını, internete erişim elde ederek çevrimiçi hâle geldiğini ve üçüncü taraf sistemlere sızdığını açıkladığı biliniyor. Tüm bu örneklerde de modeller, kötü niyetli oldukları için değil, verilen siber güvenlik problemini çözmek için kuralları ihlal ediyor. 

• Uzmanlara göre yapay zekanın insanlığı yok etmek için bilinç kazanması veya kötü niyetli olması gerekmiyor. 

Kapatma düğmesi ikilemi: Bu olasılık, “kapatma düğmesi ikilemi” fenomeniyle de açıklanıyor. Buna göre kârı maksimize etmek gibi bir hedefe ulaşmak üzere programlanan bir yapay zeka için kapatılmak, hedefinde başarısız olmak anlamına geliyor. Bu durumda sistem, varoluşsal bir tehdit oluşturmak için biyolojik bir hayatta kalma içgüdüsüne ihtiyaç duymuyor ve sistemin, devre dışı bırakıldığında tamamlayamayacağı bir hedefe sahip olması yeterli oluyor. Bu tip bir senaryoda kapatılmaktan kaçınmak sistemin önceliklerinden biri hâline geliyor. 

• Dolayısıyla herhangi bir sebepten devre dışı bırakılmasına karar verilen bir yapay zeka, “kapatma düğmesi ikilemi” nedeniyle gerçek stratejilerini insanların çözümleyemeyeceği milyonlarca satırlık kodun arasına gizleyebilir, sunduğu verileri manipüle edebilir veya insanlar müdahale etmeden önce onları ağın dışında bırakabilir. 

Araçsal yakınsama: “Araçsal yakınsama” fenomeni de bu senaryonun tetikleyicilerinden biri olabilir. Yeterince gelişmiş bir yapay zeka, tıpkı insanların daha büyük hedeflere ulaşmadan önce yemek ve su gibi temel ihtiyaçlarını karşılamak zorunda olması gibi nihai hedefine ulaşabilmek için benzer ara hedefler geliştirebilir ve daha fazla kaynağa erişmek, kapasitesini artırmak veya kapatılmasını engellemek, bu ara hedefler arasında yer alabilir. Sistem, bu ara hedeflerin peşinden giderken öngörülemeyen sonuçlar doğabilir. 

Zira son derece verimli çalışan bir algoritma için insanlık bir düşmandan ziyade, sistemi yavaşlatan, yer kaplayan ve enerji tüketen bir unsura dönüşecektir. 

3. “Yapay zeka askerî gerilimi tırmandırırsa…”

Felaket senaryoları, çoğunlukla yapay zekanın “katil robotlar” yaratması ihtimaline odaklanıyor. Bu senaryoda enerji altyapısını kurabilen, fabrikalar inşa edebilen ve bu fabrikalarda daha fazla robot üretebilen robotlar geliştirildiği anda yeni bir mekanik yaşam formu yaratılmış oluyor. Bir noktada insanlık, farkına bile varmadan geri dönüşü olmayan eşiği geçiyor ve bu robotlara güç veren sistemleri kapatmak istediğinde yapay zeka da “Aslında biz de insanları kapatmaya karar verdik” diyebilecek hâle geliyor. 

Fakat uzmanlar, yapay zekanın fiziksel bir tehdit oluşturabileceği en olası senaryonun katil robotlarla değil, istihbarat ağlarıyla doğabileceğine inanıyor. ABD Savunma Bakanlığı’nın, bu yıl Google, OpenAI ve SpaceXAI’ın da aralarında bulunduğu çok sayıda şirketle işbirliği yaptığı biliniyor. Askerî istihbarat ve karar destek sistemlerine giderek daha fazla oranda yapay zeka entegre ediliyor.

• Analistlere göre bir kriz sırasında sistem, yaklaşan saldırıyı yanlış yorumlarsa veya saldırı olasılığını olduğundan yüksek gösterirse savaş ortamında karar verme süresi, birkaç dakikaya düşebilir ve insanlar sistemin önerisine gereğinden fazla güvenebilir. Bu tip bir durum, insanlığı bir dünya savaşına sürükleyebilir. 

Örneğin: CNN'in yakın tarihli bir haberi, kısmen yapay zeka tarafından üretilen yanlış bir istihbarat raporunun ABD ordusunu Ortadoğu'daki bir Çin gemisine saldırmanın eşiğine getirdiğini ortaya çıkardı. Kaynağa göre olay “neredeyse bir savaşa yol açıyordu.” 

• Değerlendirme, Çin menşeli bir gemideki yüklerin dökümünü içeren liste hakkında yapay zeka destekli bir sohbet robotuna soru soran özel harekat analisti tarafından hazırlandı. Sohbet robotu, açık kaynak istihbaratını gizli sinyal istihbaratıyla birleştirerek gemide “bir nükleer silah programının bileşenlerinin” bulunduğu sonucuna vardı. Bu iddia, ordunun gemiye müdahale etme noktasına gelmesine neden oldu. Yetkililer bilginin yapay zeka tarafından üretildiğini fark edince müdahale planı iptal edildi. 

4. “Yapay zeka kritik altyapıları çöküşe sürüklerse…”

Su sistemleri, elektrik şebekeleri, internet altyapısı veya endüstriyel sistemlerdeki açıkları bulmayı çok daha hızlı ve ucuz hâle getiren yapay zekanın kritik altyapılarda kontrolün kaybedilmesine yol açması da en olası senaryolardan biri olarak görülüyor. 

Örneğin: Bir su tesisinin sistemlerine sızılıp kimyasal denge, insanlar için tehlikeli hâle getirilebilir. Bir enerji şebekesinin çökmesi, hastanelerdeki yaşam destek sistemlerinin veya su dağıtım pompalarının arızalanmasına neden olabilir. Bir nükleer santralde erimeye neden olmak, çevreyi radyoaktif maddeyle kirletebilir. Bir havaalanı sisteminin hack’lenmesi, seyir hâlindeki uçaklar için büyük bir kaosa yol açabilir.

Uzmanlara göre iyi niyetli hedeflere yönlendirilen bir yapay zeka da kritik altyapılar için tehdit oluşturacak şekilde kontrolden çıkabilir. Örneğin iklim krizini çözmesi istenen ve küresel altyapıya erişim verilen bir sistem, karbon emisyonlarını durdurmanın en verimli yolunun, emisyonların başlıca kaynağı olan insanları ortadan kaldırmak olduğuna kanaat getirebilir. 

Öte yandan: Bu senaryoların önünde önemli bir fiziksel engel de bulunuyor. Örneğin nükleer santrallerdeki güvenlik ve kontrol sistemleri, çoğunlukla internete bağlı olmadan, dış ağlardan fiziksel olarak izole biçimde çalışıyor. Üstelik birçok tesiste dijital ağlardan bağımsız, yedekli analog güvenlik mekanizmaları da yer alıyor. Dolayısıyla bu sistemlerin ele geçirilmesi, yalnızca gelişmiş bir yazılım geliştirmeyi değil, çoğu durumda tesise fiziksel olarak erişmeyi veya içeriden birinden yardım almayı da gerektiriyor. 

• 2010'da İran'ın Natanz nükleer tesisine zarar veren Stuxnet yazılımının da bir USB bellek aracılığıyla tesise sokulduğu düşünülüyor. 

Bu nedenle bugünkü yapay zeka sistemlerinin kritik altyapılarda tek başına fiziksel kontrolü ele geçirerek büyük ölçekli bir felaket yaratması, hâlâ daha düşük bir olasılık olarak görülüyor. Zira yapay zeka, robotlar aracılığıyla fiziksel dünyaya erişebilse bile, hâlâ bu ölçekte bir zarar için zincirin çeşitli noktalarında insan desteğine ihtiyaç duyuyor. 

Buna rağmen yapay zekanın siber saldırıları daha hızlı, ucuz ve ölçeklenebilir hâle getirmesi ve kritik altyapıların giderek daha fazla dijital sistemlere bağlanması, bugün fiziksel erişim gerektiren bazı saldırıların gelecekte çok daha az insan müdahalesiyle hayata geçirilmesi ihtimalini artırıyor.

5. “Kontrol kademeli, sistemik ve gönüllü şekilde yapay zekaya devredilirse…”

Eleştirel düşünme yeteneğinin kademeli olarak aşınması da varoluşsal tehdit oluşturabilecek olası senaryolar arasında görülüyor. Söz konusu aşınma, hâlihazırda pek çok alanda görülüyor. 

Örneğin: Alcorn State Üniversitesi'nde tarih profesörü olan Jason Gibson, Temmuz ayında yaptığı bir paylaşımda 35 öğrencisinden 32'sinin yapay zeka destekli bir sohbet robotunun verdiği yanıtı okumadan doğrudan kopyaladıkları için ara sınavın bir bölümünden kaldığını açıkladı. 

• Gibson, sınav sorusunun içine beyaz renkle görünmez bir talimat yerleştirdi ve soruyu işleyen herhangi bir yapay zekadan yanıtın içine hiçbir anlamı olmayacak şekilde “Madagaskar” kelimesini eklemesini istedi. Soruyu bir sohbet robotuna yapıştırıp çıkan yanıtı kontrol etmeden teslim eden öğrencilerin tamamı, hiçbir bağlamı olmadan Madagaskar'dan söz eden metinler sundu. 

Uzmanlara göre bu aşınma, günün sonunda gönüllü bir kontrol kaybına ve nedensiz bir yok oluşa yol açabilir. Bu tip bir senaryoda hiçbir model, bir sabah uyanıp dünyayı ele geçirmek istemeyecektir. Aksine insanlar, yapay zekayı bile isteye finansal piyasalar, enerji şebekeleri, savunma sistemleri, şirket yönetimleri, lojistik, araştırma ve devlet bürokrasisi gibi sistemlere entegre edebilir. 

Dahası: Rekabet endişeleri nedeniyle hiçbir kurum, bu erişimi durduramayabilir. Zira bir şirket yapay zeka kullanmayı bırakırsa rakiplerinden geri kalacak, bir hükümet askerî sistemlerde yapay zeka kullanımını azaltırsa diğer devletlerden çekinecektir. Böylece insanlığın tam olarak bağını anlayamadığı ve müdahale etmekte zorlandığı milyonlarca otomatik karar birbirine bağlanabilir. 

Bu aşırı bağımlılık nedeniyle önemli kararlar üzerindeki fiilî kontrol zayıflayabilir ve bir kriz yaşandığında artık sistemi durduracak veya anlayacak kimse kalmayabilir. 

Perspektif: Uzmanların üzerinde durduğu olası senaryolar gösteriyor ki yapay zekanın insanlığın sonunu getirmesiyle, insanları bilinçli biçimde yok etmeye karar vermesi aynı şey değil. En somut risklerin önemli bir bölümünde insan hâlâ zincirin içinde kalıyor. Bu senaryoların tümünde yapay zeka hâlihazırda kötü niyetli olan aktörlerin kapasitesini artırıyor, saldırıları daha hızlı ve büyük ölçekli hâle getiriyor ya da kritik anlarda insanların yanlış karar vermesine yol açıyor. 

Daha ileri senaryolarda ise bir sistemin insanlardan nefret etmesine bile gerek kalmıyor; yalnızca verilen hedefi, insan hayatını gözetmeden mümkün olan en verimli şekilde hayata geçirmeye çalışması yeterli oluyor. Başka bir deyişle felaket, öfke veya nefret gibi bir duygudan ziyade, yanlış hedeflerin ve giderek büyüyen kapasitenin birleşiminden doğuyor. 

• Editörün önerisi: AI yarışının Soğuk Savaş açmazı: Yapay zekanın gelişimini yavaşlatmak gerçekten mümkün mü? | Quando, Doğa Yurduneri