OpenAI'ın iş etiği: Zeka ve şüphe

ÇİĞDEM ÖZTABAK

ChatGPT'den önce yapay zeka (AI), ortalama bir insan için soyut, uzak ve hayalî bir şey idi. Sadece satrançta çok iyi olan bir makineydi. Hatta Black Mirror ya da Hollywood distopyası bile AI konusunu 50-60 yıl öncesinden kalma, ezberlenmiş "tehditkar" argümanlarla anlattı. Yani insanoğlunun varlığını tehdit eden, kendi kendine düşünüp plan yapabilen, nöral ağlardan oluşan yarı humanoid robotlar. 

Peki, ya o "ana" gerçekten de geldiysek? 

OpenAI'ın yolculuğu, yapay zekanın sadece teknik bir başarı olmadığını; aynı zamanda etik, sosyal ve yönetimsel boyutları da olduğunu gözler önüne seriyor. Hiç heyecanı kaçırmadan bir adım geriye sarmak istiyorum. OpenAI dramasında neler oldu zaman çizelgesine hiç girmeyeceğim. Hepimiz kovuldu; tweet’ler, kalpler atıldı; dilekçe verildi ve CEO geri döndü sıralamasına hâkimiz diye kabul ediyorum. Ama, yapay zeka GPT'den çok daha önce günlük hayatımıza sızmaya başlamıştı. Gelin biz buna ilkel yapay zeka diyelim. 

Cambridge Analytica skandalının altında yatan algoritma aslında buydu. Bu ilkel yapay zeka, arkadaşımızla kafede üzerine 10 saniye konuştuğumuz o büyük ekran televizyonu almamız için casusluk yapıyor, dating uygulamalarında akışımızı manipüle ediyordu. ChatGPT ise bu ilkel yapay zekayı somutlaştırmakla kalmadı, onu hepimizin avucuna yerleştirdi. Ve avuçlarımızdaki bu zararsız platform, tipik bir girişim MVP'si (minimum viable product) değildi; çünkü OpenAI, tipik bir girişim değildi.

Bu akıllı ve zararsız programı aktive eden kişi de aslında derin öğrenmenin "godfather"ı olarak bilinen 75 yaşındaki Geoffrey Hinton. Hinton, bu yıl Google’daki ileri yapay zeka projesinden güvenlik endişeleri sebebiyle insanlık adına istifa etti. OpenAI’ın eski yönetim kurulu üyesi, Sam Altman’ı Google Meet uygulamasından kovan yapay zeka araştırma bilimcisi Ilya Sutskever ise Hinton’ın öğrencisi. Ve bugün GPT’nin, Dall-E’nin çıktılarına ağzımız açık bakıyorsak hep Geoffrey Hinton sayesinde. Bu önemli bilgi ve ilişkileri de cebimize koyalım.

Truva Atı: OpenAI

Şimdi gelin 2015 yazına sürelim hızla giden arabamızı. Bir grup yapay zeka meraklısı, Silikon Vadisi'nde bir akşam yemeği için biraraya geldi. Meraklısı derken, derin öğrenme doktoralı bilim insanlarından hayatta tanışabileceğimiz en zeki insanlara uzanan bir grubu kastediyorum. Biraraya gelip, insanlık için yapay zekayı yararlı hâle getirecek bir şirket ya da organizasyon kurmak istiyorlardı. Bu grubun merkezinde ise Ilya Sutskever, Greg Brockman, Sam Altman ve Elon Musk yer alıyordu.

Olayların fitilini ateşleyenlerden yapay zeka araştırmacısı Helen Toner, Truva Savaşı'na dönen bu hikayenin Helen'iydi... Paris ise Ilya Sutskever idi. Truva atına farkında olmadan sadece kendileri binen Ilya ve Helen, OpenAI çalışanlarının kalp emoji savaşına yenik düştü.

Toner, aralarında taraf değiştiren Mira Murati ve Ilya Sutskever’in de bulunduğu 770 çalışanın 700’ünün verdiği imza sonucu Yönetim Kurulu'ndan gönderildi. Yeni geçici kurulda yalnızca bir eski yönetim kurulu üyesi oturuyor: Altman'ın görevden alınmasında rol oynayanlardan biri olan, Quora'nın CEO'su Adam D'Angelo.

Vadi'nin dedikoduları

Altman'ın Silikon Vadisi'nin hırs üzerine kurulu şirket kültürü için bile fazla fırsatçı kaldığı algısı, zaman zaman en yakın müttefiklerinin bile kendisinden uzaklaşmasına sebep oluyordu.

OpenAI, araştırmalarını ve patentlerini halka açık hâle getirme ve kâr amacı gütmeme motivasyonuyla yola çıkan bir şirketti. Altman’ın ismi ise yapay zekayı kötü adamların elinden uzak tutmak için yüzlerce yeteneği OpenAI’da çalışmaya kurnazca ikna etmesiyle anılıyordu. Ne de olsa onun akıl hocası, demokrasiye inanmayan, FBI’ın insan kaynağı hâline geldiği iddia edilen, Trump kampanyasına destek vermiş ve adı Cambridge Analytica skandalına karışmış olan; Mark Zuckerberg’in de akıl hocası ünlü girişimci Peter Thiel idi. 

2015-2018 arasında OpenAI organizasyonunda aktif rol alan ve yatırım da yapan Elon Musk, Mayıs 2023’de CNBC’ye verdiği röportajda "OpenAI'ın var olma nedeni benim!" diyerek Microsoft’un şirket üzerinde kontrol sahibi olduğunu iddia etmiş; Thiel’e karşı da açıkça uyarıda bulunmuştu. Günün sonunda Musk, bir vakıf olacağını sandığı ama günümüzde yaklaşık 90 milyar değerlemeye ulaşan bir şirkete 50 milyon dolar bağışlamıştı ve bu şirket, ticari kaygıları üst seviyede bir şirkete dönüşmüştü. Şöyle düşünün, Amazon’da yağmur ormanlarını kurtarmak için bir organizasyona fon sağlıyorsunuz ve sonrasında bu organizasyon kereste şirketine dönüşüp ağaçları kesip para kazanmaya başlıyor. Yaptığı yatırıma karşılık tek bir hissesi bulunmayan Musk da "Büyük bir aptal olduğumu kabul ediyorum" diyerek hatasının farkında olduğunu belirtiyor.

Daha felsefi bir katmanda asıl sorumuz; eğer OpenAI çalışanlarının misyonu en büyük yatırımcı Microsoft'u memnun etmeye dönüşüyorsa, yapay zekayı ne kadar demokratikleştirebilirsiniz ya da insanlık için ne kadar yararlı hâle getirebilirsiniz?

Bu ütopik amaç, çalışanların manipüle edildiği bir araca nasıl dönüştü?

Teknoloji gazeteciliğinde bir idol, tecrübeli ve sivri dilli Kara Swisher, Sam Altman’ın lider karakter analizini "Teknoloji liderlerinin her birini iyi tanıdığım için şunu söylemeliyim; Sam Altman, Vadi'deki diğer yetenekli kuruculardan farklı değil. Yani bazen saldırgan, bazen otoriter ve evet, kendi kendine hizmet ediyor" şeklinde yorumluyor.

OpenAI krizi gözler önünde yaşanırken Altman, 8 yıl başkanlık yaptığı ve ayrılmasının istenmesiyle bağlarını koparan Y Combinator’dan neredeyse hiç destek mesajı almadı. Sam Altman, en büyük desteği, kurucu ortağı olan ve bu fırtınada istifa eden Greg Brockman’dan ve önce kalp emojileriyle sonra da toplu imzalarla mevcut yönetim kurulunu istifaya zorlayan OpenAI çalışanlarından aldı.

Peki bu çok genç yazılımcıların–sistemin ayakta kalmasını sağlamakla görevli 750’nin üzerinde insandan bahsediyorum– ana motivasyonu gerçekten Sam’e olan sevgileri miydi?  

Altman'la geçmişte yakın çalışan bir kişi, onun çalışanlar arasında ayrım yaratan manipülasyonlarıyla ilgili bir tweet attı. Eski bir OpenAI çalışanı olan ve şu anda rakip şirket Google DeepMind'da çalışan makine öğrenimi araştırmacısı Geoffrey Irving’den bahsediyorum. Yaptığı paylaşımda "1. Bana karşı her zaman iyi davrandı. 2. Bana çeşitli vesilelerle yalan söyledi 3. Aldatıcı ve manipülatifti. Yakın arkadaşlarımın da dahil olduğu başka insanlara karşı ise daha da kötüydü (bana karşı sadece bazı nedenlerden dolayı nazikti)" ifadelerini kullanan Irving, iki yıl boyunca birlikte çalıştıktan sonra Altman'ı destekleme konusunda isteksiz olduğunu söylerken Altman bu iddialara karşı sessizlik hakkını kullandı.

Altman'ın kurnaz manevralarını rakiplerini bastırmak ve çalışanların maddi geleceğini güvence altına almak için kullandığını da sözlerine ekleyen Irving'e yakın çalışan kişilerden biri de Altman'ın diğer insanların kabul edebileceği şeylerin sınırında yaşadığı, bazen çok ileri gittiği yorumunda bulundu.

Peki iddiaların yöneldiği Sam Altman, nasıl oldu da şirketten uzaklaştırıldığında bile böylesine pozitif bir örgütlenme yaşanmasına sebep oldu? Altman'ın kovulmasının üzerine çalışanlar, X'te Altman'ın paylaşımlarının altını kalp emojileri ile doldurmuş ve birbirlerini ne kadar çok sevdiklerinden bahsetmişlerdi. Ancak tüm sorularımızın cevabını alacağımız, bu sistemi yaratan çalışanlar ve liderler en basit sorumuza bile cevap vermedi: Sam Altman neden kovuldu? Bugün bile bilmiyoruz, garip değil mi? 

^{Greg Brockman’ın kişisel Twitter hesabından paylaştığı geri dönüş fotoğrafı.}

Hipotez

Bu çalışanların çoğu şirkette hisse senedi opsiyonlarına sahip ve şirketi 90 milyar dolara değerleyen ikincil bir hisse senedi satışını bekliyorlardı. Bu, onların hisse senedi opsiyonlarından milyonlar kazanmalarını garanti edecekti. Şirketin CEO'sunun kovulduğunu öğrendiklerinde ve bu olasılığın bir gecede yok olduğunu anladıklarında başka nasıl bir tepki vereceklerdi ki? 

Diğer yandan, haberin yayılmasıyla majör yatırımcı Microsoft’un hisseleri %2 düştü. Her ne kadar büyük bir düşüş gibi görünmese de Microsoft'un neredeyse 3 trilyon dolar değerinde olduğunu düşündüğümüzde bu, bir anda 56 milyar dolarlık bir değer kaybı demekti. Bu sonuca çok sinirlenen ve bir avuç Vadi çocuğunun tüm kurnazlıklarına rağmen işi batırmasını kaldıramayan Microsoft CEO’su Satya Nadella olaya el koydu ve çözdü de. Sam Altman, Greg Brockman ve hatta Yönetim Kurulu'nda bir koltuğu olmayan Ilya Sutskever bile asli görevinden ve hissesinden olmadı. Ayrıca, Altman’ın %2'lik kaybın geri kazandırılması için Nadella’ya söz verdiğinden de eminim ama ispatlayamam.

Teknasyon'da 15 yıllık yazılım geliştiricisi olan Fatih Kadir Akın, konuya ilişkin şu yorumda bulunuyor:

"Bu süreçte kendimi hem Sam Altman hem yönetim kurulu hem de altta çalışanlar yerine koymaya çalıştım. Tabii ki detayları bilmediğimiz için bu empati denemeleri çok sağlam temellere dayanamıyor. Fakat 8 yıl boyunca tırnaklarımla kazıyarak ürettiğim ve dünyanın neredeyse akışını değiştirecek bir şeyi, sebep ne olursa olsun, elimden almaları beni derinden yaralardı. Bu anlamda Sam ve Greg’e çok üzüldüm. Her şey çok yeni, Silikon Vadisi şu an vahşi batı gibi. Komplo teorileri havalarda uçuşuyor, herkes en iyi olmak ve en yıkıcı teknolojiyi elde etmek için her türlü kumarı oynuyor. Ve tüm bu olaylar maalesef sadece "şirket içi olay" seviyesinde değil, insanlığın geleceğini de yazıyor. Şimdilik bu sarsıntıyı zararsız atlattık; fakat sonrakileri bilemiyorum." 

Head of Research and Entrepreneurship, Venture Miami'den Araştırma ve Girişimcilik Başkanı Burhan Sebin ise şu ifadeleri kullanıyor:

"OpenAI'daki iş kültürü ve Sam Altman'ın liderliği altında birleşen genç ve hırslı bireylerin tutkusu, yapay zeka alanında yenilikçilik ve ilerlemeyi destekleyen olumlu bir örnek olarak görülebilir. Bu tutku, devrim niteliğindeki projelerin hayata geçirilmesi için gerekli olan motivasyonu ve enerjiyi sağlar. Ancak, bu durumun grup düşüncesine ve sorgulamadan kabule yol açma riski olduğunu unutmamak önemlidir. Bu tür bir iş kültürü, etik standartları gözardı edebilir ve eleştirel düşünceyi baskılayabilir. 

Asıl endişe edilmesi gereken konu ise, insanlığın geleceğiyle bu kadar yakından ilgili ve potansiyel tehlikeler barındıran bir alanda, bu teknolojiyi geliştiren insanlar dışında geniş toplumun söz hakkının olmamasıdır. Yapay zeka gelişmeleri, sadece bir avuç insanın elinde şekillenmemeli; geniş bir etik, hukuki ve sosyal perspektiften ele alınarak yönlendirilmelidir."

OpenAI çalışan ve liderlerinin bu vahşi oyunda kendi rollerinin ne kadar farkında olduklarını bilemiyoruz. Cambridge Analytica skandalına karışıp daha sonra pişman olduklarını itiraf eden çalışanlar gibi, en çok 5 sene içinde bir teknoloji eleştirisi belgeselinde, eski OpenAI çalışanlarından bazılarını göreceğimizden eminim. Bir değil birkaç Edward Snowden vakası yaşayabiliriz.

Ancak bu durum hepimizi her yönden ilgilendirir hâle geldi. Henüz daha bebek olan bir sistemin, bizi ikna etme çabasını sorgulamanın özellikle iş kültürlerini ve liderlerin söylemlerini gözlemenin hepimiz için tam zamanı.  

"Yeterince gelişmiş her teknoloji sihirden farksızdır."

Sam Altman’dan bir alıntı bu sihri doğrular nitelikte. İnsanın da üzerinde bir ikna yeteneğine erişen yapay zekayı kişisel çıkarlardan uzaklaştırıp demokratikleştirmek, toplumun her kesimini bu teknolojinin potansiyel etkileri ve kullanımları hakkında bilgilendirerek gerçekleştirilebilir.

^{"AI'nın genel zekada insanüstü bir seviyeye ulaşmadan çok önce insanüstü ikna yeteneğine sahip olmasını bekliyorum, bu da bazı tuhaf sonuçlara yol açabilir."}