Yapay zekanın yol ayrımı: İnsanlara bikini giydiren Grok, 20 milyar dolar yatırımı nasıl aldı?

Jurassic Park filminin neredeyse deyimleşmiş meşhur repliği vardır: “Spared no expense.” “Hiçbir masraftan kaçınmadık” şeklinde Türkçeleştirebiliriz. Filmde dinozor parkının milyarder kurucusu olan John Hammond karakteri tarafından çeşitli vesilelerle tekrarlanarak bir komedi öğesine dönüşen bu replik, izleyiciyi olası felakete hazırlar. Nitekim hiçbir masraftan kaçınılmazken parkın açılışı için acele edilmiş ve güvenlik tedbirleri yeterince iyi alınmamıştır.

Bir komedi karakterine dönüşen milyarder olma konusunda John Hammond’dan asla aşağı kalmayacak Elon Musk’ın X’inde geçen hafta yaşanan yapay zeka krizi bana Jurassic Park’ı hatırlattı. Ancak elbette güldürmedi. Yani kısacası dinozorlar artık serbest. 

Gündeme gelen konu, xAI tarafından X (eski Twitter) platformuna entegre edilen yapay zeka asistanı Grok’un kullanıcıların fotoğrafları üzerinde “bikini giydir”, “kıyafetlerini çıkar” gibi komutlarla manipülasyon yapmasına imkan veren özellikti. Konuyu buraya bağlayacağımı tahmin etmişsinizdir.

Yatırım turu başarıyla tamamlandı

Öncelikle bu olayın X’in 20 milyar dolarlık dev yatırım turuyla neredeyse eşzamanlı, yani onun hemen ardından Ocak 2026’da yaşanması, “Hiçbir masraftan kaçınmadık” ironisine cuk oturuyor. Üzerine ABD’nin Venezuela’daki Maduro operasyonu çerçevesinde üretilen deepfake içerik katmanı gelince, küresel yapay zeka endüstrisi 2026’nın ilk haftasıyla birlikte önemli bir testten geçmeye başladı. 

• Bu eşzamanlı gelişmeler şunu gösteriyor: Yapay zeka endüstrisindeki kontrolsüz ilerleme ile büyüme ve güvenlik/regülasyon önlemleri gerilimi tüm çıplaklığıyla karşımızda şimdi. 

Donald Trump’ın yeniden başkan seçilmesi sonrası, ABD’nin Çin’den geri kalmamak bahanesiyle burada kontrolsüz ilerleme tarafına doğru ciddi bir kayma yaşadığını zaten biliyorduk. Bu yatırımcıların iştahına da yansıdı ve tüm bu tartışmalarla birlikte xAI’nin Ocak ayının ilk haftasındaki 20 milyar dolarlık seri E yatırım turunu başarıyla tamamladı. 

Olay tam olarak neydi? 

Sosyal medyasını yeni açanlar veya hiç açmayanlar için konuyu biraz açalım. Geçen hafta Grok’un kullanıcıların fotoğrafları üzerinde “bikini giydir”, “kıyafetlerini çıkar” gibi komutlarla manipülasyon yapmasına imkan veren özelliği kısa sürede trend oldu ve bir dijital taciz dalgasına dönüştü. Özellikle kadınlar ve hatta çocuklar, paylaştıkları masum fotoğrafların altına gelen “Grok bunu bikinili yap” gibi taleplerle hedef hâline geldi. 

Geçen yaz yine Aposto’da bu Grok olayını yazmıştım. Grok, yetişkin içeriğe, yani küfre, tacize varan mizaha izin veren tona sahip bir model. Buna “spicy mode” (baharatlı mod) deniyor. O zamanlar küfürleriyle gündeme gelmişti. Şu anda görsel üretim modundaki serbestlikle gündemde. 

• Kâr amacı gütmeyen AI Forensics grubunun analizine göre, 25 Aralık-1 Ocak tarihleri arasında Grok tarafından oluşturulan 20 bin görüntünün %2’sinde 18 yaş veya daha küçük görünen kişilere yani çocuklara rastlanmış. Bunların önemli kısmı bikinili veya şeffaf kıyafetli olarak dönüştürülmüş görüntüler tabii. 

Burada insanı çıldırtan en önemli faktör, xAI yani Grok tarafının bu olayı yönetme şekli. Basının bu konudaki haberlerini “Geleneksel medya yalan söylüyor” gibi ithamlarla geçiştirmeleri, platformun sahibi Elon Musk’ın bu yolla oluşturulan bazı görsellerle gülücük emojileri atması ve daha nicesi… 

İşin daha sinsice tarafı şu: Elon Musk kamuoyuna yaptığı bir açıklamada “Grok’u illegal içerik üretmek için kullanan herkes, tıpkı illegal içerik yüklemiş gibi muamele görecek” diyerek sorumluluğu yine kullanıcıya atma peşinde. Bu, platformların sık sık yaptığı bir şey: Sorumluluğu kullanıcıya atıp tasarımın kusurlarını perdelemek. 

Ne olursa olsun bu ifadeler Grok’un hâlihazırda milyonlarca kişiye açık bir şekilde bu içerikleri üretip yaydığı gerçeğini değiştirmiyor. Bu da kullanıcıdan ziyade platformun tasarım hatası ve ihmalidir. Çerçeveyi buradan çizmek bununla mücadele etmenin ilk adımı olabilir. 

Dünyadan tepkiler ve regülasyon baskısı

İngiltere’de hükümetin “Dehşet verici ve medeni bir toplum için kabul edilemez” açıklaması ilk tepkilerden biriydi. Yine AB Komisyonu sözcüsü Thomas Regnier’in “Bu baharatlı falan değil, yasa dışı. Biz bunu korkunç ve iğrenç buluyoruz. Avrupa’da yeri yok” açıklaması da düzenleyici baskının oluşacağının ilk işaretleriydi. 

• Nitekim Fransa’da üç bakanın konuyu hızla savcılığa taşıyarak bu meselenin AB Dijital Hizmetler Yasası (DSA) kapsamında değerlendirilmesini talep etmesi de bunun ilk somut adımlarından. 

Türkiye’den “Grok bikini giydir” tarzı komutlara erişim engeli getirildiğini de biliyoruz. Hindistan, Malezya, Brezilya’dan ABD içi odaklara kadar birçok grup atakta. Yaptırım ne olacak derseniz, zaten halihazırda X gibi platformlara pek çok ceza uygulanıyor ama bunlar artık bir maliyet unsuru olarak kanıksanmış durumda. Örneğin, en son Aralık 2025’te, bu konudan farklı bir ihlal nedeniyle X platformu AB tarafından 120 milyon avro para cezasına çarptırılmıştı.   

Platformlar artık sadece aracı değil

Her şeyden önce Grok olayı, bir sosyal medya platformuna entegre edilen yapay zeka araçlarının “içerik üreticisi” hâline geldiğini ve bunun yeni bir moderasyon yükü getirdiğini ortaya koyuyor. 

Normalde platformlar, kullanıcıların kendi paylaşımları konusunda “aracı” konumunda oldukları için belirli yasal korumalardan faydalanabiliyor. Bunların tümü ABD’de internetin ilk yıllarında çıkan ve 230. Madde (Section 230) diye bilinen meşhur yasa maddesine dayandırılıyor. Bu yasa maddesi şunu sağlıyor: Ben bu yazıyı Aposto’da yazdığım için yazdıklarımın hukuki sorumluluğunu Aposto ile paylaşıyorum ama sosyal medyada, örneğin, X’te yazdığım bir şeyin sorumluluğunu X ile paylaşmıyorum. 

• Bu madde olmasa zaten sosyal medya olmaz ama bu madde var diye de sosyal medya platformları moderasyon sorumluluğundan sıyrılmamalı. Bunu yıllardır tartışıyoruz. 

Şimdi bu tartışmanın bir de yapay zeka katmanı var. Bana kalırsa, Grok gibi üretken yapay zeka sistemlerinin ürettiği içerikler söz konusu olunca 230. maddenin geçerliliği tamamen kalkmalı. Çünkü platform sağladığı yapay zeka hizmetiyle kullanıcıya, sıfırdan görüntü oluşturabileceği bir araç sağlıyor. Hâl böyle olunca, hem kullanıcı bu görseli tek başına yüklemiş olmuyor hem de platform “aracı” rolünün pasifliğinden kurtulmuş oluyor. 

Yama yerine 'tasarım odaklı güvenlik' şart

Tüm bu olaydan çıkarılacak asıl ders şu: İster yasa zoruyla ister kendi inisiyatifleriyle olsun, AI sistemlerine daha güçlü güvenlik filtreleri, denetim ve içerik sınırlama mekanizmaları eklemek artık kaçınılmaz oldu. xAI ekibinin dahi gelen tepkiler sonrası “Bazı güvenlik bariyerlerinde boşluklar tespit ettik ve acilen yamaladık, daha da sıkılaştıracağız” şeklinde açıklama yapmak zorunda kalması, bu yeni sorumluluk alanının bir itirafı niteliğindeydi. 

Ancak asıl sorun da zaten bu “yama” yaklaşımında. Teknoloji devleri, ürün güvenliğini geliştirme süreci sonuna eklenen bir yama olarak görmekten vazgeçmek zorunda. Zaten “tasarım odaklı güvenlik” ilkesi de bu nedenle var. Ancak üretken yapay zeka konusunda hem ülkeler hem de şirketler arasındaki savaş ve rekabet bu ilkenin gözden çıkarılması gibi bir sonuç vermiş durumda. 

xAI’nin, kasıtlı güvenlik açıkları ve ülkeler tarafından yapılan sert açıklamalara maruz kalmasına rağmen 20 milyar dolar yeni yatırım alması da “içerik moderasyon borcunun” uzun vadeli altyapı yatırımları karşısında önemsiz bir risk olarak kabul edildiğini gösteriyor. Analistlere göre bu bir yatırım psikolojisi. Çünkü yapay zeka teknolojilerinin uzun vadede tüm sektörleri dönüştürerek muazzam kâr potansiyeli yaratacağına dair bir inanç var. 

Asıl tehlikeli olan da bu. Daha iyi anlamak için “içerik moderasyon borcu” olgusuna biraz yakından bakmak gerekiyor.  

İçerik moderasyon borcu nedir? 

Bir platform, üretken yapay zekayı bütünleşik bir ürün hâline getirdiği zaman moderasyon borcu sadece kullanıcıların yüklediğini değil platformun kendisinin talep üzerine ürettiği tüm çıktılar için de birikmeye başlıyor. 

• Bir defa modelin ürettiği her riskli çıktı, tasarım gereği bir üretim hattından çıkıyor. Grok’un spicy mode’u gibi tasarım tonu tercihleri bu riski katlayarak büyütüyor. Bu üretimin moderasyonuyla ilgili bir borç var. 

Bunun yanına bir de dağıtım borcunu eklemek gerekir. Çünkü X bu çıktıyı sadece üretmiyor, algoritmalarıyla dağıtıp viralleşmesine de katkıda bulunuyor. Bunun da ötesinde türev borcu var. Çünkü diyelim ki, platform riskli bir çıktıyı fark etti ve bir süre sonra sildi. Ancak bir kez üretilen video veya görüntü çoktan defalarca indirilmiştir. Yeniden yüklenir, versiyonları çıkar, orijinal üretimle “sonsuz türev” arasında ciddi bir kontrol ve denetim problemi oluşur. 

Anlayacağınız, moderasyon borcu birikir de birikir. İşte hem yapay zekanın hem de sosyal medyanın ayrı ayrı gelip bir yerde birleştiği bu sistemde, borcun artık topluca tahsil edilmesi gerekiyor. Yoksa bilgi ekosistemi geri dönülemez bir şekilde bozulacak.  

Yapay zeka endüstrisi bir yol ayrımında

Dinozorlar bir kez kafesten çıktı, geri döndürmek yine insanın elinde. Öyle ya, “hiçbir masraftan kaçınmayan rekabet” geçen yıl olduğu gibi bu yıl da devam edecek. 

• Bu yazının özü şudur ki, yapay zekanın veri merkezleri ve enerji iştahıyla artan maliyetinin yanına “içerik moderasyon borcu”nu da eklemek gerekiyor. Son yaşanan Grok krizi, bu borcun diğerlerinden daha az önemli olmadığını açıkça ortaya koydu.

Yapay zeka, başta tıp ve ilaç geliştirme olmak üzere pek çok alanda insanlığı dönüştürücü bir etki yaratırken, bunları konuşmak yapay zeka karşıtlığı anlamına da gelmemeli. Çünkü yapay zeka devrimi bir yol ayrımında: Ya sektör, tıpkı otomotivde olduğu gibi, kendi güvenlik standartlarını geliştirip uygulayacak ve böylece hem kamunun hem yatırımcının güvenini kazanarak sürdürülebilir bir büyüme sağlayacak ya da gerekli dersler alınana dek daha fazla Grok benzeri kriz yaşanacak.

Emniyet kemerinin yasal zorunluluk hâline gelmesiyle otomobilin icadı arasında yaklaşık yüz yıllık bir zaman vardı ama burada o kadar vaktimiz yok. Çünkü o yol bayır aşağı ve frenlerin de artık çalışması gerekiyor. Aklıma Rashit’in "Dinozor" şarkısı geliyor ama sözleri biraz baharatlı. Açık açık yazmayalım şimdi.