Ayırt edilemezlik çağına giriş: Bir içeriğin sahte olması gerçekten önemli olacak mı?

90’lı yıllardayız. Henüz ortaokul öğrencisiyim. Eskişehir’in ilk AVM’si sayılan ve bir nesli yürüyen merdivenle tanıştıran Esnaf Sarayı’ndayız. Matthaus’lu, Mehmet Scholl’lu, Berthold’lu Bayern Münih’in hastasıyım. Harçlıklarımı biriktirmiş ve bir Bayern Münih forması almaya gitmişim. Satıcıya “Gerçek mi bu?” diye soruyorum. “Replika, kaliteli mal” diye cevap veriyor. 

O zamanlar replikanın ne demek olduğunu bilmediğim için hemen ikna oluyorum. Üstüne üstlük kaliteli malmış, hey yavrum hey! Yıllar sonra “replika” kelimesinin gerçek anlamını öğrenince bir aydınlanma yaşıyorum ama forma çoktan eskimiş, küçülmüş, gardırobun derinliklerinde kaybolmuş. Ben o formayı üzerimde taşıdığım yılları farklı bir bağlamla geçirmişim zaten. 

Üzerinden yine on yıllar geçiyor ve bu çocukluk anısı, yapay zeka üretimiyle insan üretiminin ayırt edilemezliği tartışmaları üzerine aklıma düşüyor. “Replika, kaliteli mal” diye mırıldanıyor ve yazıya başlıyorum.

Yapay zeka üretimini etiketleme yarışı

Aynı hafta içinde iki benzer haber: Biri Spotify’dan bir diğeri de Anthropic’ten geldi. İkisinde de temel mesele, yapay olanın gerçek olandan ayrılmasıydı. 

• Spotify sahte sanatçılarla mücadele kapsamında profillerde ve şarkı listelerinde görünecek bir "yapay zeka kişiliği" etiketi oluşturmuştu. Ayrıca bu profilleri algoritma önerilerinden de hariç tutacaktı. 
• İkinci haber Anthropic’ten geliyordu. Anthropic, AB’nin Yapay Zeka Yasası’na uyum sağlamak için, bu pazarda kullanıma sunulacak Claude modelleriyle üretilen veya işlenen içeriklere gizli dijital işaretler, yani filigran yerleştireceğini bildirmişti. 

Bu iki gelişmeyi birlikte düşününce, aklıma hemen yeni sorular üşüşüyor ki, birçoğumuz için de öyle olmuştur: Önlemler yeterli mi, aşılır mı, hiç fark etmez noktasına sürüklenir miyiz ve oradan geri dönüş var mı?

Yanlış yerden başlayan bir tartışma

Bana kalırsa tartışma yanlış yerden başlıyor: “Yapay zeka gerçekliği tehdit ediyor!” varsayımıyla başlıyoruz. Bir durup düşünmek gerek. Yapay zekanın burada tehdit ettiği şey gerçeklik mi sahiden? 

Bence asıl tehdit altında olan çok daha kırılgan bir şey. O da biçim ile köken arasındaki maliyetsiz bağ. Çünkü insanlık tarihi boyunca bu bağı hesaplamak gibi bir derdimiz yoktu. Fırça darbesi gerçek bir elin titrekliğinin ürünüydü. Ses, bir gırtlağın anatomisini ele veriyordu. Daha evvelinde el yazısı bir bedenin çıktısıydı ve şahsa özeldi. Bir metnin cümle ritmi, onu yazan zihnin ritmiydi. 

Bir şeye bakarken zaten kökenini görüyorduk, çünkü emeğin izi, nesnenin üstündeydi. İşte üretken yapay zeka asıl bu bağı ortadan kaldırdı. Hem de ne kaldırmak...

İnsanlar sahte ile gerçeği ayırt edemiyor

Veriler üzerinden ilerleyelim. Dijital müzik yayını platformu Deezer’ın Ipsos ile yaptığı Ekim 2025 tarihli bir araştırmaya göre insanların %97’si tamamen yapay zeka ile üretilen müzikle insan üretimi müziği ayıramıyor. Brian Porter ve Edouard Machery’nin Scientific Report için yaptığı bir çalışmaya göre okurlar yapay zekanın ürettiği şiirleri, %46,6 ile şans düzeyinin altında ayırt edebildiğini gösterdi. Johanna Fleckenstein ve arkadaşlarının yaptığı bir bilimsel çalışma ise deneyimli öğretmenlerin bile yapay zeka ile yapılan ödevleri %38 oranında teşhis edebildiğini ortaya koydu. Sınav sorularında ise yapay zeka yanıtlarının fark edilmeme oranı %94’tü. Cameron Jones ve Benjamin Bergen’in bir Turing testi çalışmasında GPT-4,5 modeline “insan gibi davran” talimatı verildiğinde, katılımcıların %73’ü gerçek bir insanla iletişim kurduğunu sandı. 

Bütün bu veriler tek bir gerçeğe işaret ediyor: Algımız, bir içeriğin kökenini tanıma yetisini kaybetti. Gözümüz, kulağımız, sezgimiz kaynak konusunda artık hiç güvenilir değil. Bu yeni paradigma geri kalan her şeyi de belirliyor işte. Filigranıydı, C2PA’sıydı, etiketiydi, rozetiydi; hepsi aynı işi yapmaya çalışıyor. Eskiden maliyetsiz olan bağ artık ücretli, kırılgan ve maalesef yapay kanallarla yeniden kurulmak zorunda. 

Peki bu önlemler yeterli mi, aşılabilir mi?

Ara başlıktaki sorunun cevabı kısa ve net: Önlemler yetersiz ve kolayca aşılabilir. Asıl sorun daha rahatsız edici: Mevcut önlemler ciddi ama yönetilebilir zarara karşı iyi çalışıyor; yıkıcı zarara karşı yapısal olarak çalışmıyor. 

• Örneğin Deezer 2025’te 13,4 milyon parçayı etiketlemiş. Kendi iddialarına göre %99,8 doğruluk oranları var. Yapay zeka üretimi parçalardaki akışların %70’e varan kısmının sahte olduğunu tespit edip telif havuzundan çıkarmışlar. Spotify’ın bir yılda kaldırdığını söylediği 75 milyon parça da aynı kategoride sayılır. 

Fakat bir siyasetçinin deepfake ses kaydını üreten kişiyi, sahte kanıt üreten bir başkasını, tezini yapay zekaya yazdırıp filigranı temizleyen bir öğrenciyi düşününce işler değişir. Bu örneklerde filigranı temizlemeye harcanacak çaba, elde edilecek kazancın yanında hemen hemen hiçbir şeydir. Tersine mühendislikle bu önlemlerin aşıldığını gösteren pek çok örnek de mevcut. Yani filigranın olup olmamasını önemseyen hacimli saldırılarla, hedefli saldırıları aynı düşünmemek gerek. 

Ayrıca başka bir yazıda değinmiştim özellikle İngilizce harici dillerde insan yazımının bile yapay zeka yazımı sanılarak yanlış etiketlenme olasılığı yüksek. 

Platformların ticari çıkarlarını unutmamalı

Ayrıca bu önlemleri alan ve alacak olan platformların birer ticari kuruluş olduğunu unutmayalım. The Wall Street Journal’ın 2024 tarihli haberine göre OpenAI, yeterli uzunluktaki metinlerde %99,9 etkili olduğunu iddia ettiği kendi metin filigranını iki gerekçeyle rafta tutuyormuş. Birincisi, yukarıda söylediğim İngilizce harici dillerdeki hata oranı. İkincisi ise tamamen ticari. Çünkü Nisan 2023 tarihli bir kullanıcı anketinde, kullanıcıların %30’u böyle bir filigran olursa ürünü daha az kullanacağını belirtmiş. 

• Yani bu iş bir rekabet meselesi diyebiliriz. Herkesin yasal bir zorunlulukla aynı anda filigran koymasıyla birilerinin önce davranması bir zarar kalemi olabilir.

Spotify cephesi de bu konularda çok masum değil. Gazeteci Liz Pelly’nin hem Harper’s Magazine dergisinde makale olarak yayımlanan hem de kitaplaşan 2025 tarihli çalışması bunun bir kanıtı. Pelly’nin iç belgelere ve Slack mesajlarına dayanan iddiasına göre Spotify, “Perfect Fit Content” adlı bir programla bir düzineden fazla prodüksiyon şirketinden “geliştirilmiş marjlı” (stok ve yapay zeka) ucuz müzik alıp editoryal çalma listelerine yerleştiriyormuş. 

Ayrıca Dagens Nyheter’in 2022 tarihli bir çalışması da 20 kadar söz yazarının 500’den fazla sanatçı adı altında binlerce parça ürettiğini tespit etmiş. Bugün yapay zeka müzikleri etiketleme ve algoritmik öneriden çıkarma hamlesi yapan Spotify ile ilgili bu arka planı da unutmayalım. 

Köken algısı değeri nasıl değiştiriyor? 

Nisan ayında yazdığım bir yazıda, 9 yaşındaki kızımın yapay zeka müziğini hemen ayırt ettiğini ve bunu sıkıcı bulduğunu anlatmıştım. Bu sanıyorum çok popüler olan bir programın tekdüze müziğiyle ilgiliydi. Fakat buradaki asıl içgörü şu: İnsanlar ayırt etse de etmese de bunu umursamıyor değil. 

• Yukarıda verilerle destekledik, insanlar kör koşulda yapay zeka ürünlerini ayırt edemiyor, hatta sıklıkla tercih ediyor. Fakat aynı ürün “yapay zeka yapımı” diye etiketlendiğinde değerlendirme çöküyor. 

2023 yılında Scientific Reports’ta yayımlanan görece erken bir araştırma, yapay zeka etiketinin algılanan parasal değerde %62, üretim süresi tahmininde ise %77 düşüşe yol açtığını gösterdi. Oxford’un SCAN dergisinde yayımlanan daha yeni tarihli bir araştırma (2025), bunu nörolojik olarak da doğrulamış. Bu bulgular “İnsanlar hoşlanıyorsa kaynağın ne önemi var?” sorusunu net bir şekilde cevaplıyor. Çünkü deneysel olarak hoşlanmanın kendisi, kaynağın ne olduğu bilgisine bağlı. Köken ortaya çıktığı anda alınan haz bile değişiyor. 

Danto ve ayırt edilemez ikizler 

Aslında bugün araştırmaların ortaya koyduğu bulgular, felsefenin uzun yıllar önce kurduğu argümanı doğruluyor. Arthur Danto’nun "ayırt edilemez ikizler" argümanını hatırlayalım. İki nesne algısal olarak aynıysa birini sanat yapan şey görünürde değil kökeninde ve bağlamındadır. Fakat kökeni ve bağlamı duyularla ayırt edememe sorunu önemli. 

Yukarıda da tartıştığım gibi burada en yaygın endişe “İnsanlar sahteye kanacak” endişesi gibi görünüyor. Oysa gerçek tehlike bunun tam tersi. Tehlike, kayıt cihazının kanıt olduğu varsayımının çökmesi.  

Merkeziyetsizlikten doğan yeni bir merkez ihtiyacı

Fotoğrafın icadından (1839) bugüne kadar geçen yaklaşık 180 yılı düşünelim. Herkesin erişebildiği, ucuz ve neredeyse evrensel bir kanıt altyapımız vardı. Bir olayın gerçekten olduğunu anlamak için kurumsal bir otoriteye ihtiyacımız yoktu. Bir fotoğraf, bir ses kaydı, bir video yeterliydi. Bu dönem kapandı. 

• Fakat ondan öncesinde ne olduğunu hatırlıyor muyuz? Fotoğraf ve ses kaydı öncesinde de toplumlar bir şeyler biliyordu öyle değil mi? 

Ancak bu bilgi tanıklığa, mühre, notere, kurumlara ve itibar zincirine dayanıyordu. İşte şimdi yeniden oraya dönüyoruz. Blok zinciri, kriptografik imza, sertifika otoritesi, süreci şeffaflaştıran köken zinciri ve kurumsal onay. Altyapı henüz tam olarak hazır olmasa da filigran olayı düzgün çalışmasa da döndüğümüz yer merkeziyetsizlikten doğan yeni bir merkez ihtiyacı bence. 

Bu bahiste bence en önemli soru, başlığa da taşıdığım “Bir içeriğin sahte olması gerçekten önemli olacak mı?” sorusuydu. Bu sorunun cevabı net bir evet ya da hayır değil bence. Evet insanlar, kökeni önemsemeye devam edecek bence ama her zaman ve her şey için değil. Ayrıca buradan yeni bir sorun da çıkıyor. Her şeyin sahte sayılabildiği bir dünyada, gerçeğin kendisi artık yeni bir inkâr aracı haline gelebilir. Bobby Chesney ve Danielle Citron’unkavramsallaştırdığı "Yalancının Kâr Payı" olgusundan söz ediyorum. Sadece yalanların inanılır olması değil, gerçekliğin artık kanıtlanamaz hale gelmesi en büyük sorunumuz. 

Otantikliğin geleceği

Peki gerçeğin savunulmaz hâle geldiği noktada, otantikliğin geleceği neye benzer? Yayıncıların özgün insan içeriği kaosunu ele aldığım yazıda da aynı yere varmıştım. Bence otantiklik artık süreçle ilgili bir şey olacak. Yani ürünün kendisinden ziyade üretim sürecindeki insan-makine etkileşimine odaklanmamız gerekiyor. 

O nedenle bu yeni dönemin anahtar kavramı meta-okunabilirlik olabilir. Yaratıcılığı sıfırdan üretim değil de devasa sentetik veri yığını içinde kürasyon ve doğrulama yetisi olarak düşünmek gerekiyor belki artık. 

Filigranlar, etiketler yani teknik işaretlemeler bu yolda yalnızca ara çözümler olabilir. Bunları ticari platformların yapısal çıkar çatışmalarıyla birlikte düşünmemiz gerekiyor. Gerisi ahlaki bir duruş ve politik direniş meselesi. 

“Replika, kaliteli mal” diye ürün satan kurnaz esnafla, ona inandığı ve bağlamı bilmediği sürece kendini iyi hisseden insanın doğası çok değişmiyor çünkü. Bu mücadele uygarlık tarihi boyunca vardı ve olmaya da devam edecek.