Deepfake: Görmek, inanmak mıdır?

Geçtiğimiz haftalarda konuşma, anlama, okuma ve yazma yeteneklerini etkileyen “afazi” hastalığına yakalandığını ve oyunculuğu bıraktığını açıklayan ünlü oyuncu Bruce Willis’in yüzünün haklarını bir “deepfake” şirketi olan Deepcake’e sattığı haberleri çıktı. Her ne kadar Willis’in sözcüsü bu haberleri sonradan yalanlamış olsa da Willis'in yüzünün kullanıldığı bir deepfake videosu sosyal medyada büyük ses getirdi ve internette gördüklerimizin gerçekliğini bir kez daha sorgulamamıza neden oldu.

Biz de son olayların ışığında bu yazımızda ne olduğu, telif haklarının kime ait olduğu ve potansiyel tehlikeleriyle, aslında bir süredir gündemde sıcak bir konu olarak yer alan ve günümüzde görmenin inanmak olmadığını gösteren deepfake’i “derinlemesine” ele alıyoruz.

Nedir?

Bir terim olarak “deepfake”, bir yapay zeka biçimi olan “derin (deep) öğrenme” teknolojisinden ve sahte anlamına gelen "fake" kelimesinden geliyor. Büyük veri kümeleri verildiğinde sorunları nasıl çözeceğini kendi kendine öğrenebilen derin öğrenme algoritmaları, tıpkı Willis örneğindeki gibi gerçekçi görünen sahte medya oluşturmak amacıyla video ve dijital içeriklerdeki yüzleri değiştirmek için kullanılıyor.

Mesela, ünlü komedyen ve oyuncu Bill Hader'ın Tom Cruise'u taklit ettiği anlara deepfake teknolojisinin eklenmesiyle ortaya çıkan şu görüntülere bakalım:

Ya da yine Hader'ın Conan'da Arnold Schwarzenneger'ı taklit ettiği anlara:

Deepfake içerikleri oluşturmanın birkaç farklı yöntemi vardır; ancak bu yöntemlerin en yaygın olanı, yüz değiştirme tekniği olarak kullanılan otomatik kodlayıcıları içeren derin sinir ağlarının kullanımına dayanır. 

Bunu gerçekleştirmek için de ilk olarak deepfake’in temeli olarak kullanacağınız bir hedef videoya, ardından da hedefe eklemek istediğiniz kişinin video kliplerinden oluşan bir koleksiyona ihtiyacınız var. Bu videolar, hedef bir Hollywood filminden bir klip ve filme eklemek istediğiniz kişinin YouTube’dan indirdiğiniz rastgele klipleri gibi birbirinden alakasız videolar olabilir.

Daha sonrasında ise derin öğrenme yapay zeka programı olan otomatik kodlayıcı, kişinin çeşitli açılardan ve çevresel koşullardan nasıl göründüğünü anlamak için video klipleri inceleyerek bulduğu ortak özellikleri, hedef videodaki kişi ile sahte videoya eklemek istediğiniz kişiyi eşleştirir. Bunu takiben karışıma bir de deepfake videolardaki herhangi bir kusuru algılayarak iyileştiren ve deepfake dedektörlerinin sahte videoları tespit etmesini zorlaştıran bir başka makine öğrenimi türü GAN’lar (Üretken Çelişki Ağları) eklenir. GAN’lar ayrıca, gerçek olanı taklit eden yeni örneklerin aşırı doğru sonuçlarla nasıl geliştirileceğini “öğrenmek” için büyük miktarda verinin çalışılmasına dayanan deepfake’lerin oluşturulması için de popüler bir yöntemdir.

Sesimi duyar mısınız, kodlarımda?

Öte yandan, deepfake teknolojisi sadece videoyu kapsamıyor. Bu işin bir de videolardan çok daha gerçekçi bir “ses” tarafı var.

Ses klonlama veya sentetik ses olarak da bilinen “deepfake voice”, deepfake videolarındakinin aksine, bir kişinin sesinin taklit etmek için yapay zeka kullanılmasıdır. Ve deepfake videoların gerçek olup olmadığını anlamak biraz dikkatle görece kolayken deepfake seslerin gerçekliği hakkında bir sonuca varmak çok daha zordur.

Deepfake videolar kısmında da anlattığımız gibi, birinin sesini klonlamak için de yapay zeka modellerini besleyecek eğitim verileriniz olmalıdır. Bu veriler genellikle hedef kişinin konuşmasının mükemmel bir örneği olarak görev yapan orijinal kayıtlardır. Daha sonrasında ise bu kayıtlar yapay zeka tarafından yazdıklarınızın ya da söylediklerinizin başka bir kişinin sesindenmiş gibi okunmasını sağlamak amacıyla kullanılır.

Karanlık taraf

Söz konusu insanların ses ve görüntülerinin taklit edilmesi olduğunda deepfake teknolojisinin pek de iyi çağrışımlar yaptığı söylenemez. Ve bu çağrışımların son derece doğru olduğunu destekleyen birçok örnek var.

Deepfake, insanları hem maddi hem de manevi olarak dolandırmaktan kişileri, özellikle de ünlüleri küçük düşürmeye kadar pek çok alanda kullanılabiliyor. Hatta bu noktada deepfake teknolojisinin, kullanıcı ismi “deepfakes” olan bir Reddit kullanıcısının, porno yıldızlarının yüzlerini Hollywood ünlüleriyle değiştirmesini takiben popülerlik kazandığını da hatırlatmak gerekiyor. Bu olayın ardından özellikle yükselişe geçen “intikam pornosu” gibi pek çok pornografik içerik nedeniyle ünlüler zor zamanlar yaşarken, bir Deeptrace raporuna göre 2019’da çevrimiçi ortamda bulunan deepfake videoların %96’sının pornografik olduğu belirtiliyor.  

Peki, deepfake içerikler başka ne gibi kötü amaçlara alet ediliyor?

Kurumsal düzeyde dolandırıcılık

Deepfake sesler son zamanlarda dolandırıcıların en sevdiği dolandırma araçlarının başında geliyor. Yapay zekanın gücüyle seslerini başka bir insanın sesine dönüştürebileceklerini keşfeden dolandırıcılar, artık bir kuruluşun çalışanlarını e-posta yoluyla para transfer etmeye ikna etmektense şirketin CFO’sunun veya CEO’sunun sesini taklit ettikleri bir telefon görüşmesiyle işlerini garanti altına alıyor.

Şantaj

Deepfake teknolojisi ile manipüle edilen medya dosyalarına aktarılan yüzler ve seslerle, kişilerin yapmadıkları şeyleri yapmış veya söylemedikleri şeyleri söylemiş gibi gösterilmesi mümkün. Mesela, bir şirketin CEO’sunun sahte söylemlerde bulunduğu bir video ya da bir kişinin romantik partnerini aldattığı gerçek dışı bir video yaratıp daha sonra bunları şantaj amaçlı olarak kullanmak 

Yanlış bilgi/yalan haber

Sahte haberciliğin tarihi deepfake teknolojisinin geliştirilmesinden çok daha eskisine dayanır: Tarih boyunca sahte haberlerin ve yalan bilgilerin anlaşmazlık ve bölücülük yaratmak için kullanıldığı, günümüzde de hâlâ halkı aldatmak ve siyasi, ticari ya da sosyal faaliyetleri bozmak için kullanılmaya devam ettiği biliniyor; tıpkı 2018’de dönemin ABD Başkanı Donald Trump’ın Belçika’ya Paris İklim anlaşmasından çekilme çağrısında bulunduğu bir deepfake videosu örneğinde de olduğu gibi. Ya da Get Out ve Us gibi filmlerle adından söz ettiren Jordan Peele’in Barack Obama’nın ağzından Trump hakkında pek de hoş şeyler söylemediği şu videoda olduğu gibi:

Kısacası, gerçek olayları tasvir eden ve gerçek insanların asla yapmadıkları şeyleri içeren de deepfake videolar da bu yalan haberlerin inanılırlığını güçlendirebilir.

Hiç mi olumlu kullanımı yok?

Deepfake’in hem duygusal hem de finansal dolandırıcılık için eşi bulunmaz bir araç olduğu doğru; ancak deepfake teknolojisinin birçok faydalı kullanımı da mevcut. Bunların başında da pek tabii ki eğlence endüstrisi geliyor.

Örnek vermek gerekirse; artık aramızda olmayan oyuncuların en azından “görüntüde” olduğu yeni filmler izlemek ya da yıllar önce hayatını kaybetmiş efsane şarkıcıların sesinden yeni şarkılar dinlemek mümkün olabilir. Veya, sevdiğimiz bir film karakterinin başka bir filmin evreninde nasıl görüneceği sorusu cevaplanabilir.

Deepfake teknolojisi özellikle de avatarlar başta olmak üzere oyun endüstrisini hızla dönüştürüyor. Bir çok oyunda oyuncular kendi yarattıkları karakterler ile “başkarakter” rolünü üstlenir; ancak deepfake ile bu oyun deneyimi çok daha ileri seviyelere taşınabilir. Bunun olması hâlinde canlandırdığınız karakteri sadece bir gamepad ile kontrol etmenin ötesinde, avatarınızın mimiklerini ve ağız hareketlerini de kontrol edebilir, Star Wars’tan Luke veya Leia gibi görünebilirsiniz. Dahası, avatarınızın görünüşünü değiştirebildiğiniz gibi sesini de değiştirebilirsiniz. Bununla birlikte, deepfake teknolojisi kendi avatarınız dışında NPC’ler üzerinde de kullanılabilir. ile GPT-3 gibi etkileyici bir doğal dil oluşturma modelinin bir araya gelmesiyle sayesinde NPC’lerin, belirli senaryolara göre hareket etmelerine gerek kalmadan avatarınızla “sınırsız” sohbet etme imkanına sahip olması mümkün olabilir.

Bununla birlikte, deepfake’in dijital medyada sosyal fayda için kullanıldığı örnekler de var. Örneğin, idam tehdidi altında gizlilik içinde yaşamak zorunda kalan LGBTQ+ aktivistlerinin hayatlarına odaklanan HBO yapımı bir belgeselde aktivistlerin kimliklerini gizli tutmak için deepfake teknolojisinden yararlanıldı. Ayrıca deepfake, iletişim kurmak için sentetik konuşmaya ihtiyaç duyan kişiler için de benzersiz sesler oluşturmada kullanılıyor.

Deepfake’in bir diğer potansiyel kullanımı da eğitim alanındadır. Deepfake teknolojisi sayesinde eğitimciler, dersleri geleneksel görsel ve medya formatının ötesine taşıyarak onların daha ilgi çekici olmasını sağlayabilir. Mesela, yapay zeka tarafından oluşturulan sentetik medya ile tarihsel figürlerin ders sürecine dahil olması derse olan katılımı artırabilir ve oldukça etkili bir öğrenme aracı olabilir.

Dahası, deepfake teknolojisi sağlık sektörü için de oldukça faydalı olabilir. Buna göre, deepfake sayesinde tümörleri tespit etmek mümkün olabileceği gibi, sentetik görüntüler üreterek ve bir GAN’a az miktarda orijinal görüntü ekleyerek bu sistemlerin doğruluğunun büyük ölçüde geliştirilmesi de söz konusu olabilir.

Peki ya hukuki boyutu?

Deepfake teknolojisi hayatımıza dahil oldukça hukuki alanda da kendisine giderek büyüyen bir yer buluyor. Mesela, Kasım 2020’de ABD’nin New York eyaletinde yürürlüğe giren bir yasaya göre, merhum bir sanatçının dijital kopyasının kullanılması, halkı sanatçıdan izin alındığına inandırması ihtimaline karşılık sanatçının ölümünden sonraki 40 yıl boyunca yasaklanabilir.

Teksas ise Eylül 2019’da, adaylara zarar vermeyi veya bir seçmen tabanını bir seçimden sonraki 30 gün içinde etkilemeyi hedefleyen aldatıcı deepfake videoların yayılmasını yasaklayan bir yasa çıkarırken Kaliforniya da bundan bir ay sonra benzer bir yasayı yürürlüğe koydu.

Telif meselesi

Aralık 2019’da Dünya Fikri Mülkiyet Örgütü (WIPO), “Fikri Mülkiyet Politikası ve Yapay Zeka Üzerine Taslak Sorunlar Belgesi”ni yayımladı. Fikri mülkiyet hakları açısından deepfake sorunlarına odaklanan bu taslakta telif meselesine değinen iki soru vardı:

• Telif hakkına konu olabilecek verilerden yola çıkılarak oluşturulan deepfake’lerin telif hakları kime ait olmalı?
• Benzerlikleri ve “performansları” bir deepfake’te kullanılan kişiler için adil bir ücret sistemi olmalı mı?

Deepfake’lerin telif hakkı ihlallerinden çok insan hakları, mahremiyet hakkı, kişisel veri koruma hakkı benzeri ihlallere yol açabileceğini belirten WIPO, bu nedenle buradaki asıl endişenin deepfake görüntülerin telif haklarının kime ait olması gerektiği değil, deepfake’lere bir telif hakkı verilip verilmemesi olduğunu aktarıyor. Bununla birlikte, mağdurun hayatıyla çelişen deepfake içeriklerin telif hakkı koruması ile ödüllendirilmemesi gerektiğini belirten WIPO, her hâlükârda telif hakkının deepfake’in yaratıcısına ait olması gerektiğini de sözlerine ekliyor.