AI'dan deepfake tehdidi

Bu yılın başında Ukraynalı içerik üreticisi Olga Loiek, sosyal medyada AI ile oluşturulmuş Çince deepfake videolarını gördüğünde kendisine bu kadar benzeyen sahte videoların varlığı nedeniyle şaşkınlığa uğradığını belirtti. Loiek, en çok da bir Ukraynalı olarak videolarda kendisine ait görüntülerin kullanılarak Rusya ve Çin ilişkilerine destek istenmesinden etkilendiğini belirtti.

Loiek, görüntüsü AI ile izinsiz oluşturularak bir dezenformasyon kampanyasında kullanılan ilk kişi değil fakat bu tarz deepfake görüntülerin sadece yalan haber yaymak için kullanılmadığının da altını çizmek gerek. Çeşitli ürün reklamlarında kullanılmak üzere Taylor Swift, Selena Gomez ve Elon Musk gibi ünlülerin deepfake’leri de üretiliyor. Ünlüler yerine influencer'ların deepfake videolarını oluşturmak ise internette daha fazla verileri bulunduğu için daha kolay oluyor. Fakat yasal yollar AI'in korkutucu tarafıyla başa çıkmak için hâlâ yeterli değil. Bu nedenle AI deepfake mağdurları için kurulan birkaç girişimden bahsetmek mümkün.

Ceartas

İnternete yayılan mahrem fotoğraflarını kaldırmakta zorlandığı için Ceartas'ı kuran Dan Purcell, deepfake'lerin 1,5 yıl kadar önce arttığını belirtiyor. Şu anda OnlyFans'te paylaşım yapan kişilerin verilerinin başka yerlere sızmasını engelleye şirket, kullandığı teknoloji ile deepfake'i "milisaniyeler içinde" tanıyıp Google aramalarından kaldırılmasını sağlıyor.

Alecto

Ceartas'a benzer bir hizmet suran Alecto, kullanıcıların yüzlerini tarayıp AI ile deepfake ve mahrem görüntülerini bulabiliyor.

Öte yandan: Loiek ve bir başka deepfake mağduru Michel Janse, deepfake görüntülerini bulmanın oldukça zor olduğundan yakınıyor. Takipçilerinin yardımı olmasa deepfake görüntülerine erişemeyeceğini belirten Janse ise AI ile üretilmiş deepfake videosunun YouTube'da erektil disfonksiyon ilacı reklamında kullanılmasından ve bu konuda platformun yetersiz olmasından şikayetçi.

Sosyal medya platformları ve AI şirketleri deepfake'e karşı nasıl önlem alacak?

5 Nisan'da Meta, sosyal medya platformlarında AI içeriklerini kaldırmayıp sadece "Made with AI" etiketi ekleyeceğini belirtmişti. YouTube da aynı adımı bir ay öncesinde atmıştı. Sosyal medya şirketlerinin zararlı AI içeriklerini platformlarından kaldırmayıp sadece etiketlemesi, kullanıcıları deepfake'e karşı ne kadar koruyabileceğine dair tartışmalara yol açıyor.

• Editörün önerisi: Meta, yanıltıcı AI içeriklerini platformlarında tutma kararı aldı

Geniş açı: Çoğu AI uygulamasının kullanıcılarının nasıl içerikler oluşturabileceğine dair kuralları var. Fakat AI girişimlerinin bu kuralları nasıl uygulamaya koyacağına dair yetersiz kalması kuralları işe yaramaz kılabiliyor. Buna örnek olarak da Los Angeles merkezli AI girişimi HeyGen'in Loiek'in görüntülerinin oluşturulmasında kullanıldığı iddiası gösteriliyor.

Dahası: Mart ayında Becky Litvin, HeyGen'in teknolojisini kullananan Arcads sitesinden kendi ıslak mendil markasını tanıtan bir deepfake videosu oluşturdu. Paylaştığı görüntüler oldukça gerçekçi olan Litvin, videoyu oluşturmak içinse sadece 100 dolar ödediğini belirtti.

Yapay zekanın neler yapabildiğine dair insanları aydınlatmak istediğini belirten Litvin, AI'ın geldiği noktaya şaşkınlığını gizleyemiyor: "Tüketiciler ve kullanıcılar genelde neyin gerçek olup olmadığını anlayabiliyorlar. Bu [video] biraz fazla gerçekçi."

Arcads, videolarında kullandığı kişilerin iznini alıyor ve zararlı içerik oluşturanları platformdan engelliyor; ancak firmanın teknolojisini kullandığı HeyGen'in uygunsuz AI davranışlarını takip etmekte başarılı sayıldığını söylemek güç.