Deepfake’in Gerçek Tehlikesi

Deepfake terimini ve bunun sebep olabileceği riskleri birkaç yıldır konuşuyoruz. Her ne kadar bu konuda bol miktarda negatif senaryo duymuş olsak da bu teknolojinin kötüye kullanım potansiyeli genellikle küçümseniyordu. Fakat bu hafta içerisinde önemli bir kırılma noktasından geçtiğimizi düşünüyorum.

Hafta içerisinde X (Twitter) isimli platformda bir grup kullanıcının Taylor Swift’in YZ ile üretilmiş pornografik görsellerini paylaşmaya başlaması ve bunların neredeyse bir gün boyunca kontrolsüzce yayılması, deepfake teknolojisinin belki de en ciddi tehlikelerinden birisini büyük bir örnekle bize gösterdi: Taciz kampanyaları. 

Çoğu zaman deepfake konusunu politikacılar ve seçimler üzerinden konuşuyoruz çünkü yanlış bilgi sorununu özünde siyasi bir sorun ve politik bir araç olarak kodlamış durumdayız. Bu tür kullanımlarına dair az da olsa örnekler görmemize rağmen, teknolojinin daha tehlikeli yanlarına dair uzun zamandır gördüğümüz örnekler bundan daha az önemli kabul ediliyor. 

Oysa buna benzer şekilde başkalarının pornografik görsellerini ve videolarını izinsiz yapabildiğiniz teknolojiler 2018 yılında bile mevcuttu. Yeni nesil YZ araçları yalnızca bunu daha yüksek kaliteli ve hızlı bir şekilde yapabilmenize imkân sağlıyor. Bu da birilerini taciz etmek veya birisine saldırmak isteyenlerin işini ciddi bir şekilde kolaylaştırıyor. Yıllardır yaşanan birçok olaya ve mağdur edilen kadınların hikâyelerine rağmen deepfake sorununun bu kısmını böyle büyük bir skandal olmadan konuşamamamız da ayrıca tartışılması gereken bir mesele.

Sorunun kaynağına doğru indiğimizde ise aslında YZ ile başkalarının izinsiz pornografik görsellerini üretmenin nasıl büyük ama görmezden gelinen bir sektöre dönüştüğünü görmek mümkün. Bu iş için kurulmuş şirketleri ve özel uygulamaları, Telegram ve Patreon üzerinden siparişle bunları üretenleri internette kolayca bulabiliyorsunuz. Üstelik çoğu zaman Instagram ve X üzerinden de reklamlarını yapabiliyorlar. Fakat bunlara dair önlemler çoğu zaman geç ve yetersiz kalıyor.

Deepfake’in politik riskleri çok konuşulsa da ciddi bir risk teşkil ettiğini düşünmüyorum. Çoğu zaman siyasilerin yalanları ve propagandaları o kadar etkili oluyor ki böyle bir şeye ihtiyaç bile duymuyorlar. Ama bu teknoloji birçok kadın ve genç için hayati bir tehdit oluşturuyor. Bu şekilde üretilen ve yayılan görsellerin gençler ve kadınlar için sebep olabileceği tehlikelerin sınırı yok. Eğer gerçekten bir deepfake tehlikesinden konuşacaksak buraya odaklanmamız gerekiyor.