Yapay Zekânın Risklerine Karşı Radyoaktif Veri

Yapay zekâ teknolojilerinin yaygınlaşması ve giderek daha kolay kullanılabilir hâle gelmesi, beraberinde birçok farklı kullanımı da hızlı bir şekilde görmemizi sağladı. Ancak bunların arasında giderek riskli ve kötü niyetli kullanımların artışa geçmesi de nasıl önlemler alınabileceği sorusunu beraberinde getiriyor.

Sadece 2023'ün başından bu yana öne çıkan bu kullanım örnekleri arasında CNET'in yetmişten fazla SEO odaklı içeriği yapay zekâ sistemlerine yazdırmış olması, oltalama saldırıları ve dolandırıcılık için yapay zekâya metin yazdıranların artması ve yapay zekânın kod yazma yeteneği ile hızlı bir şekilde zararlı yazılımlar yazılmaya başlanması gibi örnekler var. Bunların yanına geçmişte gördüğümüz diğer örnekleri de eklediğimizde karşımızda ciddi bir risk olduğunu kabul etmek gerekiyor.

Yapay zekâ ile üretilen içeriklerin getirdiği bu risklere karşı neler yapılabileceğini inceleyen ve çözümler üretmeye çalışan araştırmalar şimdiden başladı. Örneğin GPTZero isimli proje yazılı bir metni kimin yazdığını tespit edebileceğini söylüyor. Ancak ChatGPT ile bunu atlatmayı başaran örnekler şimdiden mevcut. 

Bu duruma dair en karamsar senaryo, 2016 yılında fake news tartışmaları büyümeye başladığında ortaya atılan "infocalypse" kavramı: yani internette gerçek bilgi ile sahtelerin ayırt edilmesinin neredeyse imkânsız hâle geldiği nokta. Bazı yapay zekâ girişimlerinin neredeyse bunu pazarlayacak noktaya gelmiş olması da insanların tedirginliğini artırıyor.

Stanford Internet Observatory tarafından yayınlanan "Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations" isimli rapor, yapay zekânın kötü amaçlı kullanımına kapsamlı bir şekilde bakıyor ve hem sorunun gelebileceği nokta hem de çözümler konusunda farklı senaryolar sunuyor. 

Çözüm senaryolarının önemli bir kısmı mevcut olarak tartışılan yasal düzenlemeler ve başka türde kısıtlamalardan oluşuyor. Ancak özellikle dikkat çekici olan bir çözüm önerisi, bu teknolojileri geliştirenlerin sistemlerini daha tespit edilebilir bir şekilde eğitmeleri. Yani bu yapay zekâ sistemlerinin öğrendiği veri kaynaklarına radyoaktif veri adını verdikleri kasıtlı olarak üretilmiş sahte veriler yerleştirilmesi ve bunların o sistemler tarafından üretilen içerikleri tespit amaçlı kullanılması.

Bu ekstrem senaryonun gerçekleşebilmesi için bir grup insanın bu tarz radyoaktif veriler —yani sahte bilgiler— üretip internete yayması gerekiyor, çünkü bu sistemlerin çoğu internetten rastgele toplanan veriler ile eğitiliyor. Bunu yaptıklarının kimse tarafından bilinmemesi ve bu üretimin iyi bir şekilde gizlenmesi lazım, aksi takdirde bu teknolojileri geliştirenler o verileri filtreleyebilir. Bu aynı zamanda tespit aracının da muhtemelen belirli bir kesimle paylaşılması demek, çünkü aracı kullanarak bu radyoaktif verileri tespit etmek mümkün olabilir. Fakat bu senaryoda radyoaktif verileri bilen kişilerin tespit edilemez sistemler üretebilmesi de mümkün oluyor.

Neredeyse komplo teorisi seviyesine yaklaşan bir çözüm önerisini neden yaptıklarına emin değilim. Ancak hem bu yapay zekâ teknolojileriyle üretilen yeni araçlar hem de onların risklerine karşı üretilmeye çalışılan önlemler, önümüzdeki süreçte bol miktarda bilimkurgu tadında olaylar yaşayacağımızın işareti. Kendimizi şimdiden hazırlamakta fayda var.