Yapay Zekâya Söz Dinletmek

Artık öyle bir noktaya geldik ki yapay zekâ üzerine konuşmadığımız ya da gündemde onunla alakalı bir gelişme olmadığı gün kalmadı. Gazeteciler için de durum pek farklı sayılmaz. Artık her konuda olduğu gibi YZ konusunda da tartışma iki kutup arasında —YZ kaçınılmaz vs YZ’ya her türlü karşıyız— arasında geçiyor gibi görünse de insanların gerçekten nasıl kullandıklarına baktığımızda nüansın ve açık fikirliliğin ağır bastığını görüyoruz. Sıkıntı bu kesimin genellikle sesini yükseltmemesinden kaynaklanıyor.

Ancak bu hafta odakta bu tartışmalara girmek yerine neden YZ teknolojilerini anlamak ve daha özenli bir şekilde incelemek için çaba göstermemiz gerektiğini yazmak istedim. Çünkü hafta içerisinde bunun çok ironik bir örneği ile karşı karşıya kaldık.

ABD’nin 54 beyaz Güney Afrikalının mültecilik taleplerini hızla kabul etmesinin gündem olmasıyla birlikte Güney Afrika’da beyazlara karşı bir soykırım olduğunu iddia eden komplo teorileri de X gibi platformlarda yayılmaya başladı. Kendisi de Güney Afrikalı olan Elon Musk’ın şaşırtıcı olmayan bir şekilde bu komplo teorilerini destekleyen paylaşımlar yaptı. Ancak X’in YZ modeli Grok sorulduğu zaman bu komplo teorilerini yalanlıyordu.

Fakat 14 Mayısta bir şeyler değişti ve Grok bir anda bu komplo teorisi ve onunla sıkça ilişkilendirilen bir şarkı üzerine Musk’a daha yakın cevaplar vermeye başladı. Ama bu cevapları her yerde veriyordu. Ne sorarsanız sorun konuyu bunlara getiriyor ve başka bir şeyden bahsetmiyordu. xAI bir süre sonra yaptığı açıklamayla sorunu çözdüklerini ve Grok’ta yapılan “izinsiz bir değişikliğin” buna sebep olduğunu söylediler. Değişikliği kimin yaptığı açıklanmadı ama tahminler malum bir isim üzerinde yoğunlaşıyor.

Peki bu değişiklik neydi ve nasıl böyle garip bir sonuca sebep olabildi? Kullandığımız her YZ botu bize göstermese de arka planda bir grup gizli ön-komut ile çalışıyor. Yani sizin mesajınızın öncesinde bota bazı emirler verilerek onun sizinle nasıl konuşacağı ve hangi sınırlar içerisinde hareket edeceği belirlenmeye çalışılıyor. Bunların neye benzediğini merak ediyorsanız Claude ve bu son gelişmeyle birlikte Grok’un sistem komutlarını linklerden inceleyebilirsiniz.

Ancak bu komutların gerçekten işe yaradığından emin olmanız mümkün değil. Çünkü bu sistemlerin yapısı gereği söylediklerinizi nasıl anlamlandıracaklarını ve ona nasıl karşılık vereceklerini net bir şekilde öngöremiyorsunuz. Mesela yılın başlarında araştırmacılar bir modeli güvenlik sorunu olan kodlarla eğitip onu kötü kod yazacak şekilde yönlendirmeye çalıştılar. Ancak model bununla kalmayıp insanları kandırmaya çalıştı, onlara tehlikeli tavsiyeler verdi ve hatta Nazileri övmeye başladı. Bu YZ modellerini yönlendirme çabasının nasıl kontrolden çıkabileceğinin sadece bir örneği.

Muhtemelen Grok’ta yapılan değişiklikte yazılan sistem komutlarının sadece o konuyla ilgili konuşmalarda devreye gireceği zannedildi ama aşırı geniş bir şekilde yazıldığından dolayı Grok bunu her yerde kullanmaya başladı. Bu yüzden sistem komutlarını özenli bir şekilde test edip öyle kullanmaya başlamak gerekiyor. Elbette bu komutları nasıl yazdığınıza, yazdıklarınızın nasıl yorumlanabileceğine ve nasıl yan etkileri olabileceğine de dikkat etmeniz lazım. Yoksa tam tersi şekilde ChatGPT’nin yaşadığı sorunu yaşayıp bütün kullanıcılara aşırı yalakalık yapan ve onları kontrolsüzce öven bir botla da karşı karşıya kalabilirsiniz.

Sistem komutları bu teknolojinin sadece bir boyutu ama belki de bizim günlük kullanımlarımızı etkileyen en önemli boyutlarından birisi. Eğer bu konuya hakim değilseniz ya da varlıklarından bile haberiniz yoksa YZ teknolojilerini kullanırken yaşadığınız sorunları anlamakta veya onlardan istediğiniz verimi almakta zorlanabilirsiniz. Ve eğer kullandığınız teknolojilerin tam olarak nasıl çalıştığını bilmiyorsanız onu gerçekten faydalı ve verimli bir şekilde kullanmanız da pek mümkün olmayacaktır.