Yapay Zekânın Bağlam İhtiyacı

Yapay zekâ alanında hiç beklemediğimiz kadar hızlı bir şekilde seviye atladığımız ve buna bağlı olarak kullanımının da giderek yaygınlaştığı bir dönemden geçiyoruz. Buna rağmen bu teknolojinin en kritik sorunlarından birisine hâlâ çözüm bulamadık: halüsinasyonlar, yani modellerin yanlış bilgi vermesi veya tamamen olmayan şeyler uydurması.

Yeni gelen her modelde halüsinasyonlar giderek azalıyor —eski modellerde halüsinasyon oranı yüzde 7–8’i rahatça görürken güncel modellerin çoğunda bu oran yüzde 1’e ve hatta daha da altına düşüyor— fakat bu tamamen ortadan kalktıkları anlamına gelmiyor. ChatGPT’nin başındaki isim olan Nick Turley de yakın zamanda bunun sıfıra ineceğini düşünmüyor. 

Bunun ana sebebi ise modellerin geliştirilme şekli. Bu modellerin genel kullanımda işe yaramasının ve çoğu işin altından öyle ya da böyle kalkabilmesinin sebebi çok geniş ve genel bir veri kaynağıyla eğitilmeleri. Ancak bu durumun getirdiği artılar kullanıcının beklediği uzmanlık seviyesi veya alanın nişliği arttıkça eksiye dönebiliyor. Modelin spesifik alanlardan yeterli veriyle eğitilmemiş olması veya yeterince sınırlandırılmamış olması bir anlamda onu “kafasına göre takılmaya” itiyor. Bunun üzerine bu modellerin bir de karşısındakini sürekli memnun etmeye ve bir cevap vermeye odaklanarak eğitildiğini eklediğimizde, karşımıza sırf cevap verebilmek için cevap veren bir teknoloji çıkıyor.

Zaman içerisinde bunu tamamen ortadan kaldırmak veya en aza indirmek mümkün olabilir ama şu anda bu teknolojileri kullanırken halüsinasyonlarla olabildiğince az uğraşmak istiyorsanız kendiniz çözüm üretmeniz gerekiyor. Burada başvurabileceğiniz en etkili yollardan birisi onları sağlam bir temele oturtmak ve bir bağlam içerisinde çalışmalarını sağlamak.

Bunu yapmanın en etkili yollarından birisi retrieval augmented generation (bilgi çekme ile güçlendirilmiş üretim) yaklaşımı. Bu yaklaşım ile kullandığınız YZ modelinin size cevap üretirken belirlediğiniz bilgi kaynakları ve araçları kullanmasını ve bunları temel alarak cevabını şekillendirmesini sağlıyorsunuz. Böylece model sadece kendi eğitim verilerinden öğrendiklerine bağlı kalmak yerine sizin verdiğiniz kaynakların üzerine çalışıyor. 

Google’ın NotebookLM aracı bunun en bilindik örneklerinden birisi. Aynı zamanda Financial Times’ın AskFT botu gibi birçok medya kurumunun geliştirdiği YZ temelli araç da bu yaklaşımı benimsiyor. Özellikle gazetecilik alanında hem gazeteciler hem de haber tüketicileri için bu yaklaşımın çok faydalı olacağını düşünüyorum. Çünkü böyle bir yaklaşımla her iki tarafın da ihtiyaçlarını en iyi şekilde karşılarken halüsinasyon oranını neredeyse tamamen ortadan kaldırmak mümkün.

Eğer bunu daha bireysel bir seviyede yapmak ve YZ aracınızı daha sağlam bir temele oturtmak istiyorsanız birçok büyük model bunu kısmen yapmanızı sağlayacak özellikler sunuyor. Örneğin ChatGPT’nin Projeler özelliği ile o proje içerisinde yaptığınız bütün sohbetlerin sizin yüklediğiniz belgeleri ve komutları temel almasını sağlayabiliyorsunuz. NotebookLM de sadece özel not defterlerine yüklediğiniz belge, video ve linkleri temel alarak çalışıyor.

Diğer yandan YZ’nın en büyük vaatlerinden birisi olan kişisel asistanlık özelliğini işe yarar bir şekilde gerçekleştirmesi için de bu tür bir temellendirmeye ihtiyaç olduğu ortada. Google’ın Gemini ile size dair birçok bilgiye erişebilmesi, OpenAI’ın Google ve Github hesaplarınızı bağlamanıza veya Claude’un birçok farklı uygulama ile bağlantı kurmanıza imkan vermesi gibi özellikleri yakın zamanda daha çok göreceğimizden şüphem yok. Çünkü bu temellendirmeyi en iyi şekilde yapabilmeleri için size dair daha fazla şey bilmeleri gerekiyor, bu da muhtemelen YZ şirketleri arasında bir erişim rekabetini başlatacak. Şu anda Google ve Apple sahip oldukları cihaz ve işletim sistemi ağından dolayı bu alandaki en avantajlı iki aktör gibi görünüyor.

Eğer şu sıralar YZ temelli bir proje geliştirmeyi planlıyorsanız ya da işlerinizi yaparken daha faydalı olmalarını istiyorsanız kullandığınız araçları ve modelleri olabildiğince iyi temellendirmeniz lazım. YZ şirketleri de bunun farkında olduğu için her yeni güncelleme ile birlikte bunu yapmamızı kolaylaştıracak yeni özellikler ekliyor. Her ne kadar bunların faydası yüksek olsa da siz yine de her aldığınız cevaba yüzde yüz güvenmeyin ve doğruluğunu kontrol etmeyi unutmayın, özellikle de ciddi bir iş için kullanıyorsanız.