AI pazaryerlerinin yükselişi: Tek öncü model dönemi sona mı eriyor?

Yapay zeka arenasında rekabet, uzun yıllardır aynı hedef etrafında şekilleniyor. Şirketler, sürekli olarak daha güçlü, daha hızlı ve daha yetenekli modeller geliştirmek üzere birbiriyle rekabet ediyor. OpenAI, Google ve Anthropic gibi teknoloji devleri, bu yarışta öne çıkmak için milyarlarca dolar harcama yaparken piyasaya sürülen model sayısı da dur durak bilmeden artıyor. 

Fakat seçeneklerin çoğalması, şirketler ve geliştiriciler için yeni bir ihtiyacı da beraberinde getiriyor. Artık her görev için en yüksek performansı sunan modeli kullanmak yerine, ihtiyaca ve bütçeye en uygun modeli bulmak gerekiyor. Maliyet tasarrufu için de giderek önem kazanan bu tercih, tüketici konumundaki şirketleri farklı modeller arasında seçim yapabilecekleri platformlara yönlendiriyor. Bu durum, yapay zeka pazaryerleri için de bir büyüme alanı yaratıyor. 

Geniş açı: Ortak bir hesap birimi kullanmak, yüzyıllardır insanlık için bir anlam ifade ediyor. Para yaygın olarak kullanılmaya başlamadan önce bile insanlar, nesnelerin değerini hesaplamak için standart hesap birimleri geliştirmeye çalışıyordu. Örneğin Homeros'un İlyada destanında bronzdan veya altından yapılmış zırhların değeri, öküz sayısıyla ifade ediliyordu. Bronz bir zırh dokuz, altın bir zırh ise 100 öküz değerindeydi. 

Benzer şekilde hayvan kürkleri, devasa taşlar ve tuz yığınları da tarih boyunca bir hesap birimi olarak kullanıldı.

Yakın plan: Bugün artık yapay zeka dünyasının da kendine özgü bir hesap birimi bulunuyor: Token. Genellikle dört karakterden oluşan kısa metin parçalarını ifade eden token'lar, bir yapay zeka modelinin okuduğu veya yanıt olarak ürettiği metni temsil ediyor. 

• Büyük dil modellerinde token, yapay zekanın dili anlamak için metinleri böldüğü en küçük anlamsal birime işaret ediyor. Modeller, kelimelerin tamamını bir bütün olarak okumuyor; bunun yerine metinleri hecelere, harflere veya kelime köklerine ayırıyor. Token sayısı arttıkça işlenen veri miktarı ve kullanım maliyeti de yükseliyor.

Fakat token’lar, öküzler veya hayvan kürkleri kadar kolay bir hesaplama pratiği sunmuyor. Zira belirli bir görevin kaç token gerektireceğini önceden kesin olarak hesaplamak mümkün olmuyor. Üstelik model geliştiricileri, token başına birbirinden oldukça farklı ücretler talep ediyor. 

Örneğin: Çin merkezli yapay zeka girişimi DeepSeek'in sunduğu popüler bir modelin token başına fiyatı, ABD merkezli Anthropic'in geliştirdiği yeni nesil bir modelin fiyatının yaklaşık 40’ta 1’ine denk geliyor.

Yapay zeka araçlarını kullanan şirketler için bu durum, ciddi bir bütçe sorunu yaratıyor. Kimi zaman bir modelden faturaları işlemesini veya bir dosyayı özetlemesini istemek gibi basit bir görev, oldukça yüksek bir maliyet yaratabiliyor. Bazı şirketler, bu tür beklenmedik harcamaların önüne geçmek için çalışanlarının kullanabileceği token miktarına sınır getiriyor. Ancak bu da verimliliği olumsuz etkileyebiliyor. 

Yeni bir pazarın doğuşu 

Bu ikilem, “yapay zeka pazaryeri” olarak anılan yeni bir iş modelinin doğmasına da zemin hazırlıyor. 2023’te kurulan OpenRouter, bu pazaryerlerinin en tanınmış örnekleri arasında yer alıyor. Kurucu ortak Alex Atallah, şirketi kurmadan önce OpenAI'ın piyasaya hakim olduğu ve kazananın her şeyi aldığı bir pazarın ortaya çıkıp çıkmayacağı tartışması üzerine kafa yorduğunu söylüyor. Bu tip bir sonuçtan şüphe duyan Atallah, pazaryerlerinin yapay zeka sektöründe merkezî bir rol oynayacağı neticesine vardığına işaret ediyor.

Ayrıntılar: OpenRouter, müşterilerinin dijital araçları kullanırken farklı yapay zeka modelleri arasında kolayca geçiş yapmasına olanak tanıyor. Örneğin kullanıcı, OpenRouter altyapısı sayesinde Anthropic'in Claude modeli kullanılamadığında OpenAI'ın modellerinden birine geçiş yapabiliyor. Benzer şekilde bir yapay zeka şirketi, daha uygun token fiyatları sunduğunda da model değiştirilebiliyor. 

OpenRouter, platformu üzerinden yönlendirilen kullanımlar için komisyon alıyor. 

• Şirketin iş modelinin başarıya ulaşmasının ardından Stripe’ın, bu yılın Ağustos ayında henüz üç yaşındaki OpenRouter'ı 7,5 milyar dolara satın almak üzere anlaşmaya vardığı biliniyor. 

Geniş açı: Elbette OpenRouter, alandaki tek oyuncu değil. Büyük bulut bilişim altyapısı sağlayıcıları da benzer hizmetler sunuyor. 

Örneğin Amazon, Bedrock platformu üzerinden farklı yapay zeka modellerine erişim sağlıyor ve bu hizmetleri mevcut bulut hizmeti sözleşmeleri kapsamında ücretlendiriyor. Aynı zamanda Google da Vertex AI üzerinden benzer bir hizmet sunuyor. 

Öte yandan: Pek çok müşteri, bu hizmetlere şüpheyle yaklaşıyor. Zira kullanıcılar, kendi yapay zeka modellerini geliştiren ve sektörün öncü yapay zeka şirketlerine yatırım yapan bulut bilişim devlerinin tarafsızlığına güvenmekte zorlanıyor. 

Rekabetin ölçütü değişiyor

ChatGPT'nin piyasaya sürülmesinin ardından pek çok yapay zeka şirketi, “benchmaxxing” olarak adlandırılan bir yaklaşıma yöneldi. Bu yaklaşım kapsamında şirketler, pek çok ülkede öğrencilerin üniversitelere başvurmak için girdiği SAT gibi standart sınavlarda yüksek puanlar elde eden, ancak gerçek dünyadaki gündelik görevlerde zorlanan modeller geliştirdi. 

Bu dönemde OpenRouter, geliştiricilerin çok sayıda farklı yapay zeka modelini denemesine ve hangisinin daha iyi performans gösterdiğini hızlıca değerlendirmesine olanak tanıyan bir platform olarak ün kazandı. Üstelik standart performans testlerinden farklı olarak OpenRouter'da modellerin başarısını kullanıcıların gerçek tercihleri belirliyordu. Müşterilerin hangi modellere para harcadığı, hangi modellerin daha fazla tercih edildiğini ortaya koyarak daha adil bir karşılaştırma imkanı sunuyordu.

Son dönemde ise şirketler, OpenRouter'ı maliyetlerini kontrol altında tutmak için kullanmaya başladı. Nitekim platformdaki token tüketiminde Çin merkezli DeepSeek, Z.ai ve Xiaomi'nin sunduğu düşük maliyetli modeller öne çıktı. Bununla birlikte OpenAI'ın modellerinden biri de platformda yüksek kullanım oranlarına ulaştı.

Anlamı: Bu tablo, yapay zeka sektöründe rekabetin dinamiklerinin değiştiğini de ortaya koyuyor. Bugüne kadar yapay zeka yarışında en güçlü modeli kimin geliştireceği konuşulurken model sayısının artması ve fiyat farklılıkları, şirketler için yeni bir öncelik ortaya çıkıyor. Artık her zaman en güçlü modeli kullanmak yerine, doğru iş için doğru modeli seçebilmek rekabet avantajı hâline geliyor. 

Her görev için en güçlü modele ihtiyaç var mı?

OpenRouter kurucu ortağı Atallah'a göre pek çok şirket, token kullanımında hâlâ yeterince bilinçli hareket etmiyor. Atallah, kurumsal müşterilerine görevleri ne kadar karmaşık olduklarına ve belirsizlik içerdiklerine bağlı olarak düşük, orta ve yüksek olmak üzere üç kategoriye ayırmalarını öneriyor. 

Örneğin: Bir kodu hangi modelin incelemesi gerektiğine karar vermek gibi düşük karmaşıklıktaki görevlerde genellikle daha düşük maliyetli modeller yeterli oluyor. Kodun incelenmesi gibi orta karmaşıklıktaki pek çok görev de düşük maliyetli modellere bırakılabiliyor. 

Sıfırdan kod yazmak gibi karmaşıklığı yüksek görevlerde ise çoğu zaman sektörün en gelişmiş modellerinden yararlanmak gerekiyor. 

• Atallah'a göre şirketlerin en sık yaptığı hatalardan biri, görevleri karmaşıklık düzeylerine göre ayrıştırmamak ve tüm görevlere aynı şekilde yaklaşmak oluyor. Bu tip bir yaklaşım, şirketlerin gereksiz yere büyük miktarda para harcamasına yol açıyor. 

Perspektif: Yapay zeka modellerinin sayısı artmaya, yetenekleri ve fiyatları farklılık göstermeye devam ettikçe, yapay zeka pazaryerlerinin önemi de artıyor. Üstelik bu platformlar, tek bir modele veya geliştiriciye bağlı kalmadan çok sayıda seçeneği biraraya getirerek standart yapay zeka şirketlerine göre büyük bir avantaj elde ediyor.

Bu nedenle yapay zeka pazaryerleri, hangi şirketin veya modelin öne çıktığından bağımsız olarak iş modelini sürdürebiliyor. Analistler, yapay zeka yarışının kazananları zaman içinde değişse de modelleri biraraya getiren platformların sektördeki yerini korumaya ve büyümeye devam edeceğine inanıyor. 

• Editörün önerisi: Verimlilik miti: AI gerçekten maliyet tasarrufu sağlıyor mu? | Quando, Doğa Yurduneri