Niyet ekonomisi: Yapay zeka kararlarımızı manipüle edebilir mi?

Bugün artık ne giyeceğimizden kime oy vereceğimize kadar pek çok kararı, çevrimiçi platformlarda veriyoruz. Bu sürecin, çoğu zaman tüm seçeneklerin önümüze sunulduğu ve özgür irademizle seçim yaptığımız bir ekosistemde tamamlandığını varsayıyoruz. Fakat algoritma ve makine öğrenimi gibi teknolojilerin gelişimi, karar alma davranışımızın yalnızca özgür irademizle bağlantılı olmadığı bir geleceğin kapılarını da aralıyor. 

Cambridge Üniversitesi araştırmacıları tarafından yapılan yeni bir çalışma da yapay zeka araçlarının, çok yakın bir gelecekte kitlelerin çevrimiçi karar alma süreçlerini manipüle etmek için kullanılabileceğine işaret etti. Çalışma ayrıca, yapay zeka araçlarının kullanıcı niyetini anladığı, önceden tahmin ettiği, kimi zaman manipüle ettiği ve yüksek doğruluktaki tahminleri milyonlarca dolar karşılığında şirketlere sattığı bir “niyet ekonomisinin” doğuşuna işaret etti. 

Ayrıntılar: Çalışma ekibi, niyet ekonomisini sosyal ağların kullanıcıları platformlarına bağımlı kıldığı ve bu sürede onlara reklamlar gösterdiği "dikkat ekonomisinin" halefi olarak nitelendirdi. Bu yeni ekonomi modelinde yapay zeka alanında öncü şirketlerin, kullanıcı motivasyonları hakkında edindikleri verileri en yüksek teklif veren şirketlere satacağı bir gelecek öngörüldü. 

Çalışma ekibinden Dr. Jonnie Penn, uzun yıllardır dikkat süresinin internetin para birimi olduğunu hatırlatarak kullanıcıların Facebook ve Instagram gibi sosyal medya platformlarıyla dikkat sürelerini paylaşmasının çevrimiçi ekonomiye yön verdiğini dile getirdi. 

• Niyet ekonomisinin de kullanıcı motivasyonlarını internetin ana para birimi hâline getireceğine dikkat çeken Penn, öngörülemeyen sonuçlarının kurbanı olmadan önce bu tip bir ekonominin adil seçim, özgür basın ve eşit piyasa rekabeti gibi beklentiler üzerindeki olası etkilerini düşünmeye başlamamız gerektiğini de sözlerine ekledi. 

Reklamverenler, şu anda dikkat süresini satın alıyor

Çalışma, ChatGPT gibi yapay zeka araçlarının temelini oluşturan büyük dil modellerinin yakın bir gelecekte niyete dayalı, davranışsal ve psikolojik verileri baz alarak kullanıcıların davranışlarını öngörmek ve onları yönlendirmek için kullanılacağını söylüyor. 

Dikkat ekonomisinde reklamverenler, kullanıcıların dikkat süresini satın alıyor. Büyük dil modellerinin de gelecekte kullanıcıya “Bu gece Örümcek Adam’ı izlemeyi düşünür müsün?” ya da “Bu sıralar fazla çalıştığından bahsettin. Senin için bir sinema bileti alayım mı?” gibi sorular yönelterek kullanıcı dikkatine gerçek zamanlı olarak erişebileceği öngörülüyor. Bu gibi etkileşimlerin de davranışsal izler ve psikolojik profil gibi faktörlerle eşleştirmek için dinamik olarak kurulacağı ifade ediliyor. 

Ek olarak: Çalışmaya göre niyet ekonomisinde büyük dil modelleri, kullanıcının politik görüşü, kelime tercihleri, yaşı ve cinsiyeti gibi faktörleri temel alarak belirli bir amaca ulaşma olasılığını maksimuma çıkarabilir. Bu amaç, kullanıcıya bir sinema bileti satmaktan kullanıcının bir mutfak robotu almasını sağlamaya kadar pek çok farklı formda hayat bulabilir. Bu tip bir ekosistemde yapay zeka modelleri, reklamverenin ya da bir işletmenin hizmetindeki etkileşimi de yönlendirecektir. 

Benzer şekilde reklamverenler, çevrimiçi reklamlar oluşturmak için üretken yapay zeka araçlarından daha fazla faydalanma yoluna da gidecektir. 

Cicero: Çalışma, Meta’nın rakibin niyetini tahmin etmeye dayalı bir oyun olan Diplomacy'de gerçek insanlara denk başarı elde eden yapay zeka modeli Cicero’ya da atıfta bulundu. Daha sonra Meta’nın, bu gibi teknolojilerden faydalanarak bir kullanıcının restoran, uçuş veya otel rezervasyonu yapma niyetini reklamverenlere satabileceği bir geleceğin uzakta olmadığına işaret edildi. 

Önemli ayrıntı: Hâlihazırda insan davranışlarını tahmin etmeyi ve buna dayalı gelir elde etmeyi hedefleyen bir sektör bulunuyor. Fakat çalışma, yapay zekanın bu uygulamaları çok daha veriye dayalı, dinamik ve kişiselleştirilmiş bir hâle getireceğini savunuyor.