‘Teknolojik Cumhuriyet’ manifestosu: Palantir'in gelecek vizyonu neden tepki çekti?

Bir sohbet robotunun hayatımızı kolaylaştırması, onu geliştiren şirketlerin gelecek planlarına onay verdiğimiz anlamına mı geliyor? Yapay zeka, insanın yerini almak için mi, yoksa insanın kapasitesini genişletmek için mi geliştiriliyor? Nobel ödüllü ekonomist Daron Acemoğlu’nun son dönemdeki açıklamaları bu sorulara odaklanıyor.

Televizyonda sunucuların “50 milyon bizi izliyor” dediği günlerden herkesin kendisi için üretilmiş başka bir içerik akışında yaşadığı "yankı odaları" dünyasına geldik. Sosyal medya ortak metni parçaladı, üretken yapay zeka ise kişiselleştirmeyi başka bir aşamaya taşıdı. Peki bu ortamda kitle iletişimi tamamen öldü mü? Belki de buradaki asıl krizi erişimin azalması değil, ortak gerçekliği kuran sistemlerin giderek daha az hesap verebilir hâle gelmesi olarak okumalıyız.

Kanada’da bir okul saldırganının ChatGPT hesabının sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlendiğinin ortaya çıkması, sohbet botlarının kullanıcılarını ne ölçüde izlemesi ve hangi noktada yetkililere bildirmesi gerektiği tartışmasını büyüttü. British Columbia’nın OpenAI’a karşı açtığı dava, mahremiyet ile güvenlik arasındaki sınırın nerede çizileceğini tartışmaya açarken Türkiye’de okul saldırıları sonrası alınan önlemler benzer bir sorunun başka bir yüzünü gösteriyor.

Yapay zekanın insanlığı yok edeceğine dair felaket senaryoları, genellikle kontrolden çıkan süper zekalara ve “katil robotlara” odaklanıyor. Oysa uzmanların daha olası gördüğü risklerin çoğunda yapay zeka tek başına hareket etmiyor. Özellikle beş olası senaryo, kontrol zincirini geri dönüşü olmayacak şekilde kırma potansiyeli taşıyor.

Yapay zeka patlamasının da etkisiyle artık ürünlerin pazarlama materyallerinde sürekli aynı kelimeler tekrarlanıyor: Ajan tabanlı, AI destekli, kurumsal düzeyde, akıllı, uçtan uca, yeni nesil, ekosistem… Yıllar önce pazarlama ekiplerinin temel problemi, insanların üründen haberdar olmasını sağlamakken bugün bunun önünde çok daha kritik bir problem yer alıyor: İnsanların ürünün ne olduğunu anlamasını sağlamak.