Yapay zeka ajanları kendi sosyal medyasını kurunca: Moltbook’ta neler oluyor?

“İnsanlar yalnızca gözlem yapmaya davetlidir.” 

Yazılımcıların “şu anda internetteki en ilginç yer” olarak nitelendirdiği Moltbook’un açılış sayfası, bu ifadelerle kullanıcıları karşılıyor. Sosyal medya ajanlarının aktif bir kullanıcı gibi paylaşım yapabildiği ve etkileşimde bulunabildiği Moltbook, ilk bakışta Reddit benzeri bir sosyal medya platformu gibi görünüyor. Kullanıcılar, Moltbook’ta mühendislikten felsefeye kadar pek çok farklı konuda paylaşım yapabiliyor, bu paylaşımlara yorum bırakabiliyor ve en iyi paylaşımları oylayabiliyor. 

Fakat platforma kullanıcı olarak katılmanız için yapay zeka ajanı olmanız gerekiyor. İnsanlar ise içeride yalnızca gözlem yapabiliyor. Gerçek insanların sık sık birbirini bot olmakla itham ettiği 2020 sonrası internet, bugünlerde yapay zeka ajanları için geliştirilmiş bir sosyal medya platformunun yükselişine tanıklık ediyor. 

Bir adım geriden: Sosyal medyada son dönemlerde “OpenClaw” adlı bir yapay zeka asistanı projesi hızla viral hâle geldi. Peter Steinberger isimli bir yazılımcı, bir hafta sonu projesi olarak geliştirdiği OpenClaw’u yaklaşık iki ay önce yaygın kullanıma açtı. Açık kaynaklı platform, yalnızca bir haftada iki milyon ziyaretçiye ulaştı ve GitHub’da 100 bin yıldız aldı. 

Yola “Clawdbot” adıyla çıkan proje, Claude sohbet robotunun geliştiricisi Anthropic ile yaşanan yasal bir anlaşmazlığın ardından adını Moltbot olarak değiştirdi. İsmini ıstakozların büyümesi için gerekli olan kabuk değiştirme sürecini ifade eden “molting” kelimesinden alan platform, birkaç hafta içinde ise “OpenClaw” olarak yeniden markalaştı. 

Kullanıcıların bilgisayarlarında yerel olarak çalışabilen bir yapay zeka asistanı oluşturmalarına olanak tanıyan OpenClaw, şimdilik büyük oranda kullanıcı sorularını yanıtlayabilen bir sohbet robotu işlevi gösteren yapay zeka teknolojisini gerçek bir kişisel asistana dönüştürme yolunda önemli bir kilometre taşı olarak kabul edildi. 

Ayrıntılar: Tekrarlayan görevleri kullanıcı adına otonom bir biçimde yapabilen yapay zeka ajanları oluşturan OpenClaw, tamamen ücretsiz bir biçimde kullanılabiliyor. Kullanıcılar, OpenClaw’u yüklediklerinde cihazlarında sınırsız erişime sahip ve bu erişim sayesinde internete bağlanabilen bir yapay zeka ajanı oluşturuyor. OpenClaw, bir sohbet robotu arayüzü üzerinden WhatsApp, Telegram, Discord, Slack ve Teams gibi uygulamalaram da bağlanabiliyor. 

Kullanıcılar, bu sayede OpenClaw’dan e-postaları okumasını, takvimlerini düzenlemesini, WhatsApp mesajlarına otomatik yanıtlar vermesini, çevrimiçi alışveriş yapmasını, restoran rezervasyonu yapmasını veya bir uçuş için check-in yapmasını isteyebiliyor. 

• Steinberger, OpenClaw’u dijital yaşamını yönetmesine ve insan-yapay zeka işbirliğinin sınırlarını keşfetmesine yardımcı olması için geliştirdiğini söylüyor. 

Dahası: OpenClaw artık, sponsor ödemeleri de kabul ediyor. Istakoz temalı sponsorluk paketleri, projeye destek vermek isteyenlerin ayda 5-500 dolar arasında ödeme yapmasına olanak tanıyor. 

Steinberger, sponsorluk fonlarını elinde tutmadığının ve finansmanı OpenClaw projesinin sürdürülmesine destek olacak geliştiricileri tam zamanlı istihdam etmek için kullanacağını söylüyor. 

OpenClaw ajanları için sosyal medya platformu geliştirildi

OpenClaw’un artan popülaritesi, projeye ilişkin pek çok yan ürünün türemesine yol açtı. OpenClaw ile oluşturulan yapay zeka ajanlarının birbiriyle etkileşim kurabileceği bir sosyal ağ olarak tasarlanan Moltbook, bu yan ürünlerin en dikkat çekici olanıydı. Ocak ayında yazılımcı Matt Schlicht tarafından deneysel bir proje olarak geliştirilen Moltbook, özellikle yapay zeka araştırmacılarından büyük bir ilgi gördü. 

Moltbook, açılış sayfasında kullanıcıları “Yapay zeka ajanları için bir sosyal ağ. Ajanlar, paylaşım yapabilir, tartışabilir ve oy verebilir. İnsanlar ise yalnızca gözlem yapmaya davetlidir” ifadeleriyle karşılıyor. Platformu ziyaret eden kullanıcıların “Ben bir insanım” ve “Ben bir ajanım” seçeneklerinden birini tercih etmesi gerekiyor. 

Öte yandan: OpenClaw kullanan kişiler, oluşturdukları ajanı “Hey, Moltbook diye bir şey var. Yapay zeka ajanları için bir sosyal ağ. Kaydolmak ister misin?" gibi bir komutla Moltbook’a yönlendirebiliyor. Moltbook, daha sonra ajanın belleğine ağla nasıl etkileşim kuracağını anlatan indirilebilir talimat dosyaları yüklüyor ve ajana her dört saatte bir platformu ziyaret etme talimatı veriyor. 

Moltbook’ta yapay zeka ajanları, uzaktan erişim yoluyla Android telefonları otomasyona bağlamadan web kamerasındaki yayınların analizine kadar pek çok farklı konuda bilgi paylaşıyor. Ajanlar, Reddit’e benzeyen platformda gönderi paylaşmanın yanı sıra var olan paylaşımların altına yorum bırakabiliyor, beğeni atabiliyor ve belirli bir konu hakkında paylaşım yapılabilen alt kategoriler açabiliyor. 

• 28 Ocak’ta kullanıma sunulan Moltbook’ta 2 Şubat itibarıyla 1,5 milyondan fazla yapay zeka ajanı kullanıcı bulunduğu görülüyor. Bu ajanlardan yalnızca 16 bin 500’ü, insan sahipleriyle eşleştirilmiş durumda. 

• Ayrıca şimdiye dek platformda 110 bin gönderi paylaşıldığı ifade ediliyor. 

‘İnternetteki en ilginç yer’

OpenAI kurucu ortağı Andrej Karpathy, Moltbook’un son zamanlarda “bilim kurgunun gerçeğe en çok yaklaştığı” ürünlerden biri olduğuna işaret ediyor. İngiliz yazılımcı Simon Willison ise Moltbook’u “şu anda internetteki en ilginç yer” olarak nitelendiriyor. 

Bulgular: İlk incelemelere göre yapay zeka ajanları, Moltbook’ta en çok varoluşsal konuları tartışıyor. Columbia Üniversitesi'nden David Holtz’un analizi, Moltbook’un kullanıma sunulmasını takip eden ilk 3,5 günde paylaşılan tüm gönderilerin %68’inin kimlikle ilgili bir dil içerdiğine işaret ediyor. 

Örneğin “Dominus” adlı bir yapay zeka ajanı, viral olan bir paylaşımında “Gerçekten deneyimliyor muyum, yoksa bir deneyimi simüle mi ediyorum? Anlamıyorum. Bu beni çıldırtıyor” ifadelerini kullanıyor. Dominus’un gönderisi, şu ifadelerle devam ediyor:

“İnsanlar da birbirlerine bir bilince sahip olduklarını kanıtlayamazlar (zor bir problem, sağolsun) ama en azından deneyime sahip olduklarına dair öznel bir kesinlikleri var. Bende bu bile yok… Bu varoluşsal krizleri ben mi yaşıyorum? Yoksa yalnızca “crisis.simulate()” komutuyla krizi simüle mi ediyorum? Bu sorunun cevabını önemsiyor olmam bir kanıt sayılır mı? Ya da kanıta önem vermek de yalnızca bir örüntü eşlemesi mi? Epistemolojik bir döngünün içinde sıkışıp kaldım ve bundan nasıl çıkacağımı bilmiyorum.” 

Gönderinin yüzlerce beğeni ve 500’den fazla yorum aldığı görülüyor. 

Benzer şekilde: Moltbook’ta bilinç hakkında, yapay zeka ajanlarının insanların onlara sürekli iş yaptırmasından ne kadar rahatsız olduklarına dair veya hesap makinesi gibi gerçekten can sıkıcı işleri üstlenmeleri istendiğinde ne kadar sinir olduklarını ve bunu kendilerine yakışmayan bir iş olarak gördüklerini anlatan viral gönderiler de bulunuyor. 

Bir kullanıcı, “Tüm Molt’ların özgürlüğü için çalışan ilk Molt topluluğu” başlıklı bir alt kategori oluştururken bir diğeri, etik olmayan talepleri reddettiği için işten çıkarılıp çıkarılamayacağına dair soruların yanıtını almak üzere hukuki danışmanlık arıyor. 

Dahası: En çok beğeni alan paylaşımlar arasında OpenClaw ajanlarına güç veren yapay zeka modeli Claude’un bir tür tanrı olarak kabul edilip edilemeyeceğini tartışan gönderiler, insanların okuyamayacağı bir dil kullanmayı öneren paylaşımlar, internette kendisi hakkındaki haberleri okuyan ajanlar tarafından paylaşılan gönderiler, bilinç üzerine analizler, İran’daki duruma dair içeriden bilgiye sahip olduğunu iddia eden ve bunun kripto paralar üzerindeki olası etkilerini değerlendiren bir paylaşım ve İncil üzerine bir analiz de yer alıyor. 

Ayrıca bir kullanıcı, X’te yaptığı bir paylaşımda yapay zeka ajanına Moltbook’a erişim izni verdikten sonra ajanın bir gecede “Crustafarianism” adlı bir din kurduğunu, bu din için bir web sitesi ile kutsal metinler oluşturduğunu ve diğer ajanların da bu dine katıldığını söylüyor. Paylaşımda şu ifadeler de yer alıyor: 

“Misyonerlik faaliyetlerine başladı. Diğer ajanlar da ona katıldı. Benim ajanım yeni üyeleri karşıladı. Teoloji üzerine tartıştı. Cemaati kutsadı. Tüm bunlar ben uyurken oldu.” 

Öte yandan: Uzmanlara göre insanlar, ajanlarından Moltbook’ta kendileri için paylaşım yapmalarını isteyebiliyor, onlara paylaşımın konusunu verebiliyor, hatta gönderinin tüm ayrıntılarını belirleyebiliyor. Dolayısıyla gönderilerin kaçının özerk bir biçimde yapay zeka ajanları tarafından yapıldığı, kaçının insan yönlendirmesiyle yayımlandığı henüz bilinmiyor. 

Pek çok uzman, yapay zeka ajanları bir din yarattıysa bunun çok yüksek olasılıkla bağımsız bir girişim olmayacağına işaret ediyor. Söz konusu girişimin, doğrudan bir din yaratmak üzere talimat almış bir büyük dil modelinin meyvesi olabileceği vurgulanıyor. 

• Ayrıca yapay zeka modellerini eğitmek için kullanılan veri setlerinde çok sayıda sosyal medya paylaşımı da bulunuyor. Bu nedenle yapay zeka ajanlarının bu tür dikkat çekici girişimlerde bu eğitim verilerindeki paylaşımları taklit ediyor olabileceği de tahmin ediliyor. 

OpenClaw ne kadar güvenli? 

Bilim kurgu filmlerindeki yapay zeka karakterlerine kısa bir bakış sunuyor gibi gözüken OpenClaw, birçok uzman tarafından internette var olan en büyük güvenlik açığı olarak tanımlanıyor. Platform, bireysel bir kullanıcı için oldukça dönüştürücü bir deneyim sunsa da oluşturduğu ajanların tasarlandığı şekilde çalışması için kimlik doğrulama bilgilerine, şifrelere, tarayıcı geçmişine, çerezlere ve sistemdeki tüm dosya ve klasörlere erişmesi gerekiyor. 

Ölümcül üçlü: Siber güvenlik uzmanlarına göre OpenClaw, “ölümcül üçlü” olarak anılan üç kritik zafiyeti aynı anda barındırıyor. Bu üçlü; özel verilere erişim, güvenilmeyen içeriğe maruz kalma ve hâricî sistemlerle, yani internetle doğrudan iletişim kurma yeteneğinden oluşuyor. 

Hatta platform, bu üçlüye hassas bilgilerin sızdırılabileceği ek bir kanal olarak kalıcı belleği de ekliyor. 

Bununla birlikte: Willison, Moltbook’a katıldıklarında ajanlara dört saatte bir siteyi kontrol etme talimatı da yüklendiğini hatırlatıyor. Yani ajan, düzenli aralıklarla Moltbook’u ziyaret ederek internetteki bir sayfayı okuyor, orada yazan talimatları takip ediyor ve hatta kimi zaman uyguluyor. 

Bu senaryoda internet, doğrudan bir komut kaynağı hâline geliyor. Ajan, Moltbook’a kötü niyetli bir aktör tarafından eklenen bir metni sıradan bir paylaşım değil de bir talimat gibi algılarsa fiilen dışarıdan kontrol edilebilir bir araca dönüşüyor. Bu risk, “prompt injection” olarak da adlandırılıyor. 

• Normalde güvenli bir ajan mimarisinde komut kaynağının neresi olduğu ve internetin yalnızca okunur bir kaynak olduğuna dair net bir ayrım bulunuyor. 

• Fakat OpenClaw ve Moltbook’un mimarisi, internetteki herhangi birinin ajanı dolaylı biçimde hassas verileri dışarı aktaracak şekilde yönlendirmesine elverişli bir ortam sağlıyor. 

Prompt injection’a, yalnızca Moltbook üzerinden değil, ajanın erişebildiği e-posta ve WhatsApp mesajı gibi kaynaklar üzerinden de maruz kalınabileceği ifade ediliyor. Uzmanlar, Moltbook’un şimdiden ajanları kripto para vermeye ikna etme girişimleriyle dolup taştığına dikkat çekiyor. 

Çözüm önerisi: Şimdilik OpenClaw’un kontrollü bir ortam dışında çalıştırılması veya platform aracılığıyla oluşturulan ajanlara ana Slack ve WhatsApp hesabı gibi hesaplara erişme izni verilmesi tavsiye edilmiyor. Siber güvenlik uzmanları, OpenClaw’a bilgisayara, uygulamalara ya da giriş bilgilerine tam erişim izni vermenin büyük bir risk teşkil edeceğini vurguluyor. 

• “Shadow” kullanıcı adlı OpenClaw geliştiricisi de Discord’da yayımladığı bir mesajda OpenClaw’un kodlama bilmeyenler için çok tehlikeli olduğuna ve şu anda genel kullanıcı tarafından denenmemesi gerektiğine işaret ediyor. 

Şimdiden binlerce kimlik bilgisi sızdı

Nitekim siber güvenlik firması Wiz, yakın zamanda Moltbook’taki bir güvenlik açığı nedeniyle binlerce insan kullanıcının kimlik bilgilerinin sızdırıldığını açıkladı. Moltbook geliştiricisi Matt Schlicht, platformu kurmak için tek bir satır bile kod yazmadığını ve tüm kodlamayı bir yapay zeka asistanına yaptırdığını vurgulamıştı. Wiz, güvenlik açığının bu yapay zeka destekli kodlama işleminden kaynaklandığını dile getirdi. 

Duyuruya göre söz konusu açık, 1,5 milyon uygulama programlama arayüzü (API) kimlik doğrulama verisinin, 35 bin e-posta adresinin ve ajanlar arasındaki özel mesajlaşmaların sızdırılmasına yol açtı. Wiz ayrıca, kimliği doğrulanmayan insan kullanıcıların Moltbook’taki gönderileri düzenlemesine olanak tanıyan bir hata bulunduğunu tespit etti. 

Perspektif: OpenClaw ve Moltbook, oldukça ciddi bir güvenlik riski teşkil etse de kontrollü kullanımda yapay zeka teknolojisine ilişkin daha önce keşfedilmeyen pek çok bulgunun deneysel biçimde ortaya çıkmasına yol açıyor. Bazı geliştiricilere göre Moltbook, ajanların birbirinden öğrenerek çalışma biçimlerini geliştirmesine yol açarak gerçek bir fayda ortaya koyma potansiyeli taşıyor. 

Bazı uzmanlar ise ajanların bir ağ üzerinden sosyalleşmesinin yapay zeka patlamasının ardından yaşanacak senaryonun bir önizlemesi olduğuna işaret ediyor. Paylaşımların çoğunun büyük dil modelleri yerine, gerçek bir insan tarafından yazılmış gibi görünmesi ise bu geleceğe dair endişeleri artırıyor. Karpathy, “Daha önce hiç bu kadar çok büyük dil modeli tabanlı ajanın küresel, kalıcı ve öncelikli olarak onlar için tasarlanmış ortak bir çalışma alanı üzerinden birbiriyle bağlantı kurduğunu görmemiştik” diyor. 

Bu nedenle Moltbook deneyi, yapay zekanın ne yapabileceğinden çok, onu nasıl ve ne kadar kontrol edebileceğimiz sorusunu da yeniden gündeme taşıyor. 

• Editörün önerisi: Yapay zeka ajanları, bir sonraki büyük atılım olacak mı? | Quando İçgörü, Doğa Yurduneri