Robottan çocuk bakıcısı olur mu?

Yazı: Albert Ali Salah

Çocuğunuzu bir robota emanet eder misiniz? Evet derseniz hangi sebeplerle? Hayır derseniz sizi ne düşündürür, ne durdurur?

Birkaç hafta önce Utrecht Üniversitesi’nde öğrencimiz Anouk Neerincx doktora tezini savundu. Tez konusu, bakıcı sosyal robotların çocukların zihinsel sağlığına yapabileceği katkılar üzerineydi. Savunma sırasında tam da bu sorular ortaya atıldı.

“Sosyal robot” dendiğinde, karşısındakiyle iletişim kurabilen, konuşma ya da beden diliyle bir şeyler ifade edebilen, iletişim sırasında sizi izleyerek duygu durumunuzu, söylediklerinizi ya da komutlarınızı anlayıp buna göre tepki veren robotları kastediyoruz. Özellikle nüfusu hızla yaşlanan Japonya gibi ülkelerde, bakım ihtiyaçlarını daha mütevazı bütçelerle karşılayabilmek için bu alana büyük yatırımlar yapılıyor. 

Sosyal robotlar ve çocuk bakımı: Yeni bir dönem mi?

Avrupa’da da sosyal robotlar bir süredir gündemde. Üstelik bu robotlar yalnızca yaşlılarla değil, çocuklarla ilgili uygulamalarda da etkileyici sonuçlar veriyor. Amaç, çocuklarla oynayan bu robotların çocuğun ilgi, dikkat, bıkkınlık ya da öfke gibi duygu durumlarını doğru tespit ederek kendi davranışlarını buna göre ayarlayabilmesi.

Pek çok kullanıcı için, robotun nasıl davrandığı kadar nasıl göründüğü de önemli bir faktör. Örneğin, bundan birkaç sene önce bir bakımevinde yaptığımız bir çalışmada robotların bakımevi sakinlerine egzersiz yaptırmak için kullanılıp kullanılamayacağını araştırıyorduk. Küçük insansı robotumuz egzersizleri önce kendisi yaparak gösteriyor, sonra da nasıl yapıldığını izleyerek "Çok güzel yapıyorsunuz, böyle devam edin" veya "Kollarınızı lütfen biraz daha havaya kaldırın" gibi yorumlar ve yönlendirmeler yapıyordu. 

Kullanıcılara sistemi beğenip beğenmediklerini sorduğumuzda, bazıları uygulamayı faydalı buldu. Ama bazıları da “Bu robot çok çocuksu, ben bunu kullanmam” diyerek olumsuz görüş bildirdi. Yani robotun ne yaptırdığı kadar, nasıl bir tipe sahip olduğu da kullanıcı açısından belirleyici olabiliyor.

Güven veren teknolojiler

Star Wars filmlerinden birinde doğuma giren “ebe robot”u hatırlayanlarınız olacaktır. Yumuşak hatlara sahip, sempatik ve pastel renklerde tasarlanmış bu robot; sakin ses tonuyla güven veren bir görüntüye sahipti. Yerden yaklaşık yarım metre yukarıda uçtuğu için henüz sahip olmadığımız bir teknolojiyi temsil ediyordu. 

 ^{Star Wars filmindeki ebe robot} 

Benzer tasarım teknikleri bugün kullanılan teknolojilerde de karşımıza çıkıyor. Örneğin Philips'in çocuklar için tasarladığı MRI makinesi yuvarlak hatları ve tatlı ışıklarıyla güven veriyor. 

• Aynı zamanda "Ellie'nin MRI Yolculuğu" isimli bir cep telefonu uygulaması da 4-8 yaş çocukların MRI taramasına girerken yaşayabileceği kaygıyı azaltmayı amaçlıyor. 

^{Philips'in BlueSeal MRI cihazı. Disney ile ortak bir pilot projede çocukların kaygılarını azaltmak için çocuğun seçtiği görsellerin projeksiyonu denenmiş.}

Anouk Neerincx'in doktora tezi de robot teknolojilerinin, etkileşim sırasında duyulacak kaygıyı azaltacak ve çocuğa güven verecek şekilde tasarlanması konusunu üzerineydi. Örneğin robot, aşı olacak bir çocuğu klinikte karşılayabilir; çeşitli aktivitelerle çocuğun duygu durumunu hem izleyebilir hem de onu sakinleştirmeye çalışabilirdi. Tez çalışması, robotun duygusal ifadeleri, konuşma biçimi ve davranışları dikkatle seçildiğinde, çocuğun robota güven duymasının mümkün olduğunu ortaya koyuyordu. Dahası, hangi tasarım prensiplerinin çocuğa güven vereceğini ve çocuğun robotun sorduğu sorulara doğru cevaplar vermesini sağlayacağını tartışıyordu.

İlginç bir tezdi ve başarıyla sunuldu. Ama yine de, benim içime bir kurt düşmedi değil. Diyelim ki bir robotu gerçekten de “güven duyulacak bir teknoloji” hâline getirmeyi başardık. Peki bu güvenin kötüye kullanılması mümkün değil mi?

Bu konuda çalışan araştırmacılara ya da bilim insanlarına bu soruyu sorarsanız, alacağınız cevap bellidir: “Teknolojiyi dikkatli kullanmalıyız; etik ve ahlaki açıdan özenli davranmalı, hukuksal düzenlemelere uyan, kişisel veriyi koruyan ve kimseye zarar vermeyen sistemler geliştirmeliyiz.” 

Üniversitelerin etik komisyonları da bu ilkeleri vadeden projelerimizi genellikle kolayca onaylar. Çünkü bizim kontrolümüzde, bu sistemlerin gerçekten de bu şekilde kullanılacağından kimsenin şüphesi yoktur.

Ancak teknolojiyi geliştiren bilim insanlarıyla onu uygulamaya koyanlar çoğu zaman aynı kişiler değil. Kimi zaman büyük şirketler, kimi zaman da politikacılar, kendi görüşleri ya da çıkarları doğrultusunda bir teknolojiyi kullanıma sokabiliyor. Üstelik bu durum her zaman atom bombasının atılması gibi dramatik örneklerle karşımıza çıkmıyor. 

• Bazen teknolojiler, küçük etkilerin zaman içinde birikmesiyle fark edilmeden ama kalıcı ve yaygın biçimde başka çıkarlara hizmet eder hâle geliyor.

X’ten ders almak: Dijital alanın sahibi kim?

Yakın zamanda X platformunda yaşananlar, bunun nasıl yaşanabileceğini bize net bir şekilde gösterdi. Elon Musk’ın Twitter’ı satın alması ve sonra da X’e dönüştürmesi platformun siyasi olarak da savrulmasıyla sonuçlandı. İçerik paylaşımı, artık sahibinin siyasi söylemleri ve çıkarları doğrultusunda yeniden düzenlenmeye başladı: Bazı sesler kısıldı, bazıları ise ön plana çıkarıldı. 

• Peki, Twitter’ı geliştiren araştırmacı ve programcılar, bir gün bunların olabileceğini düşünmüş müydü? Politik gücü elinde tutanların denetim mekanizmaları zayıfladığında teknolojiyi de sonuna kadar kullanacağı aşikar değil mi?

Bir an için 2. Dünya Savaşı sırasında Hollanda'da yaşadığınızı hayal edin. Eğer o dönemde her evde çocuklarla konuşan robot oyuncaklar olsaydı… Ve bu robotların üreticisi şirket devletten alacağı ihaleler uğruna Nazilerle işbirliği yapmaya hazır olsaydı… Acaba bu robotlar 4-5 yaşındaki çocuklara "Evde küçük bir Yahudi kızı saklıyor musunuz?" diye sorar mıydı? 

^{Truus van Lier'in heykeli}

Hollanda'da yaşadığım ve her gün küçük direnişçi Truus van Lier'in heykelinin önünden geçtiğim için doktora savunması sırasında benim aklıma gelen ilk soru tam da buydu. 1943'te, henüz 22 yaşındayken bir toplama kampında öldürülen van Lier, Utrecht'te doğup büyümüş, Nazilere karşı öğrenci direnişinde aktif yer almış bir kahramandı. Peki, çocuklara fayda sağlasın diye iyi niyetle geliştirilen bir robot teknolojisi, bir gün gelip ev sakinlerinin politik tutumlarını izlemek için kullanılabilir mi? Ya bugün evlerimize girmiş olan Alexa, Siri gibi teknolojiler? Sürekli bizi dinleyen, öğrenen, veri toplayan sistemler? 

• Her şey bir tasarımla başlıyor. Ama nasıl bittiği, her zaman tasarlayanların kontrolünde olmayabiliyor.

Teknolojinin baskı ve kontrol aracı olarak kullanılma riski, elbette yalnızca robotlarla sınırlı değil. Farklı teknolojiler de tasarımlarıyla “daha güvenilir”, “daha insana yakın”, “daha faydalı” hâle getirilerek hayatımıza giriyor. Ama bir kez bu sistemler gündelik yaşamımıza yerleştiğinde, kötüye kullanılmalarının da önü açılmış oluyor. 

Cep telefonları ve güvenlik kameralarıyla insanları takip etmek, banka teknolojileri üzerinden bir kişinin tüm maddi varlıklarını bir anda dondurmak ya da el koymak ve televizyon ve sosyal medya aracılığıyla geniş kitleleri propagandaya ya da endoktrinasyona maruz bırakmak… Bunların hepsi, teknolojiyle kuşatılmış bir toplum olarak farkında olmamız gereken ciddi riskler.

Çocuklar, yapay zeka ve yeni nesil etkileşimler

"Akıllı teknolojiler" mevcut risklere yenilerini ekliyor ve çok hızlı yayılıyor. Mart ayında üniversitemin "Profesörlerle Buluşma" etkinliği için bir ilkokulu ziyaret ettim ve yaptığımız araştırmalarla ilgili bir sunum yaptım. Bu etkinlikte Utrecht Üniversitesi'nden 100'ün üzerinde profesör, bisikletlerine atlayıp şehrin dört bir tarafındaki ilkokulları ziyaret ediyor ve “Üniversite nedir, araştırma nasıl yapılır” gibi konular etrafında öğrencilerle etkileşimli dersler yapıyor. 

Ben de bu vesileyle ziyaret ettiğim okuldaki 10-11 yaş aralığındaki öğrencilere ChatGPT gibi teknolojileri kullanıp kullanmadıklarını sordum. ChatGPT gibi sohbet yazılımları, milyonlarca yazılı kaynağı tarayıp özümsemiş büyük dil modellerine dayanıyor (örneğin ChatGPT, temel olarak GPT-4 modelini kullanıyor). Bu sistemler, pek çok konuda bilgi sahibi bir insan gibi davranabiliyor; siz bir şey soruyorsunuz, onlar da anında kapsamlı cevaplar veriyorlar. Sorduğum çocukların neredeyse tamamı ödev yaparken bu tür sitelerden yardım aldıklarını söylediler. 

Çocuklarımızı ve geleceğimizi nasıl koruyacağız?

İşte size gündelik hayata çoktan girmiş ve çocuğunuza “akıl veren” bir teknoloji... Eğer bir gün bu gibi uygulamaları pazarlayan şirketler politik amaçlarla yönlendirilirse belli görüş açılarını ve doktrinleri kullanıcılarına kabul ettirmek için mükemmel araçlara dönüşebilirler. 

Stanford Üniversitesi'nin geliştirdiği bir şeffaflık endeksi, şu anda yaygın olarak kullanılan büyük dil modellerinin ne ölçüde şeffaf olduklarını farklı boyutlarda değerlendirmeye çalışıyor: Hangi verilerle eğitildiler? Model parametreleri açık mı? Ne yapabiliyorlar, ne yapamıyorlar? Hangi riskleri taşıyorlar? Ancak bu modellerin sürekli değiştiğini düşündüğümüzde, bu şekilde bir izlemenin gerçekten yeterli olup olmayacağı tartışmalı. 

Genel seçimden iki gün önce yapılacak ince bir müdahalenin veya bir gizli reklam anlaşması ile azıcık değiştirilecek sonuçların şeffaflık endekslerine net bir şekilde yansımasını beklemek saflık olur.

Bu teknolojilerin hepsini hayatımızdan çıkartmalıyız demiyorum, elbette pek çok faydaları var. Bugün internette arama motorları olmadan gezinmek mümkün mü? Ama unutmamak gerekir ki arama motorları da temelinde bir yapay zeka sistemi ve aynı şekilde politik saiklerle yönlendirilebilir. Mesela seçim öncesi bir aday hakkında ağırlıklı olumsuz içerikli sayfalar getirmesi sağlanabilir yahut bir halk hareketi ile ilgili bütün paylaşımlar sessizce silinebilir. 

Bu yüzden özellikle çocukların maruz kaldığı teknolojik riskleri bilmek, hem onları hem de ebeveynlerini bilinçlendirmek kritik önem taşıyor. Henüz yapay zeka sistemlerinin geniş ölçekli risklerini düzenleyen, yaygın kabul görmüş bir hukuksal ya da etik çerçeve mevcut değil. Farklı ülkelerde farklı düzenlemeler yapılıyor; kimisi daha gevşek, kimisi daha özenli ve kapsamlı. 

Ama eğer bir ülkede siyasetçilerin ve partilerin denetlenmesi zorlaşmışsa, hukuksuz davranışları için hesap vermeleri sağlanamıyorsa, bu teknolojilerin kötüye kullanımı da çok daha kolay hâle gelir.