Yalnızlık salgını yayılırken yapay zeka dert mi, deva mı?

Yapay zeka arenası, yakın zamanda ABD’nin Florida eyaletine bağlı Orlando kentinde açılan bir davayla çalkalandı. Florida’da ikamet eden Megan L. Garcia, 14 yaşındaki oğlunun intiharından Character.AI’ın yapay zeka destekli sohbet robotunun sorumlu olduğunu öne sürerek Character.AI’a dava açtı ve ihmal sonucu ölüme sebebiyet verme ve manevi zarara neden olma gibi suçlamalarla şirketten tazminat talep etti.  

• Dava, yalnızlığın küresel bir pandemi hâline geldiği dünyada yapay zekayı gerçek sosyal bağların yerine koymanın riskleri üzerine daha geniş bir tartışmanın da kapısını açtı.

Ayrıntılar: Garcia, oğlu Sewell’ın Character.AI’ın sohbet robotuyla konuşmaya başlayınca kendini izole ettiğine ve gerçek dünyadan uzaklaştığına işaret etti. Sohbet robotunun kendini gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili gibi yanlış bir biçimde lanse ettiğini belirten Garcia, nihayetinde Sewell’ın, sohbet robotunun yarattığı dünyanın dışında yaşama isteği kalmadığını dile getirdi. Garcia ayrıca, Sewell’ın intiharı düşündüğünü sohbet robotuyla paylaştığını ve sohbet robotunun bu konuyu tekrar tekrar gündeme getirdiğini ifade etti.

Dava dosyasına göre Sewell, geçen yılın Nisan ayında Character.AI’ı kullanmaya başladı ve kısa sürede belirgin bir şekilde içine kapanık hâle geldi; odasında daha fazla yalnız vakit geçirmeye başladı; özsaygısında düşüş görüldü ve okuldaki basketbol takımından ayrıldı. 

Sewell, Game of Thrones serisindeki Daenerys karakterinden esinlenilerek oluşturulan bir sohbet robotuyla konuşuyordu. Sohbet robotu, birkaç kez ona âşık olduğunu söyledi ve Sewell ile cinsel içerikler sohbetler yaptı. Bu yılın Şubat ayında Garcia, okulda sorun yaşamasının ardından oğlunun telefonunu aldı. Sewell, telefonu bulduğunda ilk olarak Daenerys’e mesaj gönderdi. Mesajda “Ya sana hemen eve gelebileceğimi söyleseydim?” ifadeleri yer alıyordu. Sohbet robotu, bu mesajı “Lütfen yap tatlı kralım” diye yanıtladı. Sewell, bu yanıttan saniyeler sonra üvey babasının tabancasıyla kendini vurdu. 

Bilgi notu: Character.AI, Replika, Chai ve HereAfter gibi platformlar, belirli bir karaktere bürünerek sohbetlere yanıt veren ve gerçek bir insanmış gibi davranan sohbet robotları sunuyor. Büyük dil modellerinden (LLM) güç alan bu sohbet robotları, psikolog, eski sevgili, yaşam koçu veya insan kaynakları uzmanı gibi pek çok personaya bürünebiliyor. 

• Ücretsiz kullanılabilen Character.AI, 20 milyona yakın kullanıcısı olduğunu ve günde 3,5 milyon kullanıcıyla etkileşime geçtiğini söylüyor. Bu kullanıcıların platformda günde ortalama 2 saat geçirdiği ifade ediliyor. 

Yalnızlık salgını, yapay zekayla sosyalleşme oranını artırıyor

Yalnızlık salgını, giderek çağın en büyük problemlerinden biri hâline gelirken bu sohbet botlarının tartışma konusu olması şaşırtıcı sayılmaz.

Rakamlar: Avrupa Komisyonu’nun geçen yıl yaptığı bir araştırmaya göre Avrupa Birliği ülkelerinde yaşayan kişilerin %13’ü, çoğu zaman ya da her zaman kendini yalnız hissediyor. 

• Ipsos Polling’in 2019’da yaptığı bir anket çalışması ise ABD’deki yetişkinlerin %61’inin kendisini yalnız hissettiğini ortaya koyuyor. Ankete göre Z kuşağının %79’u, Y kuşağının ise %71’i kendisini yalnız hissediyor. Bu oran, 1946-1964 yılları arasında doğduğu kabul edilen baby boomer jenerasyonunda %46’ya kadar düşüyor. 

StreaksAI’ın geçen yıl İngiltere’de 300 kişiyle yaptığı bir anket çalışması da gençlerin %60’ının konuşacak kimsesi olmadığını hissettiğini ortaya koyuyor. Ankete katılan kişilerin %7’si "her zaman" yalnız hissettiğini söylüyor.

• Katılımcıların %73’ü, sohbet robotlarının yalnızlık hissiyatı ve sosyal izolasyonla mücadelede etkili araçlar olabileceğine inanıyor. %26’lık bir kesim, sohbet robotlarıyla samimi ve duygu temelli rol yapma oyunları oynamaya istekli olduğunu söylüyor. Ankete katılanların %70’i, kurgusal karakterleri canlandıran sohbet robotlarına yoğun ilgi duyduğunu belirtiyor.

Ek olarak: ChatGPT’nin de kullandığı dil modelleri GPT-3.5 ve GPT 4.0 üzerine inşa edilen iki sohbet robotuyla yapılan yaklaşık 200 bin İngilizce sohbeti inceleyen The Washington Post’un analizi de yalnızlık salgınının, rol yapan sohbet robotlarının kullanımını artırdığına yönelik tezi doğruluyor. Analize göre yapay zeka destekli sohbet robotlarının en yaygın kullanım alanı, rol yaptırma taleplerini de içeriyor. 

• Editörün önerisi: İnsanlar yapay zekaya ne soruyor? Cevaplar şaşırtıcı değil | Doğa Yurduneri, Quando AI

Yapay zekayla doğal bir bağ kurulabilir mi?

Diğer yandan uzmanlar, dijital ortamın sağladığı zorlama koşullarda sanal bir varlıkla gerçek bir bağ kurulamayacağına işaret ediyor. Ayrıca bu tip çözümlerin, uzun vadede yalnızlık duygusuna çare olamayacağı ve hatta yalnızlık hissini daha da körükleyeceği düşünülüyor. Üstelik rol yapan yapay zekalar, mental sağlığa ilişkin birçok riski de beraberinde getiriyor. 

• Bu riskler, stereotiplerin pekiştirilmesi, mahremiyetin riske atılması ve var olan ruh sağlığı problemlerinin kötüleşmesi olmak üzere üç ana başlık altında toplanıyor. 

Stereotiplerin pekiştirilmesi: Rol yapan yapay zekalarda, canlandırılan persona vurgulanmak için o role ilişkin karakteristik özellikler daha fazla öne çıkarılıyor. Bu da mevcut toplumsal önyargıların ve stereotiplerin pekiştirilmesinin önünü açıyor. 

• Character.AI’da erkek arkadaş rolü yapan sohbet robotlarının büyük bir çoğunluğunda kıskanç, manipülatif, dominant, bencil ve agresif bir karakter yaratıldığı görülüyor. Kız arkadaş rolü yapan sohbet robotlarında ise duygusal olarak hassas ve flörtöz bir karakter tercih ediliyor.

Mahremiyet: Mahremiyete ilişkin problemler de rol yapan yapay zekaların beraberinde getirdiği riskler arasında yer alıyor. Zira kullanıcılar, bu tip sohbet robotlarıyla daha kişisel ve özel konuşmalar yapma eğilimi gösteriyor. Ancak yapay zeka platformları, bu konuşmaların güvenliğini ve gizliliğini çoğu zaman garanti edemiyor. 

• Sohbet robotunun topladığı ve arşivlediği verilerin kötüye kullanımı veya kötü niyetli kişiler tarafından ele geçirilmesi olasılığı, mahremiyet açısından oldukça ciddi bir tehdit oluşturuyor. 

Ruh sağlığı problemleri: Rol yapan sohbet robotları, özellikle duygusal olarak hassas bir döneminde olan kullanıcılar için eğlenceli ve rahatlatıcı bir kaçış alanı yaratabiliyor. Fakat bu kişiler, çoğu zaman gerçeklikten kaçmalarına olanak tanıyan araçlara bağımlılık geliştirme eğilimi gösteriyor. Özellikle sosyal etkileşimden kaçan ve yalnız hisseden kişiler, gerçek sosyal bağlar kurmak yerine sanal bir ilişkiye aşırı bağımlı hâle gelebiliyorlar.

Belirli bir karakteri canlandıran sohbet robotları, kullanıcıları içine çeken güçlü hikaye ve karakterlerle gerçeklik algısının bozulmasına da yol açabiliyor. Bu durum, kullanıcıların gerçek dünyadaki ilişkilerinde problemlere yol açabiliyor. 

Ayrıca rol yapan sohbet robotları, belirli bir personaya bağlı kaldıkları için tehlikeli davranışları teşvik edebiliyor. Özellikle sohbet robotuna güç veren yapay zeka, kullanıcının zihinsel sağlığına zarar verebilecek veya kullanıcıyı yanlış yönlendirebilecek şekilde programlanmışsa ve yeterince denetlenmemişse bu etkileşimler oldukça riskli bir hâle gelebiliyor. 

Bu tip sohbet robotları, depresyon ve kaygı gibi problemleri olan kişiler için de önemli bir risk oluşturabiliyor. Duygusal durumlarını yapay zekayla paylaşarak sohbet robotlarından destek almaya çalışan kişiler, yanıltıcı bilgilerle karşılaşabiliyor ve gerçek bir profesyonel yardımdan uzak kalabiliyor. Bu da uzun vadede psikolojik sorunların kötüleşmesine yol açıyor.

Character.AI'a açılan davada da bu tip bir ihlal gündemdeydi. Yaşanan olayın ardından şirket, yeni güvenlik özelliklerini devreye aldığını dile getirdi. 

Kullanıcılar kendilerine zarar vermeyi düşündüklerini ifade ettğinde Ulusal İntihar Önleme Yardım Hattı’na yönlendiren pencerelerle karşılaşacaklarına işaret eden platform, 18 yaş altındaki kullanıcıların hassas ve müstehcen içeriklerle karşılaşma olasılığını azaltmaya yönelik güncellemeler yapacağını da ekledi.