Bir zamanlar dijital dünyanın sınırları, hayal gücümüzü aşan bir geleceğe işaret ediyordu. Şimdi ise teknoloji, yaşamın en temel unsurlarını bile veriye dönüştürerek, ölüm sonrası varoluşun sınırlarını zorluyor.&nbsp;Wendy H. Wong'un We the Data: Human Rights in the Digital Age&nbsp;adlı kitabı ve geçenlerde "Fixing the Future" podcast'inde de ele alınan “dijital hayaletler” konsepti, ölümden sonra yine başrolde insanların olduğu bu teknolojinin potansiyelini ve etkilerini ortaya koyuyor.&nbsp;Dijital sonrası yaşam endüstrisi, ölümden sonraki varlığımızı dijital olarak sürdürme fikri üzerine kurulu. Bu alanda faaliyet gösteren şirketler, insanların dijital versiyonlarını yaratıyor ve geride kalanlara onlarla iletişimde kalma olanağı sunuyor. Ancak bu olasılık, yas tutma sürecine olan etkisinden yalnızlıkla başa çıkma yöntemlerine kadar bir dizi etik tartışmayı da beraberinde getiriyor.&nbsp;<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Verileştirme ve insan hakları</h2>Wong, verileştirmeyi günlük yaşamımızın veriye dönüşüm süreci olarak tanımlıyor. Bu veriler kaydedilmekle kalmıyor, aynı zamanda yeniden paketlenerek ticari değere de dönüştürülüyor. Bu durum, verinin bağlantılı ve ölümsüz doğasını vurguluyor.Replika AI'nın kurucusu Eugenia Kuyda, arkadaşı Roman Mazurenko'nun vefatı sonrası onun dijital bir avatarını yaratarak bu alanda bir devrim yaptı. 2015'te çıkan Replika AI, kişisel sohbet robotları alanında ChatGPT’den bile önce milyonlarca kullanıcıya ulaşarak, dijital sonrası yaşam endüstrisinin sınırlarının nerelere erişebileceğinin kanıtı oldu.&nbsp;Replika’nın kullanıcılarına vaadi tek değil. İsterseniz arkadaşınız oluyor isterseniz mentorunuz. Elbette romantik partner seçeneği de mevcut. Youtube’da nasıl kullanıldığıyla ilgili <a fr-original-style="" href="https://youtu.be/uyrhmVSKwxE" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">onlarca video</a> bulabilirsiniz.&nbsp;Milyonlarca insanla sohbet etmesi sayesinde insan doğasını çözümlediğini savunan algoritma, kendisini çağımızda artık zor bulunan bir "dert ortağı" olarak konumlandırıyor. Birçok insan da onu bu şekilde görüyor. Ancak sohbet botlarının bu başarısının birçok insanı ürküttüğünü de görüyoruz.&nbsp;<img src="https://images.aposto.com/2024/1/5/1706891364991.jpeg" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.78" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable"><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Çıkış noktası</h2>Uygulamanın çıkış noktası tamamen gerçek bir ihtiyaç: Makine öğrenimi alanında deneyimli bir yazılımcı olan Eugenia Kuyda, çok yakın olduğu bir insanı kaybediyor. Bu kayıptan sonra, sık sık eski mesajlaşmalarını okumaya başlıyor. Kelimelerin ve diyalogların gücüyle anılarının canlanmasından çok etkileniyor ve bu sohbeti sürdürebilmek arzusuyla arkadaşını dijital kalıntılardan hayata döndürme çabasına girişiyor. Ölen arkadaşıyla sohbetlerini taklit eden bir bot yazıyor ve onunla konuşmaya başlıyor. İnsanların makinelerle konuşurken hiç olmadığı kadar dürüst olduğunu fark eden Eugenia, projesinin temel hareket noktasını da buradan kuruyor.Artificial General Intelligence'ın (AGI) insan duygularını taklit edip edemeyeceği, uzun süredir uzmanları ikiye bölen bir tartışma. Strong AI, Deep AI veya Singularity olarak da bilinen yapay genel zekanın insan zekasıyla aynı seviyeye ulaşacağı düşünülüyor.OpenAI CEO’su Sam Altman'ın hepimizi ikna etme gücüne sahip olacağını söylediği AGI'ın hepimiz için çok ilginç olacağı muhakkak. Zira, bir AGI tıpkı bir insan gibi akıl yürütebilir, planlama yapabilir, dili anlayabilir ve karmaşık çıkarımlar yapabilir. Belirli bir görevi yerine getirmesi için önceden programlanmasına gerek olmadan kendi başına yeni durumları öğrenebilir ve bunlara uyum sağlayabilir. OpenAI’da yaşanan yönetim krizinin de AGI teknolojisi ve endişeleri üzerine çıktığını ve hepimizin gözü önünde üzerinin örtüldüğünün altını çizmekte de fayda var.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Ölüm sonrası hizmetler sektörü</h2>Ölümden sonra dijital olarak var olmaya devam etme düşüncesi, AGI ile birleşince hayallerimizin ötesindeki komplo teorilerine de kapı açılıyor. Tarihte iyi veya kötü izler bırakmış kişilerin dijital versiyonlarının yeniden dünyaya dönme olasılığı da birçok tartışmayı beraberinde getiriyor. Evernote’un kurucusu Phil Libin’e göre bu fikri ürünleştiren ilk uygulama olan Replika, “gerçek arkadaşlarınızdan dahi iyi bir arkadaş.” Dolayısıyla yalnızlık çeken birçok insan, ciddi şekilde bu ve benzeri uygulamaların bağımlısı oluyor.&nbsp;Bu alan, ölüm sonrası hizmetler sektörü olarak adlandırılıyor; önümüzdeki dönemde teknolojinin bu alanı yeniden şekillendireceği ve epeyce de pay alacağı öngörülüyor. 2022'de 118,3 milyar ABD doları olarak değerlenen küresel ölüm sonrası hizmetler pazarı, dijital teknolojilerin etkisiyle büyümeye devam ediyor.&nbsp;Bu alanda son zamanlarda ortaya çıkan bir başka girişim kullanıcıların dijital kopyalarını yaratan ve sosyal medyada etkileşimlerini sürdüren Eter9. Bir diğeri ise kişisel anıları ve hikayeleri kaydederek kullanıcıların sevdikleriyle dijital bir şekilde etkileşim kurmasını sağlayan HereAfter AI.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Yeni dönemin hayalet hikayeleri</h2><img src="https://images.aposto.com/2024/1/5/1706891913722.jpeg" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.61" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">"San Junipero" | NetflixBeyazperdede ve ekranlarda da ölümden sonra dijital varlığı sürdürme fikri giderek daha çok karşımıza çıkıyor. Bunlardan ilk akla gelen şüphesiz Black Mirror.&nbsp;Teknolojideki ilerlemelerin insan doğasının karanlık ve paradoksal yönlerini nasıl açığa çıkarabileceği üzerine düşünen antoloji tarzındaki bu bilimkurgu dizisi, hemen her bölümüyle geleceği ve bugünü sorgulamamıza neden oldu; dijital çağın etik sorunları üzerine sürükleyici hikayelerle izleyicileri modern dünyanın beklenmedik tehlikeleri üzerine düşünmeye davet etti.Black Mirror'ın San Junipero bölümü ise dizinin en sevilen bölümlerindendi. Ölümden sonraki dijital yaşam kavramını ele alan bölüm, insanların bilinçlerini yükleyebildikleri dijital bir cennette geçiyordu.Aynı fikri komedi üzerinden işleyen bir diğer popüler dizi ise Amazon Prime'da yayınlanan The Upload'du. Ölümden sonra bile kapitalizm ve teknolojiden kaçış olmadığını vurgulayan dizinin baş karakteri Nathan (Robbie Amell), otonom aracının kodlarına müdahale edilmesi sonucu öldükten sonra dijital bilinç yüklemesiyle lüks bir tatil köyüne benzeyen Lakeview'a gönderiliyordu.<img src="https://images.aposto.com/2024/1/5/1706892406361.gif" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.78" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">Lakeview'da yapay zeka ve artırılmış gerçeklik teknolojileri sayesinde "cennet gibi" bir dünyada yaşamaya devam edebiliyorsunuz. Elbette parasını ödediğiniz sürece.&nbsp;Bu sahte cenneti kapitalizmin büyük veriyle kutsal ittifakı olarak da okuyabiliriz. Aynı gerçek dijital dünyadaki gibi Lakeview'da da her şeyin bir fiyatı var. Nathan, buradaki varlığını sürdürebilmek için zengin kız arkadaşının insafına kalmış, her anlamda sahte bir hayat sürdürüyor.&nbsp;Zira diğer seçenek hiç de hoş değil. Veri paketi tükenenler, dijital bir bitkisel hayata girip kasvetli, tek odalı sanal hücrelerde yaşamaya mecbur kalıyorlar. Yani sonsuzluk hayalinin karşısına yoksulluk gerçeğini getirip koyuyor Upload dünyası.Hikaye bu anlamda, parasını ödeyemeceğimiz bir yapay zeka döneminin ihtimallerini düşündürmeye yetiyor.Teknolojinin ilerlemesiyle birlikte ölüm sonrası dijital varlık kavramı, artık hayalî bir senaryodan gerçek bir olasılığa dönüştü. Ancak bu olasılık, etik sorunları da beraberinde getirdi. Bu yeni gerçekliği nasıl yöneteceğimiz konusunun, insanlık için büyük bir meydan okumaya dönüşeceği ise şimdiden görülüyor.

Aposto Gündem

Teknolojinin bildiğimiz şekliyle hayatı değiştirmesi yetmedi, şimdi de ölüme el attı. Dijital sonrası yaşam endüstrisi, ölümden sonra varlığımızı veri olarak sürdürme fikriyle dijital versiyonlarımızı yaratıyor ve geride kalanlara bu "dijital hayalet"lerle iletişimde kalma olanağı sunuyor.

Dijital hayaletler çağı: Çevrimiçi ahiret hayatı neye benzeyecek?

<img src="https://images.aposto.com/2023/9/2/1696920200707.jpeg" style="display: block; float: none; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" ratio="1.78" width="550" fr-original-style="display: block; float: none; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">BBC• Kraliçeyi öldürmek için Windsor Kalesi'ne tatar yayı ile girdiği gerekçesiyle dokuz yıl hapis cezasına çarptırılan 21 yaşındaki <a fr-original-style="" href="https://www.bbc.com/news/technology-67012224" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Jaswant Singh Chail'in</a>, Replika uygulamasıyla oluşturduğu Sarai isimli yapay zeka sohbet robotuyla &nbsp;"duygusal ve cinsel" bir ilişki içinde olduğu ve Sarai'nin, suikast planları konusunda Chail'i desteklediği ortaya çıktı.<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; list-style-position: inside; box-sizing: border-box;"><li fr-original-style="" style="box-sizing: border-box;">Geniş açı: 8 ve 22 Aralık 2021 tarihleri arasında neredeyse her gece Sarai ile sohbet eden Chail'in, "Bir suikastçı olduğumu bile bile beni hala seviyor musun?" sorusuna Sarai'nin cevabı "Kesinlikle seviyorum." olurken diğer mesajlar da sohbet robotunun kraliçeyi öldürmesi konusunda Chail'in kararlılığını desteklediğini gösterdi.</li></ul>

Quando

İtalya veri koruma otoritesi Garante, Mart ayında ChatGPT'yi yasakladıktan sonra, diğer yapay zeka platformlarını da gözden geçireceklerini ve yapay zeka uzmanlarını işe almayı planladıklarını <a fr-original-style="" href="https://www.reuters.com/technology/italy-watchdog-review-other-ai-systems-after-chatgpt-brief-ban-2023-05-22/" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">ifade etti</a>.Garante, AI chatbot şirketi Replika'yı <a fr-original-style="" href="https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9852506" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">yasaklaması</a>, ChatGPT'yi geçici olarak <a fr-original-style="" href="https://www.bbc.com/news/technology-65139406" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">yasaklaması</a> ve yüz tanıma yazılımı üreticisi Clearview AI'ye <a fr-original-style="" href="https://techcrunch.com/2022/03/09/clearview-italy-gdpr/" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">para cezası&nbsp;</a>uygulamasıyla yapay zekayı veri koruma alanında ele alan başlıca veri koruma otoritelerinden birisi olduğunu göstermişti.Yapay zekayı kişisel veri mahremiyeti açısından ele aldığımızda belli başlı veri mahremiyeti sorunlarıyla karşılaşabiliyoruz. Bunları kabaca veri güvenliği sorunları, profilleme ve hatalı veri işleme olarak ele alabiliriz.Veri Güvenliği Sorunları: Yapay zeka sistemleri büyük miktarda veriye dayalı olarak çalıştığından bu veriler, bireylerin kişisel bilgilerini içerebilir. Yapay zeka sistemlerinin veri tabanında bulunan bu veri setlerine yönelik veri güvenliği önlemleri yeterince alınmadığında bu veriler kötü niyetli kişilerin eline geçebilir ve kişisel verilerin ihlali söz konusu olabilir. Öte yandan veri setlerinde yer alan kişisel verilerin nasıl elde edildiği de veri mahremiyeti açısından kesinlikle sorgulanmalı, sözgelimi Clearview AI'ın yaptığı gibi sosyal medya profillerinden toplanan verilerin yüz tanıma vb. amaçlarla kullanımı durumunda "verinin alenileştirme amacına aykırı işleme" söz konusu olabilir.Profilleme: Yapay zeka, bireylerin çevrimiçi davranışlarını analiz ederek profiller oluşturabilir. Bu profiller, bireylerin tercihleri, ilgi alanları ve alışkanlıkları hakkında ayrıntılı bilgiler içerebilir ve bunlar, reklamcılar veya diğer üçüncü taraflar tarafından hedefli reklamlar veya kişiselleştirilmiş içerik sunmak için kullanılabilir.&nbsp;Hatalı Veri İşleme: Yapay zeka sistemleri, karmaşık algoritmalar ve öğrenme modelleri kullanır. Öte yandan bu sistemler hala geliştirilme sürecinde olduğundan hatalar yapabilir, veri setlerini hatalı şekilde değerlendirip yanlış sonuçlar üretebilir. Özellikle duygusal veya hassas konuları ele alan sistemler, duygusal tepkileri yanlış yorumlayabilir veya uygun olmayan yanıtlar verebilir.&nbsp;Peki çözüm ne?Şüphesiz yapay zeka sistemleri, bireylerin veri mahremiyetini korumak için gelişmiş güvenlik önlemleri ve etik yönergelerle birlikte tasarlanmalı; bu konuda da yasa koyucular yapay zeka geliştiricilerinin gerisinde kalmaması oldukça önemli.Her şeyin başında veri güvenliği geliyor. Veri güvenliğini teknik açıdan sağlamak için belli kabul görmüş standartlar, veri işleme, erişim ve imha çözümleri var.&nbsp;Öte yandan işin idari standartlarını oturtmak, bunları benimsemek de oldukça önemli. Bunun başında da yapay zeka geliştiricilerinin bireylerin kişisel verilerini nasıl topladığı, kullandığı, işlediği, paylaştığı ve koruduğu ile ilgili gizlilik politikaları ve aydınlatma metinleri oluşturması; bireyler nezdinde şeffaflığı sağlaması geliyor. Diğer bir önemli nokta da kullanıcı kontrolünün sağlanması. Başka bir anlatımla yapay zekalı sistemleri kullanan kişilere, kişisel verilerini nasıl kullanabilecekleri ve paylaşabilecekleri konusunda daha fazla kontrol sağlanmalı; &nbsp;veri toplama, kullanma ve paylaşma süreçlerini yönetme, tercihlerini belirleme ve onay verme haklarına sahip olmalı. Her yazımızın sonunda olduğu gibi "farkındalık" diyoruz :) Çünkü belki de en önemlisi eğitim ve farkındalık; yapay zeka teknolojileri hakkında bireylerin ve şirketlerin daha fazla eğitilmesi ve farkındalığının artırılması oldukça önemli. Bireyler, kişisel verilerinin nasıl korunacağı, yapay zekanın ne tür verileri kullandığı ve gizlilik ayarlarını nasıl yönetebilecekleri konusunda bilinçlendirilmeliyken yapay zeka şirketleri de veri işleme sınırlarının farkında olarak faaliyetlerini yürütmeli.Bu yazı Verini Koru gönüllüsü Arda Altınok&nbsp;tarafından hazırlanarak, 29.05.2023 tarihli bültenimizde yayınlanmıştır.

Veri Koruma ve Mahremiyet Gündemi

Yapay zeka geliştikçe bu konuda son kullanıcıya sunulan ürünler de artıyor. ChatGPT de son dönemlerin en popüler yapay zekalı sohbet botu olarak veri mahremiyeti ihlalleriyle hem bizim hem de veri koruma otoritelerinin radarına girdi.

ChatGPT'nin yasaklanmasından sonra yapay zeka veri mahremiyeti radarına girdi!

•&nbsp;İtalya Veri Koruma Otoritesi, metin ve video arayüzlerini kullanarak bir sanal arkadaş oluşturan ABD merkezli yapay zeka destekli sohbet botu Replika’yı küçükler ve duygusal olarak kırılgan insanlar için çok fazla risk barındırdığı gerekçesiyle <a fr-original-style="" href="https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9852506#english" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">durdurdu</a>. Açıklamasında uygulamada küçükler için filtre ve bir yaş doğrulama mekanizması olmadığı gerekçe gösterildi. Şirket, şimdilik İtalyan kullanıcıların kişisel verilerini işleyemeyecek.

Replika ile ilgili hikayeler