ChatGPT'nin yasaklanmasından sonra yapay zeka veri mahremiyeti radarına girdi!

İtalya veri koruma otoritesi Garante, Mart ayında ChatGPT'yi yasakladıktan sonra, diğer yapay zeka platformlarını da gözden geçireceklerini ve yapay zeka uzmanlarını işe almayı planladıklarını ifade etti.

Garante, AI chatbot şirketi Replika'yı yasaklaması, ChatGPT'yi geçici olarak yasaklaması ve yüz tanıma yazılımı üreticisi Clearview AI'ye para cezası uygulamasıyla yapay zekayı veri koruma alanında ele alan başlıca veri koruma otoritelerinden birisi olduğunu göstermişti.

Yapay zekayı kişisel veri mahremiyeti açısından ele aldığımızda belli başlı veri mahremiyeti sorunlarıyla karşılaşabiliyoruz. Bunları kabaca veri güvenliği sorunları, profilleme ve hatalı veri işleme olarak ele alabiliriz.

Veri Güvenliği Sorunları: Yapay zeka sistemleri büyük miktarda veriye dayalı olarak çalıştığından bu veriler, bireylerin kişisel bilgilerini içerebilir. Yapay zeka sistemlerinin veri tabanında bulunan bu veri setlerine yönelik veri güvenliği önlemleri yeterince alınmadığında bu veriler kötü niyetli kişilerin eline geçebilir ve kişisel verilerin ihlali söz konusu olabilir. Öte yandan veri setlerinde yer alan kişisel verilerin nasıl elde edildiği de veri mahremiyeti açısından kesinlikle sorgulanmalı, sözgelimi Clearview AI'ın yaptığı gibi sosyal medya profillerinden toplanan verilerin yüz tanıma vb. amaçlarla kullanımı durumunda "verinin alenileştirme amacına aykırı işleme" söz konusu olabilir.

Profilleme: Yapay zeka, bireylerin çevrimiçi davranışlarını analiz ederek profiller oluşturabilir. Bu profiller, bireylerin tercihleri, ilgi alanları ve alışkanlıkları hakkında ayrıntılı bilgiler içerebilir ve bunlar, reklamcılar veya diğer üçüncü taraflar tarafından hedefli reklamlar veya kişiselleştirilmiş içerik sunmak için kullanılabilir. 

Hatalı Veri İşleme: Yapay zeka sistemleri, karmaşık algoritmalar ve öğrenme modelleri kullanır. Öte yandan bu sistemler hala geliştirilme sürecinde olduğundan hatalar yapabilir, veri setlerini hatalı şekilde değerlendirip yanlış sonuçlar üretebilir. Özellikle duygusal veya hassas konuları ele alan sistemler, duygusal tepkileri yanlış yorumlayabilir veya uygun olmayan yanıtlar verebilir. 

Peki çözüm ne?

Şüphesiz yapay zeka sistemleri, bireylerin veri mahremiyetini korumak için gelişmiş güvenlik önlemleri ve etik yönergelerle birlikte tasarlanmalı; bu konuda da yasa koyucular yapay zeka geliştiricilerinin gerisinde kalmaması oldukça önemli.

Her şeyin başında veri güvenliği geliyor. Veri güvenliğini teknik açıdan sağlamak için belli kabul görmüş standartlar, veri işleme, erişim ve imha çözümleri var. 

Öte yandan işin idari standartlarını oturtmak, bunları benimsemek de oldukça önemli. Bunun başında da yapay zeka geliştiricilerinin bireylerin kişisel verilerini nasıl topladığı, kullandığı, işlediği, paylaştığı ve koruduğu ile ilgili gizlilik politikaları ve aydınlatma metinleri oluşturması; bireyler nezdinde şeffaflığı sağlaması geliyor. Diğer bir önemli nokta da kullanıcı kontrolünün sağlanması. Başka bir anlatımla yapay zekalı sistemleri kullanan kişilere, kişisel verilerini nasıl kullanabilecekleri ve paylaşabilecekleri konusunda daha fazla kontrol sağlanmalı;  veri toplama, kullanma ve paylaşma süreçlerini yönetme, tercihlerini belirleme ve onay verme haklarına sahip olmalı. Her yazımızın sonunda olduğu gibi "farkındalık" diyoruz :) Çünkü belki de en önemlisi eğitim ve farkındalık; yapay zeka teknolojileri hakkında bireylerin ve şirketlerin daha fazla eğitilmesi ve farkındalığının artırılması oldukça önemli. Bireyler, kişisel verilerinin nasıl korunacağı, yapay zekanın ne tür verileri kullandığı ve gizlilik ayarlarını nasıl yönetebilecekleri konusunda bilinçlendirilmeliyken yapay zeka şirketleri de veri işleme sınırlarının farkında olarak faaliyetlerini yürütmeli.

^{Bu yazı Verini Koru gönüllüsü Arda Altınok tarafından hazırlanarak, 29.05.2023 tarihli bültenimizde yayınlanmıştır.}