Bizi herkes tanıyacak mı?

Yüz tanıma teknolojilerinin gerek teknoloji şirketleri gerekse kolluk kuvvetleri tarafından kullanımı ve getirdiği etik ve hukuksal problemler dünya gündemini bir süredir meşgul ediyor. Batı ülkelerinde yapay zekâ ve verinin yasal kullanımı üzerine izlenecek politikalar konusunda parlamentolarda çalışmalar sürmekteyken mahkemelerden de önemli kararlar geliyor. Geçtiğimiz ağustos ayında Birleşik Krallık Temyiz Mahkemeleri, polis güçlerinin yüz tanıma sistemlerini kullanımının illegal olduğuna kesin olarak karar verdi.  ABD’de pek çok eyalet geçen yıl yüz tanıma sistemlerini yasaklayan yasalar çıkarmıştı fakat henüz bir mahkeme kararı verilmemişti. Bu, tüm dünyada ilgili sistemin illegal olduğunu hükme bağlayan ilk karar.

• Clearview AI: Bu konudaki tartışmalar 2019 yılının kasım ayında New York Times’tan bir gazetecinin Clearview AI isimli bir şirketi afişe etmesiyle alevlenmişti. Bu teknoloji şirketi, Facebook ve YouTube gibi platformların da içinde bulunduğu pek çok sosyal medya platformundan fotoğraflar toplayarak 3 milyar civarında görsel depoladığı bir veri tabanı oluşturmuştu. Şirket, herhangi bir kişinin fotoğrafının uygulamaya yüklenmesi hâlinde o kişinin kimlik bilgilerini açığa çıkaran bir uygulama tasarladı. Aslında, bu uygulama basitçe, sokakta gördüğünüz herhangi bir kişinin fotoğrafını çekerek kimliğini öğrenebileceğiniz bir teknoloji sağlıyordu.
   
• Esas tartışma: Günümüzde sosyal medyanın yaygın kullanımı nedeniyle kullanıcıların kimlik bilgilerini ele veren yüzlerce fotoğrafı internet ortamında kolaylıkla bulunabiliyor. Bu da Clearview AI gibi şirketlere arama sonuçlarının doğruluk oranının çok yüksek olduğu algoritmalar oluşturma imkânı veriyor. Burada tartışma yaratan şey Clearview AI tarafından tasarlanan bu uygulamanın ABD'de 600 polis merkezi tarafından hâlihazırda kullanılıyor olması ve kamuoyunun bundan haberinin olmamasıydı. Uygulamanın doğruluk oranının yüksek olduğu ve kolluk kuvvetlerine büyük kolaylık sağlayarak suç önleme amaçlı kullanabileceği öne sürülmüş ve kolluk güçlerine toplumdan habersiz pazarlanmıştı.
   
• Irkçılık: Zamanla pek çok araştırma gösterdi ki yüz tanıma teknolojileri azınlık grupların ve özellikle Afro-Amerikan kadınların yüzlerini doğru tanımlayacak kadar gelişmiş değil ve bu teknoloji üzerinden yaratılan algoritmalar yaş, etnik köken ve ırksal ayrımcılığa neden oluyor. Massachusetts Teknoloji Enstitüsü'nün (MIT) üç büyük yüz tanıma sistemi üzerinde yaptığı araştırmaya göre, bu sistemler siyah kadınların dahil olduğu davaların %21 ila %35’inde hatalı sonuç veriyor. Amazon’un tasarlayıp polis teşkilatlarına pazarladığı yapay zekâya dayalı "Rekognition" isimli yüz tanımlama teknolojisi üzerine yapılan bir araştırmaya göre, sistem esmer tenli bireyleri açık tenli bireylere göre çok daha zor tanımlıyor ve Afro-Amerikan erkekleri suçsuz yere mahkûm etmek gibi bir ihtimali beraberinde getiriyor.
   
• Gizlilik ihlali: Bu uygulamaların polis teşkilatları dışında kullanımının anonim kalmanın sonu olduğu ve büyük gizlilik ihlalleri yaratabileceği sıklıkla dile getiriliyor. Bir gün Google’da bir kişinin görselini aratmak ismini aratmak kadar kolay olabilir, ve o gün pek de uzakta görünmüyor. Dolayısıyla, elinde bu teknolojiyi bulunduran bir kişinin hiç tanımadığı birinin adı, ev ve iş yeri adresi, telefonu veya diğer kişisel bilgilerine ulaşması ve bunları suistimal etmesi gayet olası. Bu durum pek çok etik ve hukuki endişeyi beraberinde getiriyor.
   
• Teknoloji dünyasındaki gelişmeler: Clearview AI’ın kamuoyundan habersiz kullanımı tartışmaların fitilini ateşleyen olay olsa da Amazon, Microsoft gibi diğer teknoloji şirketleri de yüz tanıma teknolojilerine dayanan uygulamalar tasarlıyor, geliştiriyor ve bunları polis teşkilatları da dahil olmak üzere çeşitli kurumlara pazarlıyordu. Haziran ayında George Floyd’un polis memuru Derek Chauvin tarafından öldürülmesinin ve Black Lives Matter hareketinin de etkisiyle Amazon, Microsoft ve IBM gibi teknoloji şirketleri yüz tanıma uygulamalarını araştırmayı, geliştirmeyi ve kullanmayı bıraktığının sinyallerini verdi. Amazon Rekognition isimli sistemi polis teşkilatlarına pazarlamaya bir yıl ara verdiğini duyururken IBM ve Microsoft yüz tanıma teknolojileri pazarından çekildiklerini açıkladı.
   
• Birleşik Krallık’ın adımı? Birleşik Krallık bu günlerde yeni bir “Kolluk Kuvvetleri Mega Veri Tabanı” oluşturmayı planlıyor. Bunun için aylar öncesinden bir kamusal platform oluşturarak kamuoyunun görüşlerini kabul etmeye başlamıştı. Bu kamuoyu müzakeresi 9 Eylül’de sona erecek ve hükümet yeni veri sistemini oluşturmaya başlayacak. Sivil toplum örgütleri ise bu yeni sistemin yüz tanıma teknolojileriyle entegre edileceğine ve bunun yaratacağı sürveyans (sistematik gözlem) etkilerine dikkat çekiyor.
   
• Sonuç: Görünen o ki Clearview AI olayının ortaya çıkmasıyla ateşlenen tartışmalar ve yüz tanıma teknolojilerinin yarattığı ırk ve cinsiyet ayrımcılığının bilimsel olarak kanıtlanması hem teknoloji şirketlerini hem de devletleri bu uygulamalara karşı tedbirli davranmaya itiyor. Birleşik Krallık’ta verilen son mahkeme kararı da ayrımcılığa neden olan algoritmalara vurgu yaparak bu tutumun meşruluğunu doğrulamış oldu. Gelecekte bu teknolojinin kimler tarafından ne şekilde ve hangi algoritmalarla kullanılacağı, ayrımcılık endişelerinin giderilip giderilemeyeceği ise merak konusu.
   

Bahçeşehir Üniversitesi Hukuk Fakültesi ve Oxford Üniversitesi Hukuk Yüksek Lisansı mezunu Nergis Oprescu, veri ve teknoloji regülasyonu, iklim değişikliği ve insan hakları alanlarında çalışan bir avukat ve araştırmacı. Şu anda Oxford Üniversitesi Derin Teknoloji Laboratuvarı’nda hukuki tasarımcı olarak çalışıyor.