Gözetim teknolojileri: Distopya yaklaşıyor mu?

Gözetim (surveillance), dijital dünyamızın içine her geçen gün daha fazla sızmakta. Dijitalde hiçbir şey özel değil artık; sosyal medya platformları verilerimizi topluyor, pazarlıyor ve satıyor. Dünyanın dört bir yanında çevrim içi insan sayısı arttıkça teknoloji şirketleri ülkelere vatandaşlarını gözetlemek ve izlemek için ileri teknoloji çözümler sunmaya devam ediyor. Ülkeler de bu çözümleri kullanmaya pek hevesli görünüyor.

Bu yazıda:

• Gözetim algoritmaları geliştiren startup Clearview AI'dan
• Gözetimin çözdüğü vakalardan
• Gözetim denince olmazsa olmaz ülkelerden Çin'e ait örneklerden
• Covid-19'un gözetime etkisinden
• Gelecekte neler olabileceğinden bahsedeceğiz.
   

Distopik bir geleceğe kapı aralayan startup: Clearview AI

Hoan Ton-That’ın kurucusu olduğu Clearview AI çığır açan bir yüz tanıma uygulaması geliştirdi. Uygulamayla bir kişinin fotoğrafını çekebilir, yükleyebilir ve o kişinin herkese açık fotoğrafları ile bu fotoğrafların göründüğü yerlerin internet linklerini görebilirsiniz.

Temelini Facebook, YouTube, Venmo ve milyonlarca başka internet sitesinden edindiği iddia edilen üç milyardan fazla fotoğraf ve görüntüden oluşan bir veritabanı olan sistem, Amerika Birleşik Devletleri hükümeti veya Silikon Vadisi teknoloji firmaları tarafından şimdiye kadar geliştirilmiş her şeyin çok ötesine geçiyor.

Çözülen vakalar

Şubat ayında Indiana eyalet polisi, Clearview AI'yı ilk kez kullanmaya başladı. Uygulamayı kullandıktan tam 20 dakika sonra bir vakayı çözdüler. Parkta edilen bir kavga bir kişinin diğerini karnından vurmasıyla sona ermişti. Bir görgü tanığı suçu akıllı telefonuna kaydetti ve polis silahlı saldırganın çok düşük piksellerdeki görüntüsüne erişebildi.

Clearview AI'da yapılan bir arama sonucunda hemen bir eşleşme bulundu. Saldırgan, başka bir insanın sosyal medyada paylaştığı bir videoda görüntülenmişti ve ismi de videoya etiketlenmişti. Indiana eyaleti polis departmanı, bir sürücünün ehliyetinin olmaması ve daha önce aldığı bir ceza olmaması nedeniyle saldırganı geleneksel yöntemlerle bulmanın oldukça zor olduğunu belirtti.

The Times’ın Clearview AI verileri üzerine yaptığı araştırmalara göre bu uygulama birçok kişinin belirlenmesine yardımcı oldu; tacizci, hırsız, kimlik dolandırıcısı ve fazlası. Hatta bu belirlemelerden bir tanesi, bir başkasını spor salonunda çektiği fotoğrafta yanlışlıkla aynada gözüken yüzü sayesinde yakalandı.

Problemler?
 

Georgetown Üniversitesi Gizlilik ve Teknoloji Merkezi'nde bir araştırmacı olan Clare Garvie, "Bu uygulamanın doğru eşleme yaptığını gösteren hiçbir verimiz yok" diyor. “Veri tabanı ne kadar büyükse, doppelgänger* etkisi nedeniyle yanlış tanımlama riski o kadar büyük olur. İnternette buldukları rastgele insan görüntülerinden oluşan devasa bir veri tabanından bahsediyorlar." Ayrıca uygulamanın beyaz olmayan insanlar için yanlış eşleşme yapma eğiliminde olduğu da biliniyor.

• *Doppelgänger: Avrupa mitolojisinde hayaletten farklı bir kavram olarak canlı insanın kendisine tıpatıp benzeyen görüntüsüdür.
   

Büyük güçler ve büyük sorumluluklar
 

Polis memurları ve Clearview AI yatırımcıları, uygulamanın nihayetinde halka açık olacağını tahmin ediyor ve bu tehlikeli bilginin kötü insanların eline geçmesinden korkuluyor.

Şirketin kurucusu Bay Ton-That ise konu hakkında "Her zaman bir şeyleri kötüye kullanacak kötü insanlardan oluşan bir kesim olacak" diyor.

Clearview AI, uygulamasını herkese açık hâle getirmese bile tabu artık yıkıldığına göre benzerini yapan bir şirket olabilir. Birinin fotoğrafını aratmak bir ismi Google'da aramak kadar kolay olabilir. Gizli konuşmalar dinlenebilir, katılımcıların fotoğrafları çekilebilir ve kişisel sırlar öğrenilebilir. Caddede yürüyen tanınmayan biri anında teşhis edilebilir ve ev adresi sadece birkaç tık ötede olabilir. Distopya yaklaşıyor diyebilir miyiz?

Çin’de gözetim

• Çin'in ülkedeki Uygur azınlığına yönelik devam eden zulmü, hükümete kapsamlı bir gözetim ağı kuran teknoloji şirketlerinin yardımı olmadan mümkün olamazdı. Güvenlik kameralarıyla tanınan Çin merkezli şirket olan Hikvision, Uygurları tanımak için yazılım geliştirmekle suçlanıyor.
   
• Başka bir Çin merkezli gözetim teknolojileri sağlayan şirket Dahua, Çin'in batısındaki camilere kurulan yaklaşık bin kamerayla hükümete ülkedeki müslümanlar hakkında bilgi sağladığı iddiasıyla karşı karşıya.

Covid-19 günlerinde gözetim

Singapur, Covid-19 vakalarını izlemek ve takip etmek için teknolojiyi başarılı bir şekilde kullandı. Ancak insanlar bu gözetimin uzun vadeli sonuçları konusunda endişeli.

Ülkenin virüsü kontrol altına alma yaklaşımı SafeEntry isimli bir sistem aracılığıyla dijital kontrollerin yaygın kullanımını içeriyor. İnsanlar alışveriş merkezlerine, mağazalara, restoranlara, iş yerlerine veya okullara girmeden önce kimlikleri ve telefon numaralarıyla kontrol ediliyor. Bu bilgiler, hükümetin daha sonra temas takibi için kullandığı merkezî bir veri tabanına gönderiliyor.

Singapur hükümeti, pandemiye verdiği yanıtta büyük ölçüde teknolojiyi kullandı. Mart ayında hükümet, TraceTogether uygulamasını başlatarak uygulamayı "dünyanın ilk ulusal dijital temas izleme çabası" olarak lanse etti. Sistem, insanları hareket ederken ve birbirleriyle etkileşim hâlindeyken izlemek için Bluetooth teknolojisinden faydalanıyor. İki kullanıcı otuz dakika veya daha uzun süre birbirinin iki metre yakınındaysa bu kişileri kaydediyor. Uygulamanın çalıştırdığı kod açık kaynaklı, böylece Avustralya'nın kendi temas izleme sistemini geliştirmek için yaptığı gibi diğer ülkeler onu kendi kullanımları için uyarlayabilirler.

Yetkililer bu tür gözetim teknolojileriyle temas takibinin büyük ölçüde kolaylaştığını iddia ediyor. Kasım ayı başlarında Singapur Sağlık Bakanı, TraceTogether aracılığıyla doğrulanmış Covid-19 vakalarından 25 bin yakın temaslı kişi tespit edildiğini ve bunların 160'ının sonunda pozitif olarak test edildiğini söyledi. Ülke, kasım ayının çoğu gününü ise sıfır bulaşma vakasıyla geçirdiğini bildirmişti.

Bu başarılara rağmen daha müdahaleci veri toplama teknolojisinin dayatılması, yeterli kontrol ve denge olmaksızın vatandaşların gözetimini pandeminin uzun sürecek etkisiyle meşrulaştırmak için kullanılacağı endişesi paylaşılıyor. Bu endişeler giderek daha sağlam temellere dayanıyor. Ocak ayında TraceTogether verilerinin yalnızca temas takibi için kullanılacağı aylarca söyledikten sonra, Singapur hükümeti polisin de cezai soruşturmalar için bu verilere erişebileceğini söyledi.

"Prensip olarak temas takibini anlamlı buluyorum. Ancak bu durum toplumun kararıyla var olabilecek bir şeydir, daha sağlıklı olabilmek için mahremiyetten vazgeçmek gerekebilir. Ancak bu kararı toplumca demokratik olarak almadık” diyor MIT’de yapay zekâ araştırması yapan Singapur'da yaşayan Tan Zhi-xuan. "Toplumun verimlilik ve rahatlık adına çok şeyden vazgeçtiğini düşünüyorum" şeklinde ekliyor.

Gelecekte gözetim

Gözetim teknolojisine olan talep, özellikle devlet aktörlerinin istekliliği nedeniyle yavaşlama belirtisi göstermeyecek gibi duruyor. Teknoloji şirketleri bu isteği karşılamak için çabalarken ve ABD yasaklı listesinde olmasına rağmen Çin merkezli AI devi SenseTime bu yıl satışlarının %80 artmasını bekliyor.

Yüz tanıma sistemleri daha akıllı hâle geliyor. Çin merkezli başka bir şirket, kameralarının maske takan insanları bile tanıyabildiğini iddia ediyor.

Büyük birader izlemeye devam edecek gibi duruyor...