Yüz 'tanıyamama' sistemleri

Yüz tanıma sistemleri günümüzde toplumun güvenlik ve düzeninin sağlanmasında vazgeçilmez bir parça hâline gelmiş durumda. Pek çok ülkenin şehir içinden sınırlara kadar, suçluların, kaçakların ve kayıp insanların tespiti için yüz tanıma sistemlerini kullandığı biliniyor.

Ancak yüz tanıma sistemleri, çoğu zaman ayrımcı bir yaklaşım sergilediği gerekçesiyle eleştiri ve tartışmaların hedefi oluyor.

Detroit'te yaşayan siyahi bir kadın, haksız yere tutuklandığı gerekçesiyle kısa bir süre önce Detroit şehrine ve Detroit Polis Departmanı'ndan bir dedektife dava açtı. Dava dilekçesine göre, olay anında 8 aylık hamile olan 32 yaşındaki Porcha Woodruff, güvenilir olmayan bir yüz tanıma eşleşmesi kullanan polis memurlarınca 16 Şubat tarihinde araba hırsızlığı ve soygun suçlarından tutuklanmıştı.

Neyse ki Woodruff'a yönelik suçlamalar bir aydan kısa bir süre sonra delil yetersizliği nedeniyle reddedildi; ancak bu, davanın kullanımı giderek yaygınlaşan yüz tanıma teknolojilerinin yol açabileceği rahatsız edici sonuçlara dikkat çektiği gerçeğini değiştirmiyor.

Söz konusu dava, yapay zekanın hata ve önyargı eğilimi ile yanlış yüz tanıma kullanımının tehlikeleri konusunda uzmanlar tarafından yapılan uyarıların ardından yüz tanıma teknolojisine ve potansiyel risklerine odaklanan en son dava olarak öne çıkıyor. Buna göre, Woodruff'ın, yüz tanıma teknolojisi nedeniyle meydana gelen yanlış bir suçlamayı ihbar eden 6'ncı kişi olduğu belirtiliyor. Asıl üzücü olan şey ise Woodruff'tan önce ihbarda bulunan 5 kişinin de siyahi olması.

Mayıs ayında ceza adaleti uzmanları Thaddeus L. Johnson ve Nastasha N. Johnson tarafından Scientific American için kaleme alınan bir araştırma makalesinde, yüz tanımanın polis departmanlarının siyahileri orantısız bir şekilde yüksek oranlarda tutuklamasına yol açtığı belirtiliyor. 

• Buna göre, bunun ardında, algoritmaların eğitim veri setlerinde siyahilerin yüzlerinin bulunmamasının, bu programların hata yapmayacağına dair temelsiz bir inancın ve memurların kendi önyargılarının bu sorunları büyütme eğilimi gibi faktörlerin olduğu ifade ediliyor.

Bununla birlikte, aynı araştırma sabıka fotoğrafı veri tabanlarında siyahilerin aşırı temsil edildiğini ve bunun da yüz tanıma sistemlerinin temelini oluşturan yapay zekayı çarpıtabileceğini ortaya koyuyor. Konuya ilişkin olarak makalede "Sonuç olarak yapay zekanın siyah yüzleri suçlu olarak işaretleme olasılığı daha yüksek, bu da masum siyahların hedef alınmasına ve tutuklanmasına yol açıyor" şeklinde aktarılıyor.

2019 yılında ABD hükümeti tarafından yapılan bir araştırma ise birçok yüz tanıma algoritmasının ırksal azınlıkları yanlış tanımlama olasılığının beyazlara kıyasla çok daha yüksek olduğunu gösteriyor. Ulusal Standartlar ve Teknoloji Enstitüsü tarafından yapılan araştırmaya göre, Amerikan yerlileri, siyahlar ve Asyalılar; yüz tanılama sistemlerinin hatalı yargıya varmasından orantısız bir şekilde daha fazla etkileniyor.

Kurumun o dönemde yaptığı açıklamaya göre, testler bazı algoritmaların beyaz olmayan iki farklı kişiyi karıştırma olasılığının 100 kata kadar daha fazla olduğunu ortaya koyuyor. Bu endişeler karşısında, San Francisco ve Somerville, Massachusetts dahil olmak üzere ABD çapında birçok şehirde yüz tanıma sistemlerinin kullanımı yasaklanmasına karar verildi.

• Insider'ın daha önce bildirdiğine göre, 2020 yılında Detroit polis şefi, yüz tanıma teknolojisinin tek başına kullanıldığında %96 oranında başarısız olduğunu söylemişti.
• Michigan Amerikan Sivil Özgürlükler Birliği'nin kıdemli avukatlarından Phil Mayor ise Times'a yaptığı açıklamada, yüz tanıma sistemlerinin "bildikleri kadarıyla" çok sayıda yanlış tutuklamaya yol açtığını ifade etmişti. Mayor şu anda devam etmekte olan bir davada 2020'de yüz tanıma teknolojisi nedeniyle haksız yere tutuklanan bir başka Detroit sakini olan Robert Williams'ı temsil ediyor.

Bilgi notu: Wired, Baltimore Polis Departmanının 2022 yılında yaklaşık 800 yüz tanıma araması yaptığını bildiriyor. Times'ın haberine göre ise Detroit Polis Departmanı her yıl yaklaşık 125 yüz tanıma araması yapıyor.

Ne kadar yaygın kullanılıyor?

Surfshark'ın 2020 tarihli verilerine göre 109 ülke gözetim amacıyla yüz tanıma teknolojisini kullanıyor ya da kullanımını onaylamış durumda. Buna göre, her 10 hükümetten 7'si yüz tanıma teknolojilerini büyük ölçekli bir şekilde kullanıyor. 

• Buna ek olarak, 2020 itibarıyla ülkelerin %20'sinin okullarda ve bazı otobüslerde, %30'unun trenlerde veya metrolarda, %40'ının ise iş yerlerinde yüz tanıma teknolojilerini kullandığı; her 10 ülkeden 8'inin ise bankacılık ve finans kurumlarında yüz tanıma teknolojisinden faydalandığı ifade ediliyor.