Hollanda, vize başvurularını değerlendirmede "etnik profilleme" kullanıyor
Habitat Derneği’nden: Gençliğin İyi Olma Hâli Raporu Türkiye’deki gençlerin durumuyla ilgili en kapsamlı araştırmalardan birini sunan Gençliğin İyi Olma Hâli Raporu , Habitat Derneği ve Infakto RW ortaklığıyla beşinci kez yayımlandı. Nedir? Habitat Derneği’nin iki yılda bir yürüttüğü araştırmaların çıktılarını sunan Gençliğin İyi Olma Hâli Raporu ’nun beşinci edisyonu, bir ay boyunca 28 farklı ilde 18-29 yaş arası 1.228 gençle yüz yüze görüşme yoluyla oluşturuldu. Rapora göre ; 2017 yılında yaşamdan memnun olan gençlerin oranı %70,8 olarak kaydedilirken, bu yılki araştırmada bu oran %45,6 olarak ölçüldü. Gelecekten umutlu olduklarını belirten gençlerin oranı ise 2017’den bu yana %66,6 ’dan %43,7 ’ye geriledi. Çalışan gençlerin yaşamdan memnuniyet oranı %47,1 , öğrencilerin %51,8 iken yaşam memnuniyeti en düşük olan grubun %28 oranla iş arayan gençler olduğu tespit edildi. Maddi durumlarından memnun olan gençlerin oranı %38,3 olarak ölçülürken, gençlerin %35,8 ’inin aylık kişisel gelirinin 3 bin lira ve altında olduğu görüldü. Gençlerin ifade ettiği en büyük sorunlarsa enflasyon, hayat pahalılığı, işsizlik, kira artışları ve sokaklardaki şiddet. 6 Şubat depremlerinde arkadaşlarını kaybedenlerin oranı %19,2 , aile veya akrabalardan kayıp verenlerin oranı %8,5 , eğitimine ara vermek/kaydını dondurmak zorunda kalanların oranı %3,7 ve taşınmak zorunda kalanların oranı %3,2 olarak belirlendi. Gençliğin İyi Olma Hâli Raporu ’na buradan ulaşabilirsiniz.
Daha fazlasını öğren →
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Yeni bir araştırma, Hollanda hükümetinin, vize başvurusu yapanların profillerini çıkarmak için gizli ve potansiyel olarak yasadışı bir algoritma kullanıyor olabileceğini ortaya çıkardı. Buna göre, Hollanda, söz konusu algoritma sayesinde vize başvurusunda bulunan milyonlarca kişinin profilini çıkarabiliyor; bu da vizelerin potansiyel olarak gecikmesine, hatta bazı durumlarda reddedilmesine yol açıyordu.
Algoritmanın profilleri etnik köken gibi kriterleri baz alarak çıkardığı gerçeğiyse akıllara ilk olarak bu sistemin neden olabileceği veya hâlihazırda olduğu ‘ırkçılığı’ akıllara getiriyor.
Uyruk, cinsiyet ve yaşa bağlı ‘risk’ değerlendirmesi
2022 yılında Hollanda Dışişleri Bakanlığı tarafından hazırlatılan bir rapor, kurumun iç kültürünün yapısal ırkçılıkla dolu olduğu sonucuna varmıştı. Buna göre, bazı çalışanlar "maymun” olarak tanımlandıklarını anlatırken bazı çalışanlar da sürekli olarak kendilerinden terör saldırılarını reddetmelerinin talep edildiğini ifade ediyordu. Raporun yayımlanmasını takiben Dışişleri Bakanı Wopke Hoekstra, konuya ilişkin olarak yaptığı açıklamada “Olmak istediğimiz kişi bu değil” diyerek reform sözü vermişti. Gelgelelim, ortaya çıkan yeni raporlar, Dışişleri Bakanlığı’nın yapısal ırkçılıkla gündeme gelen Hollanda kurumları arasında yalnız olmadığını gösteriyor.
Lighthouse Reports ve NRC tarafından elde edilen yeni sızdırılmış belgeler, Hoekstra’nın değişim sözü verdiği sırada, yetkililerin vize başvuru sahiplerinin etnik profilini çıkaran gizli bir algoritma konusunda alarm verdiğine işaret ediyor. Buna göre, ajansın veri kullanımının yasak olmasını sağlamaktan sorumlu kişisi olan veri koruma görevlisinin, potansiyel etnik ayrımcılık konusunda uyarıda bulunduğu; ancak tüm bu uyarılara rağmen bakanlığın sistemi kullanmaya devam ettiği aktarılıyor.
Son iki yılı kapsayan raporlara göre, Hollanda Dışişleri Bakanlığı’nın Hollanda ve Schengen bölgesine giriş yapmak için başvuruda bulunan kısa süreli vize adaylarının risk puanını hesaplamak için geniş çaplı ve kamuoyundan gizli şekilde bir profilleme sistemi kullanması, 2015 yılına kadar uzanıyor.
Araştırmanın detayları, bakanlığın Türkçeye “Bilgi Destekli Karar Verme” olarak çevirebileceğimiz “Informatie Ondersteund Beslissen” (IOB) olarak adlandırılan bu algoritmasının, vize başvurusunda bulunan milyonlarca kişinin uyruk, cinsiyet ve yaş gibi değişkenlere dayanarak profilini çıkardığını gösteriyor. Dahası, bu yöntem sayesinde Hollanda hükümeti, algoritmanın ‘yüksek riskli’ olarak değerlendirdiği vize başvurusu sahiplerini otomatik olarak kapsamlı soruşturmaları beraberinde getiren “yoğun bir takibe” alıyor.
Algoritmik vize profillemesinin kullanımını “düpedüz şok edici” olarak tanımlayan Hollandalı milletvekili Kati Piri, konuyla ilişkili olarak yaptığı açıklamasında, “Göçmen kökenli Hollanda vatandaşlarının aile üyelerinin kısa süreli ziyaretler için vize almaları Dışişleri Bakanlığı tarafından her türlü yolla engelleniyor” ifadelerini kullanıyor. Bununla birlikte, Piri, bakanlığın IOB sisteminin kullanımının son derece verimli sonuçlar verdiğini iddia etmesine karşın, “Fas ve Surinam gibi ülkelerden vize almak inanılmaz derecede zor” diye de sözlerine ekliyor.
Yüksek risk grubundaki vize başvurularının %33’ü reddediliyor
Algoritma tarafından kullanılan sözde “riskli profiller”, Paramaribo’dan başvuran 26-40 yaş arası Surinamlı erkekler ve turist vizesi için başvuran 35-40 yaş arası evli olmayan Nepalli erkekleri içeriyor. Yetkililer, risk profillerinin aynı uyruktan bir grup kişinin sığınma başvurusunda bulunup bulunmadığını görmek için üçüncü taraflardan alınan verilere de dayandığını iddia ediyor.
Vize başvurusunda bulunanların uyruklarına göre algoritmik olarak profillerinin çıkarılmasını derhal durdurmaları için Hollanda Dışişleri Bakanlığı’ndan bir iç gözlemcinin 2022 yılının ortalarından bu yana baskı yaptığı ifade ediliyor. Ancak, algoritmik değerlendirme sisteminin potansiyel olarak ayrımcı olduğu konusundaki tepkilere rağmen yetkililer, sistemi kullanılması konusundaki ısrarlarını devam ettiriyor.
Bakanlığın istatistikleri, algoritma tarafından kişilerin yüksek riskli olarak işaretlenmesinin birtakım ciddi sonuçları olabileceğini gösteriyor. Mart 2023 itibariyle, yoğun, yüksek risk grubundaki başvuruların %33’ünün reddedildiği; buna oranla normal, düşük risk grubundaki başvurularınsa sadece %3,5’inin reddedildiği ifade ediliyor.
- Yüksek riskli olarak işaretlenmenin hâlihazırda zor olan bürokratik süreçte açabileceği gecikmelere örnek olarak Fas asıllı bir Hollandalı olan Saadia Ourhris ile irtibata geçen NRC, Ourhris’in, bir akrabasının Hollanda’da kendisini ziyaret etmeye çalıştığında sürekli otomatik ret cevabı aldığını söylediğini aktarıyor.
Büyük planın bir parçası
Öte yandan, algoritmik profilleme, Dışişleri Bakanlığı’nın maliyetleri düşürmeye yönelik daha geniş çaplı planının da merkezinde yer alıyor. Buna göre, bakanlıktan yetkililer, algoritmanın iş yükünün merkezî hâle gelmesine ve vaka çalışanlarının önyargılarının ortadan kaldırılmasına yardımcı olduğu görüşünü savunuyor. Buna ek olarak, yetkililer, konuya ilişkin olarak fikirlerine danışılan üç uzmanın algoritmik profilleme sisteminde uyruk kullanımının orantılı olduğu ve sistemin etnik köken bazlı ayrımcılığa yol açmadığı kanısına vardığını öne sürüyor.
Bu ilk değil
Bundan 4 yıl kadar önce Birleşik Krallık İçişleri Bakanlığı’nın da vize başvurularını işleme koymak için gizli bir algoritma kullandığı ortaya çıkmış; gelen tepkilerle birlikte göçmenlik uzmanları, bu algoritmanın vize başvurusunda bulunan bazı kişiler için milliyet ve yaş temelinde ayrımcılığa yol açabileceği konusunda uyarıda bulunmuştu. Buna göre, bakanlığın tüm çalışma, eğitim ve ziyaretçi vizesi talepleri için kullanılan “akış aracı” , başvuruları risk düzeylerine göre kırmızı, sarı veya yeşil olarak derecelendiriyor; bunlar da daha sonraki işlemler için vaka uzmanlarına iletiliyordu.
Göçmenlerin Refahı için Ortak Konsey (JCWI) ve dijital haklar grubu Foxglove sisteme karşı yasal bir mücadele başlatırken İçişleri Bakanlığı, tarafına yöneltilen “yerleşik ırkçılık” iddialarının ardından “Vize başvuru akış aracının nasıl çalıştığını gözden geçiriyoruz ve süreçlerimizi daha da akıcı ve güvenli hale getirmek için yeniden tasarlayacağız” açıklamasında bulunmuş; bunu takiben sistem askıya alınmıştı.
- Editörün önerisi: Hollanda’nın kullandığı, yazıya konu olan algoritma benzeri gözetim teknolojileri ve politikalarını teknik ve etik açıdan ele aldığımız “AI-tokrasi: Yapay zeka ve gözetim politikası” yazımızı ziyaret edebilirsiniz.
Kaydet
Okuma listesine ekle
Paylaş
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ BAŞLIKLAR
NEREDE YAYIMLANDI?
Hollanda'nın vize başvurusunda bulunan kişilerin etnik köken gibi değişkenlere bağlı olarak profillerini çıkarmasını sağlayan algoritması. Yapay zekanın seçim dönemlerindeki etkisi. Birleşik Krallık'tan Microsoft'a Activision engeli.
27 Nis 2023
YAZARLAR
İrem Denli
Teknoloji Editörü
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ OKUMALAR
Televizyonda sunucuların “50 milyon bizi izliyor” dediği günlerden herkesin kendisi için üretilmiş başka bir içerik akışında yaşadığı "yankı odaları" dünyasına geldik. Sosyal medya ortak metni parçaladı, üretken yapay zeka ise kişiselleştirmeyi başka bir aşamaya taşıdı. Peki bu ortamda kitle iletişimi tamamen öldü mü? Belki de buradaki asıl krizi erişimin azalması değil, ortak gerçekliği kuran sistemlerin giderek daha az hesap verebilir hâle gelmesi olarak okumalıyız.
Kanada’da bir okul saldırganının ChatGPT hesabının sekiz ay önce şiddet içerikli kullanım nedeniyle işaretlendiğinin ortaya çıkması, sohbet botlarının kullanıcılarını ne ölçüde izlemesi ve hangi noktada yetkililere bildirmesi gerektiği tartışmasını büyüttü. British Columbia’nın OpenAI’a karşı açtığı dava, mahremiyet ile güvenlik arasındaki sınırın nerede çizileceğini tartışmaya açarken Türkiye’de okul saldırıları sonrası alınan önlemler benzer bir sorunun başka bir yüzünü gösteriyor.
Yapay zekanın insanlığı yok edeceğine dair felaket senaryoları, genellikle kontrolden çıkan süper zekalara ve “katil robotlara” odaklanıyor. Oysa uzmanların daha olası gördüğü risklerin çoğunda yapay zeka tek başına hareket etmiyor. Özellikle beş olası senaryo, kontrol zincirini geri dönüşü olmayacak şekilde kırma potansiyeli taşıyor.
Yapay zeka patlamasının da etkisiyle artık ürünlerin pazarlama materyallerinde sürekli aynı kelimeler tekrarlanıyor: Ajan tabanlı, AI destekli, kurumsal düzeyde, akıllı, uçtan uca, yeni nesil, ekosistem… Yıllar önce pazarlama ekiplerinin temel problemi, insanların üründen haberdar olmasını sağlamakken bugün bunun önünde çok daha kritik bir problem yer alıyor: İnsanların ürünün ne olduğunu anlamasını sağlamak.
Son birkaç yıldır yapay zeka yarışında geçerli olan kural basitti: Daha güçlü modeli daha hızlı geliştiren kazanır. Son günlerde sektörün öncü isimleri tarafından yapılan açıklamalar ise bu denklemin değişmeye başladığını gösteriyor. Modellerin siber saldırılardan biyolojik silah geliştirme girişimlerine uzanan riskli kullanım alanlarında sahneye çıkması, yarışın öncülerini ilk kez açık bir biçimde frene basma olasılığını tartışmaya itiyor.
