Hollanda, vize başvurularını değerlendirmede "etnik profilleme" kullanıyor
Habitat Derneği’nden: Gençliğin İyi Olma Hâli Raporu Türkiye’deki gençlerin durumuyla ilgili en kapsamlı araştırmalardan birini sunan Gençliğin İyi Olma Hâli Raporu , Habitat Derneği ve Infakto RW ortaklığıyla beşinci kez yayımlandı. Nedir? Habitat Derneği’nin iki yılda bir yürüttüğü araştırmaların çıktılarını sunan Gençliğin İyi Olma Hâli Raporu ’nun beşinci edisyonu, bir ay boyunca 28 farklı ilde 18-29 yaş arası 1.228 gençle yüz yüze görüşme yoluyla oluşturuldu. Rapora göre ; 2017 yılında yaşamdan memnun olan gençlerin oranı %70,8 olarak kaydedilirken, bu yılki araştırmada bu oran %45,6 olarak ölçüldü. Gelecekten umutlu olduklarını belirten gençlerin oranı ise 2017’den bu yana %66,6 ’dan %43,7 ’ye geriledi. Çalışan gençlerin yaşamdan memnuniyet oranı %47,1 , öğrencilerin %51,8 iken yaşam memnuniyeti en düşük olan grubun %28 oranla iş arayan gençler olduğu tespit edildi. Maddi durumlarından memnun olan gençlerin oranı %38,3 olarak ölçülürken, gençlerin %35,8 ’inin aylık kişisel gelirinin 3 bin lira ve altında olduğu görüldü. Gençlerin ifade ettiği en büyük sorunlarsa enflasyon, hayat pahalılığı, işsizlik, kira artışları ve sokaklardaki şiddet. 6 Şubat depremlerinde arkadaşlarını kaybedenlerin oranı %19,2 , aile veya akrabalardan kayıp verenlerin oranı %8,5 , eğitimine ara vermek/kaydını dondurmak zorunda kalanların oranı %3,7 ve taşınmak zorunda kalanların oranı %3,2 olarak belirlendi. Gençliğin İyi Olma Hâli Raporu ’na buradan ulaşabilirsiniz.
Daha fazlasını öğren →
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
Yeni bir araştırma, Hollanda hükümetinin, vize başvurusu yapanların profillerini çıkarmak için gizli ve potansiyel olarak yasadışı bir algoritma kullanıyor olabileceğini ortaya çıkardı. Buna göre, Hollanda, söz konusu algoritma sayesinde vize başvurusunda bulunan milyonlarca kişinin profilini çıkarabiliyor; bu da vizelerin potansiyel olarak gecikmesine, hatta bazı durumlarda reddedilmesine yol açıyordu.
Algoritmanın profilleri etnik köken gibi kriterleri baz alarak çıkardığı gerçeğiyse akıllara ilk olarak bu sistemin neden olabileceği veya hâlihazırda olduğu ‘ırkçılığı’ akıllara getiriyor.
Uyruk, cinsiyet ve yaşa bağlı ‘risk’ değerlendirmesi
2022 yılında Hollanda Dışişleri Bakanlığı tarafından hazırlatılan bir rapor, kurumun iç kültürünün yapısal ırkçılıkla dolu olduğu sonucuna varmıştı. Buna göre, bazı çalışanlar "maymun” olarak tanımlandıklarını anlatırken bazı çalışanlar da sürekli olarak kendilerinden terör saldırılarını reddetmelerinin talep edildiğini ifade ediyordu. Raporun yayımlanmasını takiben Dışişleri Bakanı Wopke Hoekstra, konuya ilişkin olarak yaptığı açıklamada “Olmak istediğimiz kişi bu değil” diyerek reform sözü vermişti. Gelgelelim, ortaya çıkan yeni raporlar, Dışişleri Bakanlığı’nın yapısal ırkçılıkla gündeme gelen Hollanda kurumları arasında yalnız olmadığını gösteriyor.
Lighthouse Reports ve NRC tarafından elde edilen yeni sızdırılmış belgeler, Hoekstra’nın değişim sözü verdiği sırada, yetkililerin vize başvuru sahiplerinin etnik profilini çıkaran gizli bir algoritma konusunda alarm verdiğine işaret ediyor. Buna göre, ajansın veri kullanımının yasak olmasını sağlamaktan sorumlu kişisi olan veri koruma görevlisinin, potansiyel etnik ayrımcılık konusunda uyarıda bulunduğu; ancak tüm bu uyarılara rağmen bakanlığın sistemi kullanmaya devam ettiği aktarılıyor.
Son iki yılı kapsayan raporlara göre, Hollanda Dışişleri Bakanlığı’nın Hollanda ve Schengen bölgesine giriş yapmak için başvuruda bulunan kısa süreli vize adaylarının risk puanını hesaplamak için geniş çaplı ve kamuoyundan gizli şekilde bir profilleme sistemi kullanması, 2015 yılına kadar uzanıyor.
Araştırmanın detayları, bakanlığın Türkçeye “Bilgi Destekli Karar Verme” olarak çevirebileceğimiz “Informatie Ondersteund Beslissen” (IOB) olarak adlandırılan bu algoritmasının, vize başvurusunda bulunan milyonlarca kişinin uyruk, cinsiyet ve yaş gibi değişkenlere dayanarak profilini çıkardığını gösteriyor. Dahası, bu yöntem sayesinde Hollanda hükümeti, algoritmanın ‘yüksek riskli’ olarak değerlendirdiği vize başvurusu sahiplerini otomatik olarak kapsamlı soruşturmaları beraberinde getiren “yoğun bir takibe” alıyor.
Algoritmik vize profillemesinin kullanımını “düpedüz şok edici” olarak tanımlayan Hollandalı milletvekili Kati Piri, konuyla ilişkili olarak yaptığı açıklamasında, “Göçmen kökenli Hollanda vatandaşlarının aile üyelerinin kısa süreli ziyaretler için vize almaları Dışişleri Bakanlığı tarafından her türlü yolla engelleniyor” ifadelerini kullanıyor. Bununla birlikte, Piri, bakanlığın IOB sisteminin kullanımının son derece verimli sonuçlar verdiğini iddia etmesine karşın, “Fas ve Surinam gibi ülkelerden vize almak inanılmaz derecede zor” diye de sözlerine ekliyor.
Yüksek risk grubundaki vize başvurularının %33’ü reddediliyor
Algoritma tarafından kullanılan sözde “riskli profiller”, Paramaribo’dan başvuran 26-40 yaş arası Surinamlı erkekler ve turist vizesi için başvuran 35-40 yaş arası evli olmayan Nepalli erkekleri içeriyor. Yetkililer, risk profillerinin aynı uyruktan bir grup kişinin sığınma başvurusunda bulunup bulunmadığını görmek için üçüncü taraflardan alınan verilere de dayandığını iddia ediyor.
Vize başvurusunda bulunanların uyruklarına göre algoritmik olarak profillerinin çıkarılmasını derhal durdurmaları için Hollanda Dışişleri Bakanlığı’ndan bir iç gözlemcinin 2022 yılının ortalarından bu yana baskı yaptığı ifade ediliyor. Ancak, algoritmik değerlendirme sisteminin potansiyel olarak ayrımcı olduğu konusundaki tepkilere rağmen yetkililer, sistemi kullanılması konusundaki ısrarlarını devam ettiriyor.
Bakanlığın istatistikleri, algoritma tarafından kişilerin yüksek riskli olarak işaretlenmesinin birtakım ciddi sonuçları olabileceğini gösteriyor. Mart 2023 itibariyle, yoğun, yüksek risk grubundaki başvuruların %33’ünün reddedildiği; buna oranla normal, düşük risk grubundaki başvurularınsa sadece %3,5’inin reddedildiği ifade ediliyor.
- Yüksek riskli olarak işaretlenmenin hâlihazırda zor olan bürokratik süreçte açabileceği gecikmelere örnek olarak Fas asıllı bir Hollandalı olan Saadia Ourhris ile irtibata geçen NRC, Ourhris’in, bir akrabasının Hollanda’da kendisini ziyaret etmeye çalıştığında sürekli otomatik ret cevabı aldığını söylediğini aktarıyor.
Büyük planın bir parçası
Öte yandan, algoritmik profilleme, Dışişleri Bakanlığı’nın maliyetleri düşürmeye yönelik daha geniş çaplı planının da merkezinde yer alıyor. Buna göre, bakanlıktan yetkililer, algoritmanın iş yükünün merkezî hâle gelmesine ve vaka çalışanlarının önyargılarının ortadan kaldırılmasına yardımcı olduğu görüşünü savunuyor. Buna ek olarak, yetkililer, konuya ilişkin olarak fikirlerine danışılan üç uzmanın algoritmik profilleme sisteminde uyruk kullanımının orantılı olduğu ve sistemin etnik köken bazlı ayrımcılığa yol açmadığı kanısına vardığını öne sürüyor.
Bu ilk değil
Bundan 4 yıl kadar önce Birleşik Krallık İçişleri Bakanlığı’nın da vize başvurularını işleme koymak için gizli bir algoritma kullandığı ortaya çıkmış; gelen tepkilerle birlikte göçmenlik uzmanları, bu algoritmanın vize başvurusunda bulunan bazı kişiler için milliyet ve yaş temelinde ayrımcılığa yol açabileceği konusunda uyarıda bulunmuştu. Buna göre, bakanlığın tüm çalışma, eğitim ve ziyaretçi vizesi talepleri için kullanılan “akış aracı” , başvuruları risk düzeylerine göre kırmızı, sarı veya yeşil olarak derecelendiriyor; bunlar da daha sonraki işlemler için vaka uzmanlarına iletiliyordu.
Göçmenlerin Refahı için Ortak Konsey (JCWI) ve dijital haklar grubu Foxglove sisteme karşı yasal bir mücadele başlatırken İçişleri Bakanlığı, tarafına yöneltilen “yerleşik ırkçılık” iddialarının ardından “Vize başvuru akış aracının nasıl çalıştığını gözden geçiriyoruz ve süreçlerimizi daha da akıcı ve güvenli hale getirmek için yeniden tasarlayacağız” açıklamasında bulunmuş; bunu takiben sistem askıya alınmıştı.
- Editörün önerisi: Hollanda’nın kullandığı, yazıya konu olan algoritma benzeri gözetim teknolojileri ve politikalarını teknik ve etik açıdan ele aldığımız “AI-tokrasi: Yapay zeka ve gözetim politikası” yazımızı ziyaret edebilirsiniz.
Kaydet
Okuma listesine ekle
Paylaş
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ BAŞLIKLAR
NEREDE YAYIMLANDI?
Hollanda'nın vize başvurusunda bulunan kişilerin etnik köken gibi değişkenlere bağlı olarak profillerini çıkarmasını sağlayan algoritması. Yapay zekanın seçim dönemlerindeki etkisi. Birleşik Krallık'tan Microsoft'a Activision engeli.
27 Nis 2023
YAZARLAR
İrem Denli
Teknoloji Editörü
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
İLGİLİ OKUMALAR
Tüketici elektroniği pazarında kullanıcıları ekrana maruz bırakan ürün sayısı her geçen gün artıyor. Ekran, pazarda doyum noktasına ulaşırken teknoloji şirketleri, ardı ardına ekransız ürün geliştirme furyasına katılıyor. Meta’nın Brain2Qwerty isimli yapay zeka teknolojisi ise ekran bağımlılığı sorununa çok daha inovatif bir çözüm sunuyor.
Influencerlık kendi döngüsünü geleneksel reklama dönüştürerek tamamladı. Pazar hâlâ büyüyor belki ama güven günden güne azalıyor. Tüketiciler ise bu kurgusal samimiyet ve aşırı tüketime karşı zırhlarını kuşanırken dijital kapitalizm illüzyonunun kalesini keşfetmekte gecikmedi elbette. Onun da adı yalnızlık. İşte tam bu noktada “yalnızlık influencer’lığı (loneliness / solitude influencer) adı verilen yeni bir içerik üreticisi profili yükselişe geçti.
Son birkaç yılda teknoloji arenası, pek çok işin yapay zekaya devredilmeye çalışıldığı bir atmosfere sahne oldu. Maliyet tasarrufu ve verimlilik artışı vaatleriyle gelen yapay zeka, birkaç yıl boyunca toplu işten çıkarmaların da ana gerekçelerinden biriydi. Yapay zekanın hâlâ gideri kadar gelir üretemediği 2026 yılında ise CEO’lar, işten çıkardıkları çalışanların, harcadıkları token’dan daha fazla maliyet yarattığını fark ettikleri bir eşiğe geldi.
Son yıllarda Amazon, Google ve OpenAI gibi pek çok şirket, kendi yapay zeka çiplerini duyurdu. Daha önce sektördeki yaygın eğilim, NVIDIA’nın rüştünü ispatlamış çiplerine güvenmek iken öncü şirketler, yakın zamanda ardı ardına bu eğilimin dışına çıkmaya başladı. Bu furya, oldukça kritik bir soruyu da gündeme taşıdı: Neden tüm teknoloji şirketleri, kendi yapay zeka çiplerini geliştiriyor?
Modern reklam hukuku, mesajın içeriğinin doğru olup olmadığına odaklanır. Ancak yapay zeka, artık mesajı ileten kişinin gerçekten var olup olmadığını da hukukun konusu hâline getiriyor. Ticaret Bakanlığı'nın 1 Ağustos'ta yürürlüğe girecek yönetmelik değişikliği de dijital kopyaların reklamlarda kullanılmasına kısıtlamalar getiriyor ve bunu yaparken dolandırıcılık içeriklerini esas alıyor. Peki ya amaç dolandırıcılık olmadığında?
