Otomatik Irkçılık

Gelin, robotların hayatımızda daha aktif rol oynadığı yakın geleceğe bir göz atalım. Uzun bir günün sonunda işten çıkıp eve dönmüşsünüz. Elleriniz çok dolu ve yorgunsunuz. Neyse ki, otomatik kapınızda yüz tanıma teknolojisi var. Elinizdekileri bırakıp çantanızın diplerinde anahtarınızı bulmaya çalışmak yerine hemen içeri giriyorsunuz. Artık anahtarı evde unutma derdi yok. Balkona tırmanmak, çilingir çağırmak geçmişte kaldı.

Bu hayal ne kadar hoş gelse de mevcut durumuyla yüz tanıma teknolojisi, belli zorlukları da beraberinde getiriyor. Kısa bir süre önce eşine Apple marka bir cep telefonu alan Çinli adam, aynı telefonu yüz tanıma teknolojisi ile oğlunun da açabildiğini fark etti. İngiltere’de pasaportunu yenilemek isteyen siyahi bir adamın fotoğrafı, adamın dudaklarının büyüklüğü nedeniyle ağzını açık sanan yüz tanıma teknolojisi tarafından reddedildi.

Bu gibi minik görünen sorunlar, üstteki senaryoyu ele aldığımızda ciddi sıkıntılara yol açabilir. Mesela, Asyalı bir ev sahibi kendisini hırsızdan ayırt edemeyen algoritma yüzünden bütün mal varlığını kaybedebilir. Bunun yanı sıra, günümüzde yüz tanıma teknolojisi, şüphelileri belirlemek için kolluk güçleri tarafından kullanılmaktadır. Hâlbuki bahsi geçen sıkıntılar göz önünde bulundurulduğunda, yüz tanıma teknolojisinin azınlıkların kimliğinin yanlış tespit edilmesine ve dolayısıyla masum kişilerin mahkûmiyetine sebep olması güçlü bir ihtimaldir.

MIT tarafından yapılan bir araştırma göre; Microsoft, Face ++ ve IBM’in yüz tanıma algoritmaları, Afro-Amerikalı kadınları tanımada yüksek hata oranlarıyla karşılaşıyor. Aynı teknolojilerin açık tenli erkekler söz konusu olduğunda ise yüz tanıma doğruluğu yüzde yüze çok yakın.

Peki, bir yapay zekâ nasıl ırkçı ve cinsiyetçi olabilir?

Bu sorunun yanıtı, teknolojinin ağırlıklı olarak beyaz erkekler tarafından geliştirilmesinde yatıyor. Yapay zekâyı eğitirken çoğunlukla açık tenli erkeklerin yüzlerini içeren verilerin kullanılması, bu teknolojilerin açık tenli erkekler dışındaki kişiler söz konusu olduğunda daha fazla hata yapmasına neden oluyor. Bu noktada, azınlıkları daha iyi temsil etme konusunda yazılımcılara ve teknoloji şirketlerine büyük bir sorumluluk düşüyor.

Bu şekilde “ırkçı” yaratılabilmelerinin yanı sıra algoritmaların, insan haklarını ihlal edici nitelikte kullanıldığı da görülmektedir. Örneğin, Çin'in Uygur Müslümanlarını izlemek ve profillemek için güvenlik kamerası ağlarına entegre edilen yüz tanıma teknolojisi kullandığı söylenmektedir.

İdeal bir dünyada yüz tanıma teknolojilerinin “Person of Interest”teki gibi insanların hayatını kurtarmak için kullanılacağı iddia edilebilecekse de mevcut durumun böyle olduğunu söylemek güçtür. Zira, söz konusu teknolojilerin kimi zaman insan haklarını ihlal seviyesine ulaşabilen, hükûmetlerin kendi çıkarlarını korumak için kullandığı bir kitle gözetim aracına dönüştüğü gözlenmektedir.

Bu doğrultuda yüz tanıma teknolojisi; insan hakları ve teknoloji arasındaki sınırın dikkatli çizilmesi gerektiğini gözler önüne seriyor.