AI-tokrasi: Yapay zeka ve gözetim politikası

Giderek gelişen yapay zeka teknolojisi, toplumun birçok sorunu için potansiyel çözümler sunuyor. Hastalıkların tahmin ve tespit edilmesinden hava durumu ve trafik yoğunluğu tahminine, futbol takımlarının strateji oluşturmasından araba kullanmaya ve idari işler gibi sıkıcı görevleri otomatikleştirmeye kadar yapay zeka yaşamın pek çok alanını kolaylaştırıyor.

Öte yandan, yapay zekanın yükselen kullanım alanlardan biri de “gözetim” olarak karşımıza çıkıyor.

Haritalama, izleme ve "kontrol"

Kalıpları tanımak ve kararlar vermek için algoritmalardan yararlanan yapay zeka uygulamaları, bu algoritmaları eğitmek için büyük miktarda veri kullanır. Yapay zeka algoritmalarının beslendiği bu verilerin çoğuysa tüketiciler farkında bile olmadan toplanır. Örneğin, büyük internet şirketleri; tüketicilerin internette ne gibi ürünler, makaleler veya reklamlar görmek istediğine yönelik yerinde tahminler yürütmek için “tıklanmaları” izler. Yüz tanıma şirketi Clearview AI ise tartışmalı yapay zeka modelini eğitmek için Facebook ve YouTube gibi platformlardaki görüntülerden faydalanır. Aynı şekilde, metni görselleştiren yapay zeka teknolojisi de çalışmak için internetteki verilere güveniyor.

Gel gelelim bu algoritmalar günümüzde gözetim tarafından sadece desteklenmiyor, aynı zamanda gözetim uygulamalarının amaçlarına hizmet etmesi için de kullanılıyor.

Kendi kendini eğitebilme yeteneği nedeniyle yapay zeka yazılımları, gözetim sektöründe giderek daha etkin bir rol oynuyor. Geleneksel anlamıyla bir kişinin hareketlerini anbean takip etmek olarak tanımlanabilecek gözetim altyapısı kurmak için hükümetler, dünyanın her bir yanından milyonlarca kameranın yapay zeka teknolojisiyle işlenmesi ve gerçek zamanlı sonuçlar vermesi amacıyla çok büyük miktarda yatırımlar yapıyor; ancak insanları haritalamak, izlemek ve bir noktada kontrol etmek gibi çeşitli politika amaçlarına ulaşma imkanı sağlayan yapay zeka gözetim teknolojilerinin bazıları meşru bazıları insan haklarını ihlal edici cinsteyken bazıları da “gri” bir alana düşüyor.

Pandemiyle gelen "veri" fırsatı

Eğitim ve çalışma hayatının çevrimiçi bir ortama geçiş yaptığı, halk sağlığı alanında hızlı verilere ihtiyaç duyulduğu Covid-19 pandemisi, hükümetlerin vatandaşlarını izlemesini kolaylaştırarak çok büyük ölçekte veri toplamasının önünü açtı. Bu süreçte kimi şirketler çalışanların ve müşterilerin sosyal mesafe kurallarına uyup uymadığını kontrol etmek için yapay zeka ile donatılmış kameralar kurarken Fransa gibi bazı ülkeler de vatandaşlarının maske takıp takmadığını izlemek amacıyla toplu taşıma araçlarında yüz tanıma teknolojilerinden yararlandı.

Ancak hükümetlerin insanları takip etmek için yapay zekayı kullanması Covid-19 pandemisiyle başlamadığı gibi, bu teknolojinin kullanım alanı da sadece Covid-19 alanıyla kısıtlı kalmıyor. AIGS (Yapay Zeka Küresel Gözetleme) endeksine göre, 2020 itibarıyla 176 ülkeden en az 75’i farklı nedenlerle vatandaşlarının hareketlerini takip etmek için gözetim teknolojilerini aktif olarak kullanıyor. Bu ülkelerin başında ise en az 60 ülkeye yapay zeka tabanlı teknoloji sağladığı bilinen Çin yer alıyor.

Yapay zekayı gözetim alanında pek çok farklı şekilde kullanan Çin’in bu teknolojiyi kullanımına bir örnek vermek gerekirse; Çin’in Anhui eyaletinde bulunan Hefei’deki bir yapay zeka enstitüsü, bundan birkaç ay önce Komünist Parti üyelerinin partilerine duydukları “sadakati” ölçebilen bir yazılım geliştirdiğini açıkladı. Kamuoyunda tepkilere yol açan bu teknoloji, analistler tarafından Çin’in büyük veri, makine öğrenimi, yapay zeka ve yüz tanıma kullanarak “insanların beynine ve zihnine girmek” için geliştirilen acımasız bir “dijital diktatörlük” olarak değerlendirildi. Açıkçası, böylesine bir teknolojinin özellikle de baskıcı rejimlerde ne gibi sonuçlar doğurabileceğini tahmin etmek çok da zor değil.

Yapay zeka sektöründeki bir diğer büyük oyuncu ise ABD olarak öne çıkıyor. Buna göre, ABD merkezli teknoloji şirketleri tarafından geliştirilen yapay zeka gözetim teknolojilerinin 32 ülkede kullanıldığı biliniyor. Bu şirketlerden IBM’in teknolojilerinin 11, Palantir’in 9 ve Cisco’nun da 6 ülkeye gözetim teknolojileri sağladığı belirtiliyor. Ancak ABD, yapay zeka teknolojisini benimsediği kadar karşı da çıkıyor. Yapay zekanın olası tehlikelerinden korkan bazı eyaletler ve şehirler, bu teknolojinin kullanımını yasaklıyor. Mesela, Oregon eyaletinde bulunan Portland, şehir departmanlarının yanı sıra mağazalar, restoranlar ve otellerde yüz tanıma teknolojisinin kullanılmasını yasaklarken New York da okullarda bu teknolojinin kullanılmasını yasakladı.

Öte yandan, şu an hemen hemen bütün Avrupa ülkelerinde yüz tanıma teknolojileri kullanılıyor. Mesela Hollanda şüphelilerin fotoğraflarını bir suçlu veritabanıyla eşleştirmek için kullanırken, Londra polisi de benzer şekilde bir veritabanındaki suçlularla yüzleri eşleştirmek için yapay zekadan yararlanıyor. Fransa'da ise yapay zeka, “şüpheli davranışların” izlenmesi ve olası suçların gerçekleşmeden önce engellenmesi için kullanılmakta; tıpkı izleyenlerin Person of Interest’ten de hatırlayabileceği gibi.

^{Person of Interest Wiki}

Bunlarla birlikte, AIGS endeksinde gelişmiş demokrasilerin %51’inde, kapalı otokratik devletlerin %37’sinde, seçime dayalı otokratik/rekabetçi otokratik devletlerin %41’inde ve seçime dayalı/liberal olmayan demokrasilerin de %41’inde yapay zeka gözetim teknolojilerinin kullanıldığı aktarılıyor.

Tahmine dayalı teknolojiler

Gözetim teknolojilerinin hızla benimsenmesiyle birlikte, bu teknolojilerin toplumların değerleri ve insan hakları için ne ifade ettiği gibi sorular da gündeme geliyor. Yapay zekanın gözetim için kullanılmasını savunanlar bu teknolojinin göçmenlerin tespit edilmesi ya da suçluların yakalanması için güçlü bir araç olduğunu söylerken bu fikre karşı olanlar da özellikle de yüz tanıma gibi işin özünde “tahmine” dayalı olan teknolojilerin bireysel güvenlik için tehdit oluşturduğunu düşünüyor.

Konuya ilişkin olarak insanlar hakkında seslerine, nasıl göründüklerine veya yürüdüklerine göre çıkarımlar yapan “biyometrik tanımlama” algoritmaları hakkında bir dijital haklar grubu olan EDRi’den Ella Jakubowska, yapay zeka teknolojisinin bu şekilde kullanımının “bilimsel bir tarafının bulunmadığını” belirtiyor.

En çok kimin için tehdit oluşturuyor?

Genel olarak bakıldığında yapay zekanın gözetim için kullanılması, yanlış ve kendi çıkarına hizmet eden ellerde ona maruz kalan herkes için tehlike teşkil ediyor; ancak olayın özüne biraz daha indiğimizde en büyük tehlike altında olan gazeteciler, yazarlar, siyaset insanları ve aktivistler gibi hâlihazırda hükümetler tarafından yakinen takip edilenler olarak karşımıza çıkıyor. Ülkenin her bir yanına döşenen kameralarla bir “yapay zeka gözetim ağı” oluşturulması, özellikle de baskıcı yönetimlerde hükümetin yaptıklarını yüksek sesle eleştirenler ve bu eleştirileri büyük kitlelerce duyulan kişilerin her an, her yerde gözetim altında olacağı anlamına geliyor.

Bununla birlikte, aktivistler, bu sistemlerin marjinal gruplara verebileceği olası zarara karşı en yakın zamanda harekete geçilmesi gerektiği konusunda da uyarıyor. Biyometrik tanıma sistemlerinin özellikle de kadınların ve beyaz olmayan insanların yüzlerini doğru bir şekilde tanımlamakta şimdiye kadar çok iyi bir iş çıkardığı söylenemez. Bu, bir yapay zekanın, eğitilmesi için kullanılan verilerin ne derece tarafsız olduğuyla doğru orantılı derecede tarafsız olacağı gerçeğiyle birleştirildiğinde, yanlış kararlar sonucu masum insanların cezalandırılabileceği anlamına geliyor. Mesela, bir yapay zeka, siyahlar tarafından işlenen suç oranının yüksek olduğu yerlerde bir suçu işleyen kişi beyaz olsa dâhi suçlunun bir siyah olduğu yönünde yanlış ve taraflı bir sonuca ulaşabilir.