Fransız veri koruma otoritesi CNIL, Clearview AI'a 5.200.000 € <a fr-original-style="" href="https://www.cnil.fr/en/facial-recognition-cnil-decided-impose-overdue-penalty-payment-clearview-ai" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">para cezası</a> verdi. Clearview AI, sosyal ağlar da dahil olmak üzere çok çeşitli web sitelerinden fotoğraflar toplayarak bir kişinin fotoğraf kullanılarak aranabileceği bir arama motoru aracılığıyla, insanların görüntülerinden oluşan veri tabanına erişimi kolluk kuvvetlerine satmış ve bundan dolayı CNIL tarafından 17 Ekim 2022'de 20 milyon € tutarında para cezasına çarptırılmış; buna ek olarak şirkete Fransa'da ikamet eden kişiler hakkında herhangi bir yasal dayanak olmaksızın veri işlememesi ve toplanmış olan bu verilerin imhası kararı <a fr-original-style="" href="https://www.cnil.fr/en/facial-recognition-20-million-euros-penalty-against-clearview-ai" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">verilmişti</a>.&nbsp;Clearview AI'ın CNIL'in kararına uyması için iki ayı vardı ancak şirket bu süre içinde herhangi bir uygunluk kanıtı sunmamış. Akabinde 13 Nisan 2023'te de CNIL, şirketin emre uymadığını değerlendirerek Clearview AI'a Ekim 2022'deki cezaya ek olarak 5.200.000 €'luk ek bir ceza kararı verdi.2022'deki kararda Clearview AI'ın Fransa'daki milyonlarca internet kullanıcısının internette bulunan görüntülerinin toplanmasını mümkün kılan müdahaleci ve yoğun faaliyetleri göz önüne alındığında, bu verileri toplamak ve kullanmak konusunda Clearview AI'ın meşru bir menfaatinin bulunmadığı vurgulanmıştı. Keza sosyal medya da dahil olmak üzere çeşitli web siteleri üzerinden fotoğraflarına veya videolarına erişilebilen kişiler, görüntülerinin devletlerin kolluk kuvvetleri tarafından kullanılabilecek bir yüz tanıma sistemi sağlamak amacıyla Clearview AI tarafından işlenmesini makul bir şekilde beklemedikleri de belirtilmişti.&nbsp;KİM'in veri tabanını üreten, derleyen ya da bu veri tabanı için veri toplayan şirket(ler) için benzeri bir süreç ülkemizde olur mu bilemeyiz, ancak KİM'in ses getirdiği bu günlerde Clearview AI'ın tekrar gündeme gelmesi manidar oldu.Bu yazı Verini Koru gönüllüsü Arda Altınok&nbsp;tarafından hazırlanarak, 17.05.2023 tarihli bültenimizde yayınlanmıştır.

Veri Koruma ve Mahremiyet Gündemi

KİM uygulaması geçtiğimiz günlerde epey ses getirmişti. Peki ne yapıyordu bu KİM? Temelinde yüz tanıma vardı.  Gelin şimdi Fransız veri koruma otoritesi CNIL'in yüz tanıma şirketi Clearview AI'a verdiği para cezasına odaklanalım.

Yüz tanıma şirketine 5.200.000 € para cezası verildi

Giderek gelişen yapay zeka teknolojisi, toplumun birçok sorunu için potansiyel çözümler sunuyor. Hastalıkların tahmin ve tespit edilmesinden hava durumu ve trafik yoğunluğu tahminine, futbol takımlarının strateji oluşturmasından araba kullanmaya ve idari işler gibi sıkıcı görevleri otomatikleştirmeye kadar yapay zeka yaşamın pek çok alanını kolaylaştırıyor.Öte yandan, yapay zekanın yükselen kullanım alanlardan biri de “gözetim” olarak karşımıza çıkıyor.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Haritalama, izleme ve "kontrol"</h2>Kalıpları tanımak ve kararlar vermek için algoritmalardan yararlanan yapay zeka uygulamaları, bu algoritmaları eğitmek için büyük miktarda veri kullanır. Yapay zeka algoritmalarının beslendiği bu verilerin çoğuysa tüketiciler farkında bile olmadan toplanır. Örneğin, büyük internet şirketleri; tüketicilerin internette ne gibi ürünler, makaleler veya reklamlar görmek istediğine yönelik yerinde tahminler yürütmek için “tıklanmaları” izler. Yüz tanıma şirketi Clearview AI ise tartışmalı yapay zeka modelini eğitmek için Facebook ve YouTube gibi platformlardaki görüntülerden <a fr-original-style="" href="https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">faydalanır.</a> Aynı şekilde, <a fr-original-style="" href="https://aposto.com/s/metni-gorsellestiren-yapay-zeka-teknolojisinin-yukselisi-94f" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">metni görselleştiren yapay zeka teknolojisi</a> de çalışmak için internetteki verilere güveniyor.Gel gelelim bu algoritmalar günümüzde gözetim tarafından sadece desteklenmiyor, aynı zamanda gözetim uygulamalarının amaçlarına hizmet etmesi&nbsp;için de kullanılıyor.Kendi kendini eğitebilme yeteneği nedeniyle yapay zeka yazılımları, gözetim sektöründe giderek daha etkin bir rol oynuyor. Geleneksel anlamıyla bir kişinin hareketlerini anbean takip etmek olarak tanımlanabilecek gözetim altyapısı kurmak için hükümetler, dünyanın her bir yanından milyonlarca kameranın yapay zeka teknolojisiyle işlenmesi ve gerçek zamanlı sonuçlar vermesi amacıyla çok büyük miktarda yatırımlar yapıyor; ancak insanları haritalamak, izlemek ve bir noktada kontrol etmek gibi çeşitli politika amaçlarına ulaşma imkanı sağlayan yapay zeka gözetim teknolojilerinin bazıları meşru bazıları insan haklarını ihlal edici cinsteyken bazıları da “gri” bir alana düşüyor.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Pandemiyle gelen "veri" fırsatı</h2>Eğitim ve çalışma hayatının çevrimiçi bir ortama geçiş yaptığı, halk sağlığı alanında hızlı verilere ihtiyaç duyulduğu Covid-19 pandemisi, hükümetlerin vatandaşlarını izlemesini kolaylaştırarak çok büyük ölçekte veri toplamasının önünü açtı. Bu süreçte kimi şirketler çalışanların ve müşterilerin sosyal mesafe kurallarına uyup uymadığını kontrol etmek için yapay zeka ile donatılmış kameralar <a fr-original-style="" href="https://www.reuters.com/article/us-health-coronavirus-surveillance-tech-idUSKCN22914R" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">kurarken</a> Fransa gibi bazı ülkeler de vatandaşlarının maske takıp takmadığını izlemek amacıyla toplu taşıma araçlarında yüz tanıma teknolojilerinden <a fr-original-style="" href="https://www.theverge.com/2020/5/7/21250357/france-masks-public-transport-mandatory-ai-surveillance-camera-software" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">yararlandı.</a>Ancak hükümetlerin insanları takip etmek için yapay zekayı kullanması Covid-19 pandemisiyle başlamadığı gibi, bu teknolojinin kullanım alanı da sadece Covid-19 alanıyla kısıtlı kalmıyor. <a fr-original-style="" href="https://carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">AIGS</a> (Yapay Zeka Küresel Gözetleme) endeksine göre, 2020 itibarıyla 176 ülkeden en az 75’i farklı nedenlerle vatandaşlarının hareketlerini takip etmek için gözetim teknolojilerini aktif olarak kullanıyor. Bu ülkelerin başında ise en az 60 ülkeye yapay zeka tabanlı teknoloji sağladığı bilinen Çin yer alıyor.Yapay zekayı gözetim alanında pek çok farklı şekilde kullanan Çin’in bu teknolojiyi kullanımına bir örnek vermek gerekirse; Çin’in Anhui eyaletinde bulunan Hefei’deki bir yapay zeka enstitüsü, bundan birkaç ay önce Komünist Parti üyelerinin partilerine duydukları “sadakati” ölçebilen bir yazılım geliştirdiğini <a fr-original-style="" href="https://www.independent.co.uk/tech/ai-china-loyalty-communist-party-b2120173.html" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">açıkladı.</a> Kamuoyunda tepkilere yol açan bu teknoloji, analistler tarafından Çin’in büyük veri, makine öğrenimi, yapay zeka ve yüz tanıma kullanarak “insanların beynine ve zihnine girmek” için geliştirilen acımasız bir “dijital diktatörlük” olarak değerlendirildi. Açıkçası, böylesine bir teknolojinin özellikle de baskıcı rejimlerde ne gibi sonuçlar doğurabileceğini tahmin etmek çok da zor değil.Yapay zeka sektöründeki bir diğer büyük oyuncu ise ABD olarak öne çıkıyor. Buna göre, ABD merkezli teknoloji şirketleri tarafından geliştirilen yapay zeka gözetim teknolojilerinin 32 ülkede kullanıldığı <a fr-original-style="" href="https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">biliniyor.</a> Bu şirketlerden IBM’in teknolojilerinin 11, Palantir’in 9 ve Cisco’nun da 6 ülkeye gözetim teknolojileri sağladığı belirtiliyor. Ancak ABD, yapay zeka teknolojisini benimsediği kadar karşı da çıkıyor. Yapay zekanın olası tehlikelerinden korkan bazı eyaletler ve şehirler, bu teknolojinin kullanımını yasaklıyor. Mesela, Oregon eyaletinde bulunan Portland, şehir departmanlarının yanı sıra mağazalar, restoranlar ve otellerde yüz tanıma teknolojisinin kullanılmasını <a fr-original-style="" href="https://edition.cnn.com/2020/09/09/tech/portland-facial-recognition-ban/index.html" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">yasaklarken</a> New York da okullarda bu teknolojinin kullanılmasını yasakladı.Öte yandan, şu an hemen hemen bütün Avrupa ülkelerinde yüz tanıma teknolojileri kullanılıyor. Mesela Hollanda şüphelilerin fotoğraflarını bir suçlu veritabanıyla eşleştirmek için kullanırken, Londra polisi de benzer şekilde bir veritabanındaki suçlularla yüzleri eşleştirmek için yapay zekadan yararlanıyor. Fransa'da ise yapay zeka, “şüpheli davranışların” izlenmesi ve olası suçların gerçekleşmeden önce engellenmesi için <a fr-original-style="" href="https://www.politico.eu/article/french-politicians-urge-deployment-of-surveillance-technology-after-series-of-attacks/" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">kullanılmakta</a>; tıpkı izleyenlerin Person of Interest’ten de hatırlayabileceği gibi.<img src="https://images.aposto.com/2022/9/0/1666560945757.jpeg" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.79" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">Person of Interest WikiBunlarla birlikte, AIGS endeksinde gelişmiş demokrasilerin %51’inde, kapalı otokratik devletlerin %37’sinde, seçime dayalı otokratik/rekabetçi otokratik devletlerin %41’inde ve seçime dayalı/liberal olmayan demokrasilerin de %41’inde yapay zeka gözetim teknolojilerinin kullanıldığı aktarılıyor.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Tahmine dayalı teknolojiler</h2>Gözetim teknolojilerinin hızla benimsenmesiyle birlikte, bu teknolojilerin toplumların değerleri ve insan hakları için ne ifade ettiği gibi sorular da gündeme geliyor. Yapay zekanın gözetim için kullanılmasını savunanlar bu teknolojinin göçmenlerin tespit edilmesi ya da suçluların yakalanması için güçlü bir araç olduğunu söylerken bu fikre karşı olanlar da özellikle de yüz tanıma gibi işin özünde “tahmine” dayalı olan teknolojilerin bireysel güvenlik için tehdit oluşturduğunu düşünüyor.Konuya ilişkin olarak insanlar hakkında seslerine, nasıl göründüklerine veya yürüdüklerine göre çıkarımlar yapan “biyometrik tanımlama” algoritmaları hakkında bir dijital haklar grubu olan EDRi’den Ella Jakubowska, yapay zeka teknolojisinin bu şekilde kullanımının “bilimsel bir tarafının bulunmadığını” <a fr-original-style="" href="https://www.politico.eu/article/the-rise-of-ai-surveillance-coronavirus-data-collection-tracking-facial-recognition-monitoring/" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">belirtiyor.</a><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">En çok kimin için tehdit oluşturuyor?</h2>Genel olarak bakıldığında yapay zekanın gözetim için kullanılması, yanlış ve kendi çıkarına hizmet eden ellerde ona maruz kalan herkes için tehlike teşkil ediyor; ancak olayın özüne biraz daha indiğimizde en büyük tehlike altında olan gazeteciler, yazarlar, siyaset insanları ve aktivistler gibi hâlihazırda hükümetler tarafından yakinen takip edilenler olarak karşımıza çıkıyor. Ülkenin her bir yanına döşenen kameralarla bir “yapay zeka gözetim ağı” oluşturulması, özellikle de baskıcı yönetimlerde hükümetin yaptıklarını yüksek sesle eleştirenler ve bu eleştirileri büyük kitlelerce duyulan kişilerin her an, her yerde gözetim altında olacağı anlamına geliyor.Bununla birlikte, aktivistler, bu sistemlerin marjinal gruplara verebileceği olası zarara karşı en yakın zamanda harekete geçilmesi gerektiği konusunda da uyarıyor. Biyometrik tanıma sistemlerinin özellikle de kadınların ve beyaz olmayan insanların yüzlerini doğru bir şekilde tanımlamakta şimdiye kadar çok iyi bir iş çıkardığı söylenemez. Bu, bir yapay zekanın, eğitilmesi için kullanılan verilerin ne derece tarafsız olduğuyla doğru orantılı derecede tarafsız olacağı gerçeğiyle birleştirildiğinde, yanlış kararlar sonucu masum insanların cezalandırılabileceği anlamına geliyor. Mesela, bir yapay zeka, siyahlar tarafından işlenen suç oranının yüksek olduğu yerlerde bir suçu işleyen kişi beyaz olsa dâhi suçlunun bir siyah olduğu yönünde yanlış ve taraflı bir sonuca ulaşabilir.

Quando

    

AI-tokrasi: Yapay zeka ve gözetim politikası

• <a fr-original-style="" href="https://www.engadget.com/ukraine-russia-clearview-ai-facial-recognition-143456121.html" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Ukraine is using Clearview AI's facial recognition technology</a> for purposes like identifying Russian soldiers and dead bodies as well as assessing checkpoints and fighting misinformation, the company's CEO Hoan Ton-That claimed. The CEO told Reuters that Clearview offered Ukraine's defense ministry free access to its system following Russia's invasion.<img src="https://images.aposto.com/2022/2/1/1647293147212.jpeg" style="display: block; float: none; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" ratio="1.80" width="550" alt="Clearview AI" fr-original-style="display: block; float: none; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">via Euractiv<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; list-style-position: inside; box-sizing: border-box;"><li fr-original-style="" style="box-sizing: border-box;">Controversy: Clearview's technology has come under fire from many countries over the last few years. The tech company was fined €20 million this month by Italy and previously £17 million (€20mn) in November by the UK government for breaking data protection laws. France, Canada and Australia are among the countries that called on Clearview to delete images of its residents and citizens. It is facing privacy lawsuits in the US too, where platforms like Meta, Google and Twitter demanded Clearview to stop scraping images off their platforms.</li></ul>

Aposto World

•&nbsp;<a fr-original-style="" href="https://www.bbc.com/news/business-59466803" rel="noopener noreferrer" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Birleşik Krallık Bilgi Komisyonu Ofisi,</a> güvenlik güçlerinin de yüz tanıma teknolojisini kullandığı Avustralya merkezli yüz tanıma firması Clearview'ın vatandaşların kişisel verilerini "kimsenin beklemeyeceği şekilde" işlediğini, bu durumun endişe verici olduğunu söyledi. Ofis, firmadan veri işlemeyi durdurmasını ve elindeki verileri silmesini talep etti. &nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; list-style-position: inside; box-sizing: border-box;"><li fr-original-style="" style="box-sizing: border-box;">Potansiyel ceza: Firmanın kişisel verileri "adil şekilde işlemediği, süresiz olarak sakladığı ve verilerin ne olduğu konusunda bilgilendirmediği" için 17 milyon sterlinlik bir para cezası ödemek zorunda kalabileceği belirtildi.&nbsp;</li><li fr-original-style="" style="box-sizing: border-box;">Nedir? Clearview'ın yüz tanıma teknolojisi, bir kişinin yüzünün fotoğrafının sisteme yüklenmesiyle o kişiye ait internet veri tabanında bulunan görselinin kullanıldığı bilgilerin toplanıp, arama yapan kişiye teslim edilmesini sağlıyor. Bu teknoloji daha önce de Birleşik Krallık'ta eleştirilmiş; ancak güvenlik güçleri kullanmaya devam etmişti.&nbsp;</li></ul>

Aposto Gündem

• San Diego Polis Departmanı, Clearview AI kullanımını yasakladığını <a target="_blank" rel="noopener noreferrer" href="https://www.engadget.com/2020/03/16/san-diego-police-ban-clearview-ai-facial-recognition-tool/">açıkladı.</a>&nbsp;<ul><li>Clearview AI: Müşterilerinin arattığı bir yüzün, kişilerin internete yükledikleri fotoğraf ve videoları kaydederek oluşturduğu veri tabanındaki&nbsp;eşleşmelerini sunan programı yüzlerce polis departmanı ve istihbarat kurumunun denediği <a target="_blank" rel="noopener noreferrer" href="https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html">ortaya çıkmış</a>; bu olay kişisel verilerin korunması ve gizlilik konularında tartışma <a target="_blank" rel="noopener noreferrer" href="https://www.biometricupdate.com/202003/california-residents-file-class-action-against-clearview-ai-biometric-data-collection-citing-ccpa">yaratmıştı</a>.</li></ul>

Clearview ile ilgili hikayeler