'Dönüm noktası': AB'nin Yapay Zeka Yasası ne getirecek?

Facebook, 4 Şubat 2004'te kullanıma sunuldu. Yani Avrupa Birliği'nin (AB) bu yıl yürürlüğe giren ve çevrimiçi insan haklarını korumak için tasarlanan Dijital Hizmetler Yasası'nın kabul edilmesinden neredeyse 20 yıl önce. Bu 20 yılda Avrupalı yetkililerin sosyal medyayla birlikte başlayan değişime tepki vermekte gecikmesi, ABD merkezli platformların yarattığı sorunlara çözüm bulmakta zorlanmalarına, daha küçük ölçekli Avrupa merkezli rakiplerin aşırı rekabetçi ortamda tutunamayarak yitip gitmesine ve bugün geldiğimiz noktada sosyal medya platformlarının kontrol edilmesi çok güç bir noktaya gelmesine neden oldu. 

• Avrupa Parlamentosu'nun bu konudaki iki baş müzakerecisinden biri olan Brando Benifei, Temmuz ayında WIRED'a verdiği demeçte, "Belki de daha erken bir düzenleme ile sorunları daha iyi önleyebilirdik" ifadelerini kullanmıştı.

Ancak AB, aynı hatanın yapay zeka alanında da tekrarlanmaması için ipleri eline daha erken almak konusunda dersini almış gibi görünüyor.

2023'te hükümetler ve yetkili kurumları en çok meşgul eden konuların başında yapay zeka geliyordu. 2022 yılı sonlarında gündeme giren, son bir yılda ise yükselişini roket hızına çıkaran yapay zekayı regülasyon çerçevesine almak isteyen hükümetlerin önünde ise zorlu bir ikilem var: İnovasyonun önüne geçmeden riskleri bertaraf etmenin en etkin yolunu bulmak. Başka bir deyişle, yapay zekanın faydalı taraflarından vazgeçmeden, olası zararlarını ayıracak şekilde bir elekten geçirmek.

Avrupa Birliği'nin teknoloji alanında yapacağı bir düzenlemenin, AB sınırları dışında da benimsenmesi yüksek ihtimal olarak değerlendiriliyor. Genellikle çoğu global şirket, birden fazla rejime uyum sağlamak yerine tüm ürün ve pazarlarında AB kurallarını benimsemeyi tercih ediyor. Hükümetler de yerel firmaların büyük oyuncularla rekabet edebilmesini kolaylaştırmak amacıyla AB kurallarını benimsemeye başlıyor. "Brüksel etkisi" olarak bilinen bu durumun, en önemli örneklerinden biri, 2018'de yürürlüğe giren ve hızla küresel standart hâline gelen Genel Veri Koruma Yönetmeliği (GDPR) olmuştu.

AB, gücünü yapay zekada test etmeye hazırlanıyor

OpenAI başta olmak üzere yapay zeka şirketlerinin nasıl bir düzenlemeye tabi olabileceği konusundaki tartışmalar aylardır sürüyordu. Sonunda 8 Aralık'ta AB, yapay zeka teknolojileri üzerine çalışan şirketler için geniş kapsamlı bir kural kitapçığı olan Yapay Zeka Yasası'nın ayrıntıları üzerinde anlaştığını bildirdi. AB'nin Parlamento, Konsey ve Komisyon kanatlarının üçünün de üzerine uzlaştığı yasa, "dönüm noktası" olarak nitelendiriliyor ve dünyanın geri kalanı için de bir şablon işlevi görmesi bekleniyor.

Yasa aslında ilk olarak Nisan 2021'de tasarlanmıştı. Ancak yeni kuralların müzakere edildiği iki yıllık süreçte, hem genel anlamda yapay zeka teknolojisi hem de bu teknolojinin doğurduğu endişeler önemli ölçüde değişti. 2021'de yetkililerin endişeleri, kimin işe alınacağı, kime mülteci statüsü verileceği, sosyal yardımlardan kimlerin yararlanacağı gibi konularda karar veren algoritmalar üzerine yoğunlaşıyordu. 2022 yılında ise yapay zekanın insanlara doğrudan zarar verdiği örneklere şahitlik ettik. Hollanda'da algoritmalar tarafından verilen kararlarla aileler çocuklarından zorla ayrılırken, uzaktan eğitim gören öğrencilerin yapay zeka tarafından ten renklerine göre ayrımcılık gördükleri iddiaları gündeme girdi. 

Kasım 2022'de OpenAI'ın ChatGPT'yi kullanıma sunması ise yapay zeka sahnesini kökünden dönüştürdü. Yapay zekanın çevresinde dönen tartışmalar da dramatik bir şekilde değişti. Teknolojinin popülerliğinin artması ve erişim kolaylığı, pek çok uzmanın alarma geçmesine neden oldu.

Avrupa Komisyonu Başkanı Ursula von der Leyen, dünyada bir ilk olduğunu belirttiği yasaya ilişkin olarak "Anlaşma, Avrupa'da sorumlu yeniliği teşvik edecek. İnsanların ve işletmelerin güvenliğini ve temel haklarını garanti ederek, AB'de güvenilir yapay zekanın geliştirilmesini, konuşlandırılmasını ve benimsenmesini destekleyecektir" ifadelerini kullanıyor. AB Komisyonu Üyesi Thierry Breton ise "tarihî" olarak nitelendirdiği yasanın "bir kural kitapçığından çok daha fazlası olduğunu," AB'deki girişimlerin ve araştırmacıların küresel yapay zeka yarışına liderlik etmeleri için bir "sıçrama tahtası" olduğunu kaydediyor.

Öte yandan, yasanın bir ilk olmadığını da belirtmek gerekiyor. Çin'in jeneratif yapay zeka için hazırladığı kurallar, Ağustos ayında yürürlüğe girmişti. Ancak, AB'nin yapay zeka yasası, şu an için türünün en kapsamlı ve güçlü örneği olarak öne çıkıyor. Cinsel yönelim, cinsiyet ve ırk gibi hassas özellikleri kullanarak insanları tanımlayan biyometrik sistemlere ve gerçek insanlara ait yüzlerin ayrım gözetmeksizin internetten toplanmasına yönelik kısıtlamalar içeren bu kılavuz, yapay zekanın dünya çapında regüle edilmesi için ciddi bir zemin hazırlıyor.

Yasa neleri kapsıyor?

AB'nin yapay zeka kılavuzu, şu yapay zeka sistemleri ve uygulamalarına kısıtlamalar getiriyor:

Yüksek riskli sistemler

Sağlık, güvenlik, temel haklar, çevre, demokrasi, seçimler ve hukukun üstünlüğüne zarar verme olasılığı olduğu düşünülen yapay zeka sistemleri "yüksek riskli sistemler" olarak tanımlanıyor. AB'nin yeni yasası, bu tür sistemlerin, temel haklar etki değerlendirmesinden geçmesini ve AB pazarında kullanıma sunulmadan önce bir dizi kurala uymasını zorunlu kılıyor. 

Buna karşılık, daha küçük çapta ya da "sınırlı" risk oluşturduğu düşünülen sistemlerin de içeriğin yapay zekayla oluşturulduğunu beyan eden etiketler kullanarak şeffaflık sağlamak gibi daha hafif yükümlülüklere tabi tutulacağı belirtiliyor.

Yapay zekanın kolluk kuvvetleri tarafından kullanımı

Şu ana dünyanın pek çok yerinde kolluk kuvvetleri farklı amaçlarla yapay zeka destekli biyometrik tanımlama sistemleri kullanıyor, ancak bu sistemlerin özellikle de ırk söz konusu olduğunda, sık sık taraflı kararlar verdiği biliniyor. 

AB'nin yeni yasası, kolluk kuvvetlerinin belirli suçlar için kamusal alanlarda biyometrik tanımlama sistemlerini kullanmasına izin veriyor. Buna göre, bu tip sistemlerin adam kaçırma, insan kaçakçılığı, cinsel istismar mağdurlarının tespit edilmesi, mevcut bir terör tehdidinin önlenmesine ek olarak yine terör, kaçakçılık, cinsel sömürü, tecavüz, cinayet, adam kaçırma, silahlı soygun, bir suç örgütüne katılma ve çevre suçlarından aranan şüphelilerin izini sürmek için kullanılabileceği ifade ediliyor.

Genel amaçlı yapay zeka sistemleri (GPAI) ve temel modeller

Yasa, OpenAI'ın ChatGPT'sine güç veren büyük dil modeli (LLM) GPT-4 gibi genel amaçlı yapay zeka modellerine de yeni kısıtlamalar getiriyor. Buna göre, bu modellerin teknik dokümantasyon hazırlamak, AB telif hakları yasasına uymak ve algoritma eğitimi için kullanılan içerikler hakkında ayrıntılı özetler yayımlamak gibi şeffaflık ilkelerine tabi olacağı aktarılıyor. Buna ek olarak, sistemik risk teşkil eden ve yüksek etkili GPAI olarak sınıflandırılan temel modeller, model değerlendirmeleri yapmak, riskleri değerlendirmek ve azaltmak, düşmanca testler yapmak, ciddi olaylar hakkında Avrupa Komisyonu'na rapor vermek, siber güvenliği sağlamak ve enerji verimliliği hakkında rapor vermek zorunda olacak.

Yasaklananlar

AB'nin yapay zeka kılavuzu, şu yapay zeka sistemlerini ve uygulamalarını ise yasaklıyor:

• Siyasi, dinî, felsefi inançlar, cinsel yönelim ve ırk gibi hassas özellikleri kullanan biyometrik kategorizasyon sistemleri.
• Yüz tanıma veritabanları oluşturmak için internetten veya CCTV görüntülerinden yüz görüntülerinin hedeflenmemiş şekilde kazınması.
• İşyerinde ve eğitim kurumlarında duygu tanıma.
• Sosyal davranış veya kişisel özelliklere dayalı sosyal puanlama.
• İnsan davranışlarını manipüle ederek özgür iradelerini engelleyen yapay zeka sistemleri.
• İnsanların yaş, engellilik, sosyal veya ekonomik durumlarından kaynaklanan zayıflıkları istismar etmek için kullanılan yapay zeka.

Hedef 2025

Yasanın yürürlüğe gireceği tarihi düşündüğümüzde bu tablo bazı değişikliklere uğrayabilir gibi gözüküyor. Önümüzdeki yılın başlarında Avrupa Parlamentosu'nda oylamaya sunulacak olan yasanın 2025 yılından önce yürürlüğe girmesi beklenmiyor. Ancak yasanın yasaklanmış yapay zekaya ilişkin kısmının altı ay içinde, şeffaflığa yönelik gerekliliklerin ise 12 ay içinde yürürlüğe gireceği ifade ediliyor. Yasanın tamamının yürürlüğe girmesi ise yaklaşık iki yıl alacak.

Yasaya göre, kuralları ihlal eden şirketler, yüklü miktarda para cezasıyla karşı karşıya kalacak. Bu cezalar, şirketlerin büyüklüklerine ve yapılan ihlale bağlı olarak yıllık küresel cirolarının %1,5'ine veya küresel cirolarının %7'sine tekabül edecek.