AB, yapay zekâyı "kontrol etmeye" hazırlanıyor

Yapay zekâ teknolojisi, yavaş yavaş tüm küresel endüstrilerde devrim yaratıyor. Hâlihazırda devam etmekte olan değişikliklerle birlikte yapay zekâ sistemleri, hükümetlerin ve işletmelerin çalışma şeklini küresel ölçekte değiştirmeye hazırlanıyor. 

Şimdiye kadar bu teknoloji doğal dil işleme, makine öğrenimi ve otonom sistemler gibi birçok alanda pek çok şekilde kendini göstermiş bulunuyor. Bununla birlikte, yeterli veri ve girdilerle beslendiğinde yapay zekânın geleceğe dönük tahminler, öneriler ve hatta kararlar almak için kullanılabileceği öngörülüyor. 

Şirketlerin %77’si yapay zekayı kullanıyor veya keşfediyor

Buna göre, yapay zekâ teknolojisi işletmeler ve şirketler tarafından giderek daha fazla benimseniyor. IBM adına Morning Consult tarafından yürütülen 2022 yılına yönelik küresel bir araştırmaya göre, şirketlerin %77’sinin şu an yapay zekâ teknolojilerini kullandığı ya da otomasyon yoluyla üretkenliği artırmak, gelişmiş karar verme süreci ve müşterini deneyimini iyileştirmek adına gelecekte kullanmak üzere yapay zekâ teknolojisine dair araştırmalar yaptığı belirtiliyor. Buna göre, bir önceki yıla kıyasla 4 puanlık bir artışla şirketlerin %35’i yapay zekâ kullandığını; %42’si ise yapay zekâyı keşfetmekte olduğunu belirtti.

Dahası, 2021 tarihli bir PwC araştırmasına göre covid-19 pandemisinin yarattığı krizlerin işgücü planlaması, tedarik zinciri esnekliği ve talep projeksiyonu üzerindeki etkisinin azaltılması amacıyla şirketlerin %52’sinin yapay zekâ teknolojisini benimseme çalışmalarını hızlandırdığı aktarılıyor.

Öte yandan yapay zekâ, bu teknolojiye bağlı sistemler ve bunları kullanacak kişiler için bir dizi risk ve tehlikeyi de beraberinde getiriyor. Teknoloji geliştikçe yapay zekâ algoritmalarının miktarı da giderek artıyor ve uzmanlar, yapay zekâ çerçevesinde dönen olası tehlikelere karşı uyarılarda bulunuyor. Yapay zekânın gelecekte bir zaman diliminde çok fazla gelişerek bilinç kazanacağı gibi fazlaca fantastik boyutlardaki bilim kurgu senaryolarının haricinde; yapay zekânın gelişmesiyle ortaya çıkmasının kuvvetle muhtemel olduğu belirtilen tehlikelerden bazıları şu şekilde:

• Otomasyon kaynaklı iş kaybı
• Gizlilik ihlalleri
• Kişilere ait yazı, görüntü ya da seslerin manipüle edilerek değiştirilmesi (deepfake)
• Art niyetli ya da yetersiz beslenen verinin yol açtığı algoritmik önyargı
• Sosyoekonomik eşitsizlik
• Piyasa oynaklığı
• Silah otomasyonu

AB, dünyanın ilk yapay zeka yasasını uygulamaya hazırlanıyor

Yapay zekânın sadece günlük hayatımızda yaratacağı olumlu değişikliklere odaklanan kimi yapay zekâ fanatikleri ya da yapay zekânın gelişiminden edeceği kârı düşünenler bu olası tehlikelerin hurafeden ibaret olduğunu savunuyor olsa da görünen o ki Avrupa Birliği bu iddiaları oldukça ciddiye alıyor.

Avrupa Komisyonu, yapay zekânın geniş kitleler üzerinde yaratabileceği olumsuz etkileri önün geçmek için “Yapay Zekâ Yasası” isimli yeni bir yasa hazırlıyor. Yapay zekâ teknolojisine ilişkin düzenlenen ilk yasa olma özelliği taşıyan bu yasa ile, AB bölgesindeki vatandaşların yapay zekâ nedeniyle meydana gelebilecek olan risk ve tehlikelere karşı korunması hedefleniyor.

Bu noktada AB’nin yeni yasa ile odaklanacağı üç ana alan şu şekilde öne çıkıyor:

• Çin hükümeti tarafından yürütülen ve halk için kabul edilemez bir kişisel veri güvenliği riski oluşturan sosyal puanlama benzeri uygulama ve sistemler yasaklanacak.
• İş başvurularını derecelendiren özgeçmiş tarama araçları gibi yüksek riskli uygulamalar belirli yasal gerekliliklere tabi tutulacak.
• Açık bir şekilde yasaklanmayan ya da yüksek riskli olarak sınıflandırılmayan, bu nedenle de büyük ölçüde denetimsiz bırakılan yüksek riskli uygulamalar denetlenecek.

İsviçre merkezli veri hizmetleri şirketi Unit8 tarafından hazırlanan “Upcoming AI Regulation: What to expect and how to prepare” isimli teknik bir inceleme ise yeni düzenlemenin geleceğine ve şirketler için olası etkilerine dair bir fikir sunuyor. Buna göre, yasasının geniş kapsamı ve yasaya ters düşen durumlarda var olabilecek finansal riskler düşünüldüğünde, şirketlerin şimdiden yasaya hazırlanmaları ve yeni kurallara uyum sağlamak adına harekete geçmeleri gerektiği belirtiliyor.

İlk olarak yapay zekâ uygulamaları tarafından özel olarak oluşturulan risklerin ele alınması, yüksek riskli uygulamalar için net gereksinimlerin belirlenmesi ve bunların tanımlanması için Nisan 2021’de açıklanan önerinin, önümüzdeki iki yıl içerisinde uygulamaya konulması bekleniyor. Sağlayıcıların AB sınırları içinde ya da dışında olmasına bakılmaksızın, AB pazarında kullanılan veya AB pazarında yer alan tüm yapay zekâ sistemleri için uygulanacak olan yükümlülükler ve sorumlulukların sadece bu sistemleri sağlayanlar için değil; aynı zamanda yapay zekâ sistemlerini kullananlar ile üreticiler, ithalatçılar ve distribütörler gibi değer zincirinin bir parçası olan herkes için geçerli olacağı ifade ediliyor.

Bu nedenle şirketlerin erkenden yeni kurallar için hazırlanmaya başlaması gerektiğini belirten Unity8, gerekli yetkinliklerin oluşturulması ve yasalara uyum sağlanması için firmaların alanında uzman kişilerle çalışmasını tavsiye ediyor. Bununla birlikte, konuda yol gösterici görevi görecek sağlam bir yapay zekâ yönetişim çerçevesi oluşturmanın, şirketler için yeniden düzenleme maliyetlerini azaltacağı ve daha etkili bir yapay zekâ gelişimini teşvik edeceği aktarılıyor. Ayrıca, şirketlerin etkili bir yapay zekâ risk yönetimi çerçevesi uygulaması gerektiği ve bağımsız değerlendirmeler ile incelemeler yapmak adına bir ekip oluşturulması gerektiği belirtiliyor.

Peki, yasaya uygun bulunmayan şirketleri ne gibi cezalar bekliyor?

IBM’in raporu, şirketlerin yapay zekâyı ne oranda kullandıkları ya da yapay zekâya yatırım yapmakta oldukları konusunda karşımıza ülke ülke şöyle bir tablo çıkarıyor:

^IBM

Unit8, özellikle de uyumsuz olan şirketlerin maruz kalacağı ağır mali cezalar göz önüne alındığında, yasa ile uyumlu olmanın oldukça önemli olduğuna dikkat çekiyor. Peki, yasaya uymayan şirketleri neler bekliyor? 

Şöyle ki; veri yönetişimi gereksinimlerinin ihlali veya kabul edilemez bir risk teşkil eden yapay zekâ sistemleriyle ilgili yasaklara uyulmaması sonucunda şirketlerin 30 milyon avroya ya da küresel yıllık gelirlerinin %6’sına kadar para cezası ile karşı karşıya kalacakları belirtiliyor. Bununla birlikte, diğer hükümlere uyulmaması durumunda 20 milyon avro ya da küresel şirket gelirinin ‘%4’üne tekabül eden bir ceza; yetkililere yanlış/yanıltıcı bilgi verilmesi halinde ise 10 milyon avro ya da küresel yıllık gelirin %2’sine denk gelen bir ceza uygulanacağı aktarılıyor.