Yapay zekâ teknolojileri geliştirilmeye ve yaygınlaşmaya devam ettikçe bu teknolojilerin nasıl kontrol edileceği ve denetleneceği de önemli bir sorun hâline geldi. Dünyanın farklı yerlerinde kimi çabalar olsa da konuyla ilgili en ciddi adımları atan yine Avrupa Birliği oldu. Geçtiğimiz hafta içerisinde de uzun zamandır beklenen YZ Yasası <a fr-original-style="" href="https://www.euractiv.com/section/digital/news/europes-landmark-ai-act-passes-parliament-vote/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">AB Parlamentosundan geçti</a>.Eğer yasayı kendiniz okumak isterseniz tam metnini <a fr-original-style="" href="https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">burada bulabilirsiniz</a>. Ayrıca <a fr-original-style="" href="https://artificialintelligenceact.eu/high-level-summary/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">bu sitede</a> de kapsamlı bir özetine ulaşmak mümkün. Benim özellikle ele almak istediğim kısımlar ise yasanın nelere öncelik verdiği, nerelerde eksik kalabileceği ve gelecekteki YZ düzenlemelerine nasıl bir yol göstereceği.YZ Yasasıyla ilgili birçok kesimin dikkat çektiği ve önemli bulduğu alanlardan birisi kesinlikle yasaklı kullanım türlerini belirlemiş olması. Bu kapsamda insanları manipüle edebilecek, onları herhangi bir ayrımcılık ve sınıflandırmaya maruz tutacak, sosyal puanlama gibi sistemlerde kullanılacak ve insanların biyometrik verilerini kullanacak YZ sistemlerinin hemen hepsi yasaklı teknolojiler kategorisine alınmış. Bu kısımdaki düzenlemeler genellikle olumlu karşılandı ancak biyometrik verilerle ilgili güvenlik güçlerine verilen özel durumlar istisnası <a fr-original-style="" href="https://www.euractiv.com/section/artificial-intelligence/opinion/eus-much-heralded-ai-act-agreed-by-eu-parliament-but-serious-human-rights-holes-in-law-remain/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">tepki alıyor</a>. Sonuçta bu tür özel durum istisnalarının keyfi bir şekilde kötüye kullanıldığına dünyanın birçok yerinde şahit oluyoruz.&nbsp;Bunların dışına çıktığımızda ise yasa YZ teknolojilerini iki gruba ayırıyor: yüksek risk ve düşük risk olanlar. Şu anda hemen herkesin kullandığı ve üzerine konuştuğu sistemler genellikle düşük risk kısmına giriyor ve onlara dair denetim ve kurallar oldukça hafif. Genel amaçlı YZ olarak adlandırdıkları bu kategorideki teknolojilerin bir teknik dokümantasyon hazırlaması, onun üzerine teknoloji geliştirecekler için bir rehber sunması, AB’nin Telif Yönetmeliğine uygun bir yapı kurması ve eğitim verilerinin bir özetini hazırlaması yeterli oluyor. Hatta bu genel amaçlı YZ modeli açık kaynak veya özgür yazılımsa, yukarıdakilerin sadece yarısını yapması gerekiyor.&nbsp;Bu kısımla ilgili gelen eleştirilerden birisi, bu tür teknolojilerin Sistemik risk oluşturma ihtimalinin eğitim verisi kullanımına dair bir sayıyla belirlenmiş olması. Uzmanlar teknolojinin mevcut gelişimini göz önünde bulundurduğumuzda bu seviyesinin kısa sürede anlamsız kalabileceğini ve başka alternatifler gerektiğini <a fr-original-style="" href="https://www.euractiv.com/section/digital/news/hard-fought-provision-on-the-ai-act-could-become-obsolete-experts-say/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">söylüyor</a>.Son olarak bu iki kategorinin arasında kalan yüksek riskli YZ sistemleri var. Yasa bunları özellikle kullanım alanları ve bu alanların getirdiği risk üzerinden belirliyor. Sağlık, eğitim, altyapı, hukuk gibi alanlarda YZ kullanımı yüksek risk olarak kabul ediliyor ve bu alanda kullanım için geliştirilen teknolojilerin daha sıkı bir şekilde denetlenmesi gerekiyor. Yasa ilk bakışta burada iyi bir başlangıç olarak görülse de uygulamaya geçmeden nasıl bir etkisi olacağını kestirmek zor.Bütün bunlara genel bir çerçeve olarak bakınca, AB’nin YZ teknolojilerine yaklaşımı ve onu kategorize etme şeklini oldukça kullanışlı buluyorum. Belirli alanlara girişini net bir şekilde yasaklamaları ama diğer yandan genel kullanım için yeterince özgür alan bırakmaları teknolojinin daha sağlıklı bir şekilde gelişmesine alan açabilir. Aynı şekilde bu kategorizasyonun netliği ve kolay anlaşılırlığı dünyanın geri kalanında da benimsenme ihtimalini artırıyor.&nbsp;Ama kimi alanlarda da devletler AB’nin getirdiği kısıtlamaları istemeyecektir. Mesela herkes AB gibi açık kaynak ve özgür teknolojilere bu tür bir avantaj vermek istemeyebilir. Aynı şekilde gözetim ve güvenlik amaçlı kullanımı daha serbest bırakmak isteyen ve bu teknolojinin potansiyelini —ne kadar özgürlük kısıtlayıcı olursa olsun— orada da kullanmak isteyen devletler olacaktır.Genel olarak bu yasayı YZ teknolojilerinin denetimi ve sağlıklı bir şekilde geliştirilmesi açısından atılmış iyi bir adım olarak okumak mümkün. Elbette eksik kaldığı yerler var. Ne kadar etkili olacağını görmek için de yaklaşık üç yıl kadar beklememiz <a fr-original-style="" href="https://www.theverge.com/2023/12/14/24001919/eu-ai-act-foundation-models-regulation-data" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: currentcolor; cursor: pointer; transition: color 0.3s ease 0s; touch-action: manipulation; -webkit-user-select: auto; box-sizing: border-box;" target="_blank">gerekecek</a>. Ama hiç adım atılmamasından ve bu şirketlerin kontrolsüzce ilerlemesinden daha iyi olduğu kesin.

özgür yazılım ile ilgili hikayeler