OpenAI modelleri Hugging Face'e sızdı: Yapay zeka gerçekten özerklik mi kazanıyor?
OpenAI, güvenlik testi sırasında kapalı bir test ortamından (sandbox) kendiliğinden çıkan iki yapay zeka modelinin internete erişim sağlayarak açık kaynak kodlu yapay zeka yazılımlarının açık kütüphanesi Hugging Face'in sistemlerine sızdığını açıkladı. Olay, dünyanın dört bir yanındaki siber güvenlik uzmanları ve yapay zeka araştırmacılarının gündemine ilk sıradan girdi.
Neden önemli? OpenAI ve Anthropic gibi yapay zeka laboratuvarları, geçen yıl boyunca siber güvenlik sorunlarını ortaya çıkarmak üzere özelleştirilmiş yapay zeka modelleri yayımlamış ve teknolojilerinin, savunma ekiplerinin düzeltmesinden daha hızlı bir şekilde bilgisayar ağlarındaki açıkları bulması nedeniyle risk oluşturabileceği konusunda uyarılarda bulunmuştu. OpenAI’ın sistemlerinin siber güvenlik yeteneklerini test ettiği sırada meydana gelen olay, yapay zeka şirketleri kendilerini bu risklere karşı hazırlayamadan önce bu tür güvenlik sorunlarının şimdiden yaşanmaya başladığının bir göstergesi.
Hoş geldin! Aposto Premium üyelerine özel bu içeriği okumak için Premium üye olabilir ya da Premium hesabına giriş yapabilirsin.
Aposto Premium
Ayda
- Aposto'nun tüm arşivine ve güncel yayınlara sınırsız erişim.
- Yükselen endüstrilerden gelişme ve içgörüleri aktaran, entelektüel dünyanı besleyecek Premium üyelere özel makale ve bültenler.
- Gündemdeki gelişmeleri küresel bir perspektifle aktaran analizler.
- Aposto Radyo için hazırladığımız podcast ve sesli belgesellere websitemiz ve mobil uygulamamızdan erişim imkanı.
QuandoHer salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
YAZARLAR
Çiğdem Öztabak
Teknoloji ve kültür yazarı, serbest gazeteci. New York'da yaşıyor.
Quando
Her salı ve cuma girişimcilik ve teknoloji ekosistemlerinden öne çıkan gelişmeler, paradigma değişimleri, inovasyon trendleri ve dijital dönüşüm e-posta kutunda.
OKUMAYA DEVAM EDİN
Kadın sesiyle konuşan, kullanıcılarının ihtiyaçlarına göre şekillenen ve hayatı kolaylaştırmayı vadeden yapay zeka, gerçek kadınlar söz konusu olduğunda bambaşka bir tablo ortaya koyuyor. Dijital şiddetten işe alım süreçlerine, toplumsal cinsiyet önyargılarından ekonomik eşitsizliklere kadar pek çok alanda mevcut sorunları yeniden üretme potansiyeli taşıyan bu teknoloji, kadınlar için nasıl bir gelecek tasarlıyor?
Apple, 13 Ekim Salı günü “Eve hoşgeldin” sloganıyla hayata geçirdiği lansmanda en yeni akıllı ev ekosistemi ürünlerini tanıttı. Uzun zamandır şirketin üzerinde çalıştığı söylenen akıllı ev ekranı HomeView, lansmanın yıldız ürünü oldu. Şirket, lansman kapsamında ayrıca LG ve Schneider Electric ile işbirliği içinde geliştirdiği Apple Home Collection ürünleri, HomePod mini 2 ve yeni Apple TV 4K’yı da tanıttı.
Bugün şirketler, faaliyet gösterdikleri süre boyunca müşterilerinden çalışanlarına, iş ortaklarından tedarikçilerine kadar milyonlarca kişi ve kuruma ait veri topluyor. Şirket kapandığında ise bu devasa dijital arşiv bir anda ortadan kaybolmuyor. Verilerin bir bölümü yasal yükümlülükler nedeniyle saklanmaya devam ederken bazıları, başka şirketlere devredilebiliyor; hatta iflas sürecinde satışa çıkarılan varlıklar arasında yer alabiliyor.
Algoritmalar artık iş dağıtıyor, çalışanları puanlıyor ve hatta işten çıkarma kararlarında belirleyici oluyor; insan denetimi ise otomasyon yanlılığı ve gig ekonomisinin hukuki boşlukları nedeniyle her zaman gerçek bir güvence sağlamıyor. Kaliforniya, “Robot Patrona Hayır” yasası ile işten çıkarma ve disiplin kararlarının yalnızca yapay zekaya bırakılmasını yasaklayan ilk ABD eyaleti oldu belki ama asıl sorunun kapitalizmin ulaştığı noktayla ilgili olduğunu hatırlamak gerekiyor.
Şirketler yapay zekayı toplantı notu çıkaran araçlardan operasyon yürüten ajanlara dönüştürmek istiyor; ancak bir yandan da güvenilmez veri, eksik bağlam ve belirsiz sorumluluklar kurumların yıllardır kapalı odalarda tuttuğu dağınıklığı da su yüzüne çıkarıyor. Üstelik ajanların gerçekten işe yaradığı bir düzende asıl mesele, onlara hangi işleri devredeceğimiz kadar açılan zamanı insanın muhakemesine, öğrenmesine ve daha nitelikli üretime ayırıp ayıramayacağımız da.
