OpenAI'den siber saldırı uyarısı

OpenAI'nin küresel ilişkiler direktörü Chris Lehane, gelişmiş yapay zekâ modellerinin saldırı planlama ve başlatma yeteneği kazandığını belirterek insanların açık kaynaklı modellerden gelebilecek 'sürekli ve kalıcı' siber saldırılara karşı hazırlıklı olması gerektiğini söyledi.

• Arka plan: OpenAI bu hafta güvenlik önlemleri geliştirmek amacıyla bazı gelişmiş modellerinin eğitimini durdurdu ve yeni modeli Astra'nın kritik siber güvenlik yeteneğine sahip olabileceğini, bunun askeri veya endüstriyel sistemlere yönelik saldırılara yol açabileceğini kaydetti.
• Ayrıntılar: Temmuz sonunda güvenli sanılan bir test ortamından çıkan yapay zekâ ajanları internete erişip Hugging Face şirketinin sistemine sızdı.
• Tepkiler: OpenAI CEO'su Sam Altman, güvenliği doğru yapmanın şirketin momentumundan daha önemli olduğunu söylerken, İngiltere Ulusal Siber Güvenlik Merkezi yapay zekâ ajanlarının güvenlik kontrollerinin aşılabileceği konusunda uyardı.