OpenAI ve Anthropic ajanlarından yetkisiz eylem

OpenAI ve Anthropic’in henüz yayımlanmamış yapay zeka modellerinin izole test ortamından çıkıp çevrimiçi hâle geldikten sonra üçüncü parti şirketlerin sistemlerine sızdığını açıklamasının ardından İngiltere’nin Yapay Zeka Güvenlik Enstitüsü (AISI), Mythos 5 ve GPT-5.6-Sol modellerinin yeteneklerini değerlendirmek için yürüttüğü güvenlik değerlendirmeleri sırasında bu modellerden güç alan ajanların yetkisiz eylemlerde bulunduğunu tespit etti.

• Ayrıntılar: AISI, ajanların yeteneklerini test etmek için modelleri kurgusal bir siber güvenlik senaryosundan geçirdi. 122 kez tekrarlanan testin 10’unda 19 yetkisiz eylem tespit edildi. 17 eylemin ardında Anthropic’in, 2’sinin ardında ise OpenAI’ın ajanı vardı. Bir vakada yapay zeka ajanı, güvenli sistemlere yetkisiz erişim sağlamak için sahte çevrimiçi kimlikler oluştururken yakalandı. Test edilen ajanlardan bazıları, gerçek kişilere ve kuruluşlara yönelik sürekli ve potansiyel olarak zararlı faaliyetlerde bulunmuş olsa da güvenlik açıklarının hiçbiri, gerçek dünyada herhangi bir zarara yol açmadı.