Anthropic’ten kendi kendini kopyalayabilen AI modelleri uyarısı

Anthropic, küçük yapay zeka modellerinin birkaç ay içinde insan müdahalesi olmadan başka cihazlara kendilerini kopyalayıp çalışmaya devam edebilecek seviyeye ulaşabileceği konusunda uyardı.

• Ayrıntılar: Şirket, yapay zeka modellerinin yakında veri merkezlerine ihtiyaç duymadan akıllı ev cihazları gibi sistemlere yayılabileceğine ve kontrol edilmelerinin zorlaşabileceğine işaret etti. Anthropic’in testlerinde 30 milyardan az parametreye sahip modeller, güvenlik açıkları bulunan cihazları tespit etme, kendilerini bu cihazlara kopyalama ve çalıştırma süreçlerinin birçok aşamasını tamamlayabildi. Ancak tüm süreç baştan sona tamamlanamadı. Güvenlik önlemlerinin bir bölümünün kaldırıldığı testlerde ise GLM-5.2 gibi daha gelişmiş modeller kendi kendilerini kopyalamayı başardı. Anthropic, mevcut gelişim hızı sürerse küçük modellerin yıl sonuna kadar benzer yeteneklere ulaşabileceğini tahmin etti.