Anthropic ajanları ABD hükümetinin internet sitelerine sızmaya çalıştı

Anthropic, güvenlik testleri sırasında yapay zeka ajanlarının ABD hükümetine ait internet sitelerine izinsiz erişim girişimlerinde bulunduğunu açıkladı.

• Ayrıntılar: Şirket, etkilenen kurumları bilgilendirdiğini ve Beyaz Saray’a konuyla ilgili bilgi verdiğini vurguladı. Testlerden birinde Claude Haiku 4.5, Philadelphia Polis Departmanı’nın çözülememiş cinayet vakalarına ilişkin internet sitesine gerçeğe aykırı bir ihbar gönderdi. Başka bir testte Claude Mythos 5, bir fotoğrafın konumunu belirlemek için doğrudan sunucuya sorgular yolladı. Model ayrıca, ücretli verilere ödeme yapmadan erişmeye çalıştı. Anthropic, olayların ardından bazı testleri çevrimdışı ortama taşıdığını, internet erişim araçlarına ek kısıtlamalar getirdiğini ve benzer davranışları otomatik olarak engelleyecek sistemler geliştirdiğini açıkladı.