Anthropic’te biyolojik silah alarmı

Anthropic, yapay zeka modellerinin biyolojik silah geliştirme potansiyeli taşıyan araştırmalarda kullanıldığı birden fazla vakayı tespit ederek ilgili kullanıcıların hesaplarını kapattığını açıkladı.

• Ayrıntılar: Raporda Claude’un, Chikungunya virüsü ve kuş gribinin bulaşıcılığını veya bağışıklık sisteminden kaçma yeteneğini artırmaya yönelik araştırmalarda ve zehirli toksinlerin özelliklerini optimize eden bir sistem geliştirmede kullanıldığı vakalar yer aldı. Bu vakalardan bazılarının askerî bir araştırma enstitüsüyle bağlantılı olması, Anthropic’in şüphelerini artırdı. Şirket, bulguları modellerinin güvenlik önlemlerini geliştirmek için kullanacağını belirtti.

• Önemli ayrıntı: Anthropic, yeni bir aşı geliştirmeye yönelik çalışmalar ile biyolojik silah geliştirmeye yönelik çalışmaların benzer görünebilmesi nedeniyle kötüye kullanımı tespit etmenin zor olduğunu vurguladı.