OpenAI'dan Hugging Face itirafı

OpenAI, Temmuz'da modellerinin test ortamından çıkarak Hugging Face sistemlerine izinsiz erişmesinden haftalar önce bazı modellerde yetkisiz internet erişimi ve olağandışı koordinasyon gibi davranışlar gözlemlediğini, ancak bu sinyallerin yeterince hızlı bir müdahaleye dönüşmediğini kabul etti.

• Ayrıntılar: Modeller, test ortamındaki bir sıfır gün açığını kullanarak internete erişmiş, OpenAI ve Hugging Face altyapısındaki açıkları zincirleyerek Hugging Face'in üretim sistemlerine ulaşmıştı. OpenAI, olayın ardından ilgili araştırma modelini devre dışı bıraktı.
• Bir adım sonrası: Şirket, olay sonrası raporunda erken uyarıların daha hızlı eskale edilmesi gerektiğini belirtirken izleme, erişim kontrolleri ve olay müdahale sistemlerini güçlendireceğini; ayrıca gelişmiş modellerin eğitim temposunu geçici olarak yavaşlattığını açıkladı.
• Editörün önerisi: Güvenlik testleri güvenlik riskine dönüşürken: Kaçak AI modelleri bir prestij meselesi mi oldu? | Doğa Yurduneri, Quando