OpenAI'dan riskli model kararı

OpenAI, Anthropic'in Claude 3.7 Sonnet modelini "riskli" ilan etmesinin ardından kendi geliştirdiği benzer bir modeli güvenlik gerekçesiyle yalnızca sınırlı ortaklara sunacağını ve kamuya açık şekilde kullanıma açmayacağını duyurdu.

• Anthropic, Claude 3.7 Sonnet adlı yeni modelini yüksek yetenekli ve riskli olarak tanımlamış, bu nedenle modeli yalnızca seçili ortaklarla kapalı test kapsamında paylaştığını açıklamıştı.
• OpenAI, yeni modelinin kötüye kullanım potansiyelini azaltmak için erişimi kademeli ve kontrollü biçimde yöneteceğini, geniş çaplı halka açma planı olmadığını ifade etti.
• Şirket, modelin özellikle biyogüvenlik, siber saldırı kapasitesi ve dezenformasyon üretimi gibi alanlarda yaratabileceği riskleri değerlendirmek üzere ek güvenlik incelemeleri yürüttüğünü bildirdi.
• Hem OpenAI hem Anthropic, gelişmiş modeller için bağımsız denetim, kırmızı ekip (red-teaming) testleri ve kullanım kısıtları gibi ek güvenlik katmanları uyguladıklarını vurguladı.