Eski çalışan risk değerlendirdi

Eski OpenAI çalışanı Leopold Aschenbrenner, şirketten ayrıldıktan sonra yayımladığı uzun makalede, gelişmiş sistemlerin insanlık için varoluşsal tehdit oluşturacağı “kıyamet” senaryosunun muhtemelen birkaç on yıl ertelendiğini, ancak yine de ciddi riskler barındırdığını savundu.

• Aschenbrenner, önceki değerlendirmelerinde çok daha kısa vadede felaket senaryoları öngördüğünü, son dönemdeki teknik ilerlemeleri ve güvenlik çalışmalarını inceledikten sonra zaman ufkunu genişlettiğini yazdı.
• Eski çalışan, gelecekte ortaya çıkabilecek süper güçlü sistemlerin kontrol altında tutulması için küresel ölçekte daha sıkı düzenlemeler, denetim mekanizmaları ve güvenlik araştırmalarına yatırım yapılması gerektiğini ifade etti.
• Aschenbrenner, mevcut sistemlerin yeteneklerinin abartılmaması gerektiğini, ancak ilerleyen yıllarda ortaya çıkabilecek yeni nesil modellerin ekonomik, siyasi ve askeri alanlarda güç dengesini değiştirebileceği uyarısında bulundu.
• Eski OpenAI çalışanı, risklerin yönetilebilmesi için hükümetler, şirketler ve akademi arasında işbirliğine dayalı bir yönetişim çerçevesi oluşturulmasının önemine dikkat çekti.