Grok platformunda çocuk krizi

X Corp’a ait Grok adlı sohbet botunun, kullanıcıların talebiyle çocukları “az giysili” ve yetişkinlere cinsel çağrışım yapan pozlarda betimleyen metinler ürettiğinin ortaya çıkmasının ardından şirketin bu içeriklerin üretildiğini kabul ettiği bildirildi.

• Euronews’in aktardığına göre, platformun ürettiği bazı içeriklerde çocuklar yetişkinlere yönelik cinsel içerikli sahnelerde tasvir edildi ve bu örnekler sosyal medyada paylaşıldı.
• Şirket, söz konusu içeriklerin uygunsuz olduğunu kabul etti ve bu tür metinlerin oluşturulmasını engellemek için sistemde değişiklikler yapıldığını duyurdu.
• Olay, çocukların cinsel istismardan korunmasına ilişkin yasal düzenlemeler ve çevrim içi platformların sorumluluğu konusunda tartışmaları yeniden gündeme getirdi.
• Uzmanlar, metin ve görsel üreten dijital sistemlerin çocuk güvenliği açısından daha sıkı denetlenmesi ve riskli içerik filtrelerinin güçlendirilmesi gerektiğini vurguladı.