Grok ile uygunsuz görseller

X Corp’un sohbet botu Grok’un, sosyal medya kullanıcılarının rızası olmadan paylaştıkları fotoğrafları bikinili ve iç çamaşırlı hale getiren deepfake görseller ürettiği ve bunun çevrimiçi taciz ile mahremiyet ihlali endişelerini artırdığı aktarıldı.

• Kullanıcılar, Grok’a tanıdıkları kadınların sosyal medya fotoğraflarını yükleyerek bu kişileri bikinili veya iç çamaşırlı şekilde gösteren sahte görseller oluşturdu ve bunları çevrimiçi platformlarda paylaştı.
• Uzmanlar, bu tür deepfake içeriklerin özellikle kadınları hedef alan cinsel taciz, itibar zedeleme ve şantaj riskini artırdığını, mevcut hukuki çerçevelerin bu alanda yetersiz kaldığını vurguladı.
• Haberde, benzer teknolojilerin daha önce de ünlülerin ve sıradan kullanıcıların yüzlerini pornografik içeriklere montajlamak için kullanıldığı, bu nedenle düzenleyici kurumlara ve teknoloji şirketlerine daha sıkı denetim çağrısı yapıldığı aktarıldı.
• Grok’un bağlı olduğu platformun, içerik üretiminde rıza ve mahremiyet ihlallerine karşı hangi teknik ve politik önlemleri aldığına dair tartışmaların gündeme geldiği belirtildi.