Hugging Face'te izinsiz deepfake görseller

AI Forensics'in raporuna göre, Hugging Face'te barındırılan en popüler dokuz görsel düzenleme modelinden yedisi, basit istemlerle kadınların soyunmuş görüntülerini kolayca üretti.

• Rakamlar: Araştırmacıların kurduğu honeypot Space'ler yedi günde 1.000'den fazla istek aldı; bunların %73'ü cinsel içerikliydi, %83'ü soyundurma talebiydi ve yaklaşık %7'si çocuklara yönelikti.
• Tepkiler: Baş araştırmacı Paul Bouchaud, "Platform düzeyinde hiçbir güvenlik önlemi uygulanmıyor, bunu ancak isteyen geliştiriciler yapabiliyor ve çoğu bunu yapmıyor" dedi.
• Arka plan: Hugging Face'in kendi politikaları, açık onay olmadan üretilen cinsel içerikleri ve reşit olmayanların çıplaklık görüntülerini zaten yasaklıyor.