Mistral'de Rus propaganda riski

Bir düşünce kuruluşunun yayımladığı rapor, Avrupa merkezli yapay zeka şirketi Mistral'in modellerinin Rusya yanlısı propaganda ve dezenformasyon üretiminde kullanılma riski taşıdığını ve şirketin içerik güvenliği önlemlerinin bu tür kötüye kullanımı engellemekte yetersiz kaldığını ortaya koydu.

• Raporda, Mistral'in açık kaynaklı büyük dil modelleriyle Rusya'nın Ukrayna savaşına ilişkin anlatılarını destekleyen metinler üretilebildiği ve bu çıktılarla sosyal medyada manipülatif kampanyalar yürütülebileceğinin gösterildiği aktarıldı.
• Analizde, Mistral modellerinin Kremlin söylemini tekrarlayan, Batı yaptırımlarını eleştiren ve Ukrayna yönetimini itibarsızlaştıran içerikleri sınırlı uyarılarla ürettiği, güvenlik filtrelerinin bu tür siyasi içeriklerde tutarlı çalışmadığı tespit edildi.
• Çalışmada, Mistral'in modellerini açık lisansla sunmasının, devlet destekli aktörler dahil farklı grupların bu sistemleri kendi sunucularında denetimsiz biçimde çalıştırmasına imkân verdiği ve bu durumun gözetim ile yaptırım mekanizmalarını zorlaştırdığı vurgulandı.
• Rapor, Avrupa Birliği kurumlarına ve ulusal düzenleyicilere, yüksek etkili yapay zeka modelleri için daha sıkı şeffaflık, risk değerlendirmesi ve içerik güvenliği standartları getirilmesi çağrısında bulundu.