Yapay zekâ modelleri taraflı yanıt verdi

İngiltere'de yapılan araştırmada, yapay zekâ destekli büyük dil modellerinin (LLM) sosyal hizmet sektöründe cinsiyete dayalı taraflı yanıtlar verdiği tespit edildi.

• Londra Ekonomi ve Siyasal Bilimler Okulu (LSE) araştırmacıları, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarını büyük dil modellerine yükleyerek cinsiyetlere göre yanıtları inceledi.
• Araştırmada, Google'ın Gemma yapay zekâ modelinin kadın ve erkek vakalarına farklı yanıtlar verdiği, Meta'nın LLaMA 3 modelinin ise böyle bir ayrım yapmadığı gözlemlendi.
• Dr. Sam Rickman, yapay zekânın kadınların ihtiyaçlarının karşılanmasında eşitsizliğe yol açabileceğini belirtti ve bu taraflılığın kadınların daha az hizmet almasına neden olabileceğini ifade etti.
• Araştırmada, dil modellerinde uzun süreli hizmete yönelik taraflılığın ölçülmesinin zorunlu hale getirilmesi gerektiği vurgulandı.