<span fr-original-class="customBullet" fr-original-style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block;" style="font-size: 24px; line-height: 12px; vertical-align: middle; display: inline-block; box-sizing: border-box;">•&nbsp; Google, TurboQuant algoritmasını duyurdu:&nbsp;Google Research, büyük dil modellerini çalıştırırken takılınan önbellek darboğazını gidermek amacıyla geliştirdiği ultra verimli yapay zeka bellek sıkıştırma algoritmasını duyurdu.&nbsp;<ul fr-original-style="padding-inline-start: 20px;" style="padding-inline-start: 20px; margin-top: 0px; margin-bottom: 1em; box-sizing: border-box;"><li fr-original-style="" style="box-sizing: border-box;">Ayrıntılar: Yapay zeka modellerini çalıştırmak için kullanılan geçici belleği performansı etkilemeden sıkıştıran algoritma, modellerin daha az yer kaplarken ve doğruluk oranını korurken aynı bellekte daha uzun bağlam tutarak daha fazla veri hatırlamasını mümkün kılıyor. Araştırmacılar, gerçek dünya senaryolarına başarıyla entegre edilirse TurboQuant’ın yapay zeka sistemlerini çalıştırmak için gerekli belleği 6 kata kadar azaltarak maliyetleri ciddi oranda düşürebileceğine ve verimliliği artırabileceğine inanıyor.</li></ul>

TurboQuant ile ilgili hikayeler