电子行业TurboQuant之于存储详解（GenAI系列之74）：有理论启发的常规学术进展-260330（19页）.pdf

1、有理论启发的常规学术进展相关研究本期投资提示：谷歌解决大模型KVCache的论文热议，或引发存储需求的疑虑。近期谷歌论文TurboQuant:OnlineVectorQuantizationwithNear-optimalDistortionRate(2025年4月发表，ICLR2026年接收）和谷歌官网博客引发热议。.首先，我们找到原始论文，有较多新发现。1）新闻报道主要是参考了谷歌博客，参考原始论文偏少，而前者比后者激进。主要证据是PolarQuant内容、效果倍数、对照组的描述。2）若将TurboQuant的前序学术创新做一个追，即找到QJL、RaBitQ、KIVI、两种版本PolarQ

2、uant的论文，会发现TurboQuant或只是“常规的学术进展”，与新闻描述的“DeepSeek时刻、“存储的重大变化”无关。3）假如TurboQuant真为“存储的重大变化、“谷歌的DeepSeek时刻，那么2024-2025年RaBitQ、KIVI、PolarQuant论文发布时，都曾是这种级别的突破。.其次，帮助一二级金融投资者理解TurboQuant。1）大致包括10步骤论述。其中，第第3部分的粗略版，和第6部分的精细版，是本篇的一大特点。前者基于MSE均方误差生成最优失真率的矢量量化器，快速但有误差。后者提供1位量化器应用于残差，得到无偏且低失真的内积量化器。两者较为互补。2）人大

3、等版本PolarQuant的思路，类似于逻辑分类索引资料；谷歌等版本PolarQuant的思路，类似于层级精简资料；KIVI算法，类似于分行业和个股索引资料；RaBitQ算法，类似于二进制化归档资料（而二进制判断的内容，即各种特征标签，比如是否符合低PE，是否符合成长股，是否符合某个政策)。本文的TurboQuant算法，可类比为：复用了索引、层级精简、校准员。.再次，TurboQuant的利弊与比较。1）优点暂时不再赘述，折中了哪些呢？2）只压缩KV-Cache，未必压缩权重weight，未必压缩模型本体，不改变激活值。3）应不改变训练，只改变推理，而且是中低端推理无效(比如端侧芯片无效)。

4、4）场景适配性或有局限。5）一个关键问题，精度回退问题。未必是2.5bit与16bit来比（宣称的提效6-8倍或4倍)，而是2.5bit和4bit比，效果或许并不明显。论文中的KIVI对照是证据。.风险提示：前沿科技的研究，尤其学术论文的探索，一直伴随技术变化。而技术变化可能带来较大波动。尽管本文努力解释存储未必受到本篇论文影响，但此前存储领域涨幅较大，依然可能有交易风险。相关领域P/E倍数偏高，可能会有估值回归的风险。1正文与铺垫论文：或只是常规学术进展谷歌解决大模型KVCache的论文热议，或引发存储需求的疑虑。近期谷歌论文TurboQuant:OnlineVectorQuantizati

5、onwithNear-optimalDistortionRate(2025年4月发表，ICLR2026年接收）和谷歌官网博客1引发热议。新闻报道主要是参考了谷歌博客，参考原始论文偏少，而前者比后者激进。主要证据是：1）论述引用极坐标变换的PolarQuant方法，博客还用了“向东走3个街区、向北走4个街区”替换为“朝37度方向总共走5个街区的比喻；3）6倍、8倍的宣传。论文说键值内存体积至少减少6倍，4比特TurboQuant相较32比特未量化键值，性能最高提升8倍。一方面PolarQuant提的非常少。因为之前至少有至少两篇有影响力的PolarQuant论文，并非本篇TurboQuant重要

6、创新：1）SonghaoWu,AngLv,XiaoFeng等PolarQuant:LeveragingPolarTransformationforEfficientKeyCacheQuantizationandDecodingAcceleration，以及：2）InsuHan，PraneethKacham，AminKarbas等PolarQuant:QuantizingKVCacheswithPolarTransformation。另一方面，论文正文主要用的是内存4倍压缩后做测试，并非“6倍、8倍”之类表述。原文是“Eachmethodistestedunderamemorycompressi