跳到正文
Google Research·· 2026-03-25精选AI 评分62

Google 发布 TurboQuant 等向量量化算法,将 KV cache 压缩至 3 bit

TurboQuant: Redefining AI efficiency with extreme compression

AI 导读

Google Research 提出 TurboQuant 压缩算法,并配套 QJL 和 PolarQuant 两种方法,用于解决向量量化中的内存开销问题,相关论文将分别在 ICLR 2026 和 AISTATS 2026 发表。

推荐理由

Google 提出 TurboQuant 等三种向量量化算法,可在不损失精度的前提下把 KV cache 压到 3 bit,并给出与基线的对比数据。

来源:Google Research · research.google