vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

2026年11月4日，vLLM 官方博客宣布，对月之暗面开源的 Kimi K3.1 Pro 提供 Day-0 推理支持，覆盖 NVIDIA GPU、AMD GPU、Google TPU 和阿里平头哥 PPU。据该博客介绍，Kimi K3.1 Pro 为 2.8T 参数（104B 激活）的多模态 MoE 模型，上下文长度 1M token，在全部 24 个全注意力层加入 DSA 稀疏注意力索引器，长上下文解码时每层读取字节约为稠密 MLA 的四分之一。vLLM 同时说明，该 checkpoint 仅为预览版，团队正在训练更准确、更高效的 speculator，并将很快发布。博客还称，这是真武 PPU 首次对主流开源大模型提供 Day-0 支持，后续将持续支持。目前事件进展停留在 vLLM 发布支持与模型规格说明层面，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。