蚂蚁集团与vLLM社区开源量化推理内核库Humming
热点事件持续更新
蚂蚁集团与vLLM社区开源量化推理内核库Humming
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026年10月21日，vLLM Blog 发布消息称，蚂蚁集团与 vLLM 社区开源了通用高性能量化推理内核库 Humming，用于量化推理。据该报道，Humming 支持 Turing 之后（SM75 及以上）的 NVIDIA GPU 架构，以及平头哥真武 810E，并统一支持多种权重与激活量化组合。安装方面，报道称自 vLLM 0.29.0 起，CUDA 安装已将 Humming 作为依赖包含在内，无需单独安装 Humming；若系统没有可用的 CUDA 编译器，则需选择相应安装选项，以纳入对应 CUDA 主版本的编译依赖。报道还称，Rubin 不支持两种隐藏 Tensor Core 格式，因此相关原生计算路径的支持不延伸至 Rubin。目前进展停留在开源发布与安装、硬件支持说明层面，尚无后续跟进报道。
AI 根据报道生成 · 3 小时前更新
最新进展10月21日 08:00
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- vLLM Blog精选蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming，支持 Turing 之后的 NVIDIA GPU 及平头哥真武 810E，统一支持多种权重与激活量化组合。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月21日 12:00
- 近 24 小时变化
- –
02.557.510
12:0013:0014:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。