vLLM 首日支持 Flint 模型部署
热点事件持续更新
vLLM 首日支持 Flint 模型部署
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月21日,vLLM 官方博客宣布,从 day 0 起支持 Recursive 的 Flint 模型。据该报道,Flint 的 NVFP4 与 BF16 两个 checkpoint 均可在单卡运行;单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。集成方式上,vLLM 提供 day-0 Docker 镜像 vllm/vllm-openai:flint(x86_64 与 arm64,CUDA 13.0),内置 Flint 支持;相关支持正通过 PR #62938 合入 vLLM。报道同时说明,Flint 内核面向单张 Blackwell GPU(TP=1、BF16 KV cache),其他配置回退到 vLLM 标准层;推理内容计入 max_tokens,处理难题时建议至少预留 32K。目前进展为镜像已发布、代码合入进行中。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 08:00
vLLM 从 day 0 支持 Recursive 的 Flint 模型报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- vLLM Blog精选vLLM 从 day 0 支持 Recursive 的 Flint 模型
vLLM 宣布从 day 0 支持 Recursive 的 Flint,NVFP4 与 BF16 两个 checkpoint 均可在单卡运行,单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 610月22日 01:00
- 近 24 小时变化
- –
02468
01:0002:0003:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。