跳到正文
热点事件持续更新

vLLM 首日支持 Flint 模型部署

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

2026年10月21日,vLLM 官方博客宣布,从 day 0 起支持 Recursive 的 Flint 模型。据该报道,Flint 的 NVFP4 与 BF16 两个 checkpoint 均可在单卡运行;单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。集成方式上,vLLM 提供 day-0 Docker 镜像 vllm/vllm-openai:flint(x86_64 与 arm64,CUDA 13.0),内置 Flint 支持;相关支持正通过 PR #62938 合入 vLLM。报道同时说明,Flint 内核面向单张 Blackwell GPU(TP=1、BF16 KV cache),其他配置回退到 vLLM 标准层;推理内容计入 max_tokens,处理难题时建议至少预留 32K。目前进展为镜像已发布、代码合入进行中。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. vLLM Blog精选
    vLLM 从 day 0 支持 Recursive 的 Flint 模型

    vLLM 宣布从 day 0 支持 Recursive 的 Flint,NVFP4 与 BF16 两个 checkpoint 均可在单卡运行,单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。

本事件热度走势

可比范围当前
6
可比范围峰值
610月22日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。