DeepSeek开源推理框架DeepInfer
先了解这件事
2026年10月20日，据IT之家报道，DeepSeek宣布将内部推理框架DeepInfer全面开源，并同步开源生产级Token编解码组件deepseek-recipe。报道称，DeepInfer集成高性能算子与推理引擎，支持分布式推理、推测解码、SWA Bounded Replay和结构化输出，兼容英伟达与华为昇腾平台；同步开源的deepseek-recipe组件与DeepSeek官方API处理逻辑完整对齐，旨在确保社区获得与官方部署一致的API体验。报道提及，此次开源是在DeepSeek此前开源一系列大模型、TileLang编译工具及推理算子库基础上的进一步动作。同日，DeepSeek官方账号在X发文称，DeepInfer已在生产环境中支撑DeepSeek-V4.1-Flash的大规模服务，主打高吞吐与低延迟，公开生产栈意在帮助社区降低算力成本与能耗，代码已发布在GitHub。随后X用户Dongxi东锡NLP称，该框架以Apache-2.0协议开源，包含优化后的kernel、模型与采样器运行时，支持Attention DP与均衡CP、MoE EP加EPLB等并行策略，以及DSpark与置信度调度验证、SWA有界重放、零开销批调度器、批不变推理、确定性采样和结构化输出。早先报道未披露开源许可证与代码仓库地址，后续报道称许可证为Apache-2.0、代码已发布在GitHub。新报道中，X用户Chubby称代码已发布在github.com/deepseek-ai/DeepInfer，并指出仅靠模型权重并不能降低AI运行成本，共享生产级推理栈有助于开源模型规模化提效，该框架除Nvidia外也可运行在华为芯片上。目前事件处于开源发布阶段，后续维护安排尚未见披露。
AI 根据报道生成 · 28 分钟前更新
事件进展
2 个进展
- 10月20日 17:30 · 4 篇报道DeepSeek开源推理框架DeepInferDeepSeek：DeepSeek 开源推理框架 DeepInfer
- 10月20日 17:05 · 1 篇报道DeepSeek开源内部推理框架DeepInferIT之家：DeepSeek 全面开源内部推理框架 DeepInfer
报道时间线
沿着报道，了解事件的不同侧面。
- ChubbyDeepSeek 开源生产推理框架 DeepInfer
DeepSeek 将其内部推理框架 DeepInfer 完全开源，该框架支撑 DeepSeek-V4.1-Flash 的大规模高吞吐低延迟服务，代码已发布在 github.com/deepseek-ai/DeepInfer。转发者指出，仅靠模型权重并不能降低 AI 运行成本，共享生产级推理栈有助于开源模型规模化提效，并提到该框架除 Nvidia 外也可运行在华为芯片上。
- Dongxi 东锡 NLPDeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 以 Apache-2.0 协议开源了高性能大规模推理框架 DeepInfer，代码已发布在 GitHub。该框架包含优化后的 kernel、模型与采样器运行时，支持 Attention DP 与均衡 CP、MoE EP 加 EPLB 等并行策略，以及 DSpark 与置信度调度验证、SWA 有界重放、零开销批调度器、批不变推理、确定性采样和结构化输出。
- 歸藏DeepSeek 开源内部推理框架 DeepInfer
DeepSeek 开源了内部推理框架 DeepInfer，该框架支撑 DeepSeek-V4.1-Flash 的大规模高吞吐、低延迟运行。官方称开放生产栈是为了帮助社区降低算力成本与能耗，代码已发布在 GitHub。歸藏指出，使用该框架可以实现与 DeepSeek 类似的高吞吐量和低延迟表现。
- DeepSeekDeepSeek 开源推理框架 DeepInfer
DeepSeek 开源了自研推理框架 DeepInfer，该框架已在生产环境中支撑 DeepSeek-V4.1-Flash 的大规模服务，主打高吞吐与低延迟。DeepSeek 表示公开生产栈是希望帮助社区降低算力成本与能耗，代码已发布在 GitHub。
- IT之家精选DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。DeepInfer 集成高性能算子与推理引擎，支持分布式推理、推测解码、SWA Bounded Replay 和结构化输出，兼容英伟达与华为昇腾平台。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。