DGX Spark 上提升 MoE 推理性能的三种方法

2026年10月27日，NVIDIA Developer Blog 发布教程，介绍在 NVIDIA DGX Spark 上提升 MoE 推理性能的三种方法。该文称，在 DGX Spark 上对 Inclusion AI 的 Ling-3.0-flash 进行 batch-size-1 评测时，性能分析显示解码受限于内存带宽，读取模型权重主导了执行时间，其中 MoE 计算与输出层投影这两个操作尤为突出。文章以“更快生成 token 始于识别限制推理性能的因素”为切入点展开。目前该事件仅有这一篇一手报道，尚无后续跟进报道，三种方法的具体内容与效果未在现有材料中展开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。