专用推理运行时涌现：Strata、ninfer 等

2026年10月4日，r/LocalLLaMA 出现一篇讨论，指出一批极窄用途的推理运行时正在出现，包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。这些运行时放弃 llama.cpp 与 vLLM 所擅长的通用性，转而围绕少量模型甚至单一硬件平台（如 Strix Halo）做优化。报道将这一现象概括为“过度拟合推理引擎的兴起”。目前该报道仅描述此类专用运行时的集中涌现及其设计取向，未给出各运行时的具体性能数据、发布时间或适用模型清单，也未说明其与通用推理框架之间的实际对比结果。事件仍处于早期观察阶段，后续进展有待更多报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。