StartLux开源决策模型推理引擎Prism

2026年10月22日，国内AI创业团队StartLux（原点星辉）对外开源其自研决策模型推理引擎Prism。据智东西10月23日报道，Prism在单张H200上处理单个短问题比原vLLM方案快2.8倍，同一材料连问三题最快提速5.3倍。该引擎单块32GB显存的RTX 5090消费级显卡即可运行，支持数据并行与张量并行两种模式，也可组合使用以适配不同业务需求。报道同时指出，decider和JevK5两款引擎无法直接搭载StartLux原生模型，测试使用了结构一致的替代模型，仅对比速度、不考核准确率；另有部分框架不支持8位量化，只能以更高精度运行。目前事件进展为开源发布及初步性能对比，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。