Kapitsa 0.2.26 发布并公布 Apple Silicon 推理基准

2026年11月2日，面向 Apple Silicon 的开源推理引擎 Kapitsa 发布 0.2.26 版。作者在 r/MachineLearning 发帖称，该版本已在 M5 Max 128GB 的 MacBook Pro 上实测 Qwen、Nemotron、Flint、Clover 等六款模型，并给出解码与预填充数据。帖子还称，Kapitsa 可通过 SSD offloading 运行 Qwen Flash-Next 180B：在内存不足以容纳该模型的 Mac 上，放不进 RAM 的专家参数从 SSD 流式读取，因此在 48GB 的 MacBook Pro 上达到 61 tok/s。作者表示任意 Apple Silicon Mac 均可试用，本次涉及的模型为 35b、27b、flash-next、bolt、flint、clover。基准提交需先通过 brew 安装 Kapitsa 与 gh 并登录，再运行 kapitsa bench --submit 选择模型，过程约 3–15 分钟，结果以 GitHub pull request 形式发送，发送前会征询确认；上传内容约 2KB，包括 Mac 型号、芯片、内存、macOS 版本与数值，不含序列号、用户名或路径，可用 --dry-run 预览。目前进展限于该版本发布与上述基准数据公布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。