veloGB10 加载 Swift 1.5 的修复与实测

2026年10月5日，r/LocalLLaMA 用户 MushroomMan234 分享在 veloGB10 上加载社区 EXL3 量化包的修复方法与实测结果。据其称，veloGB10 默认无法加载 Swift 1.5 以及他能找到的任何 Flash-Next 社区 EXL3 量化包，修复方式仅为改写文件头，权重与内核均无变化。实测方面，UkisAI 对 Qwen3.8-Flash-Next 做推理精简微调得到的 Swift 1.5，在 sf-stav 专为 GB10 打造的 Rust/CUDA 引擎 veloGB10 上以 xhigh 档运行，单流解码约 110 tok/s，日常编码任务每轮 371 秒，快于旧 vLLM NVFP4 配置下 base Flash-Next medium 的 506 秒。作者同时提示，十二次运行样本仍偏小，且尚未在 xhigh 档测试官方或 abliterated 包，因此无法判断提速中有多少来自 Swift、多少来自更高档位。以上均为该来源的说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。