DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna 在 DeepSWE 上的成本与编码对比
DeepSeek-V4 Flash 0731 vs GPT-5.6 Luna on DeepSWE: Cost and Coding
Together AI 在 DeepSWE 全部 113 个任务上对比了 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna 的 pass@1 为 67.2%,DeepSeek 为 53.3%,但单次运行成本分别为 $0.61 和 $0.10,相差约 6 倍。
原文用 113 个真实仓库任务对比两款模型的成本与通过率,并给出级联方案的具体数字。
DeepSeek-V4 Flash 0731 是整个 DeepSWE 榜单上最便宜的模型:每任务约十美分!GPT-5.6 Luna 是一款扎实的高端旗舰,每任务 0.61 美元,约为 DeepSeek 价格的六倍。所以问题不在于谁赢得排行榜(Luna,轻松胜出),而在于便宜六倍能换来什么、要付出什么代价,以及两者合在一起是否胜过任何单独一个。
我们在全部 113 个 DeepSWE 任务上让 DeepSeek-V4 Flash 0731(max)对阵 GPT-5.6 Luna(max):这些是来自活跃开源仓库的真实、长周期功能请求,每个任务四次试验,由隐藏测试套件判定通过/失败。根据公布的逐次试验记录,总共有 900 次 rollout(DeepSeek 侧 452 次,Luna 侧 448 次)。下面的每个数字都来自这次运行,因此可能与其他公开记分卡不同。
概览
DeepSWE · 正面对决
DeepSeek-V4 Flash 与 GPT-5.6 Luna 概览
| 模型 | Pass@1 | 平均成本 | 输出 token | 步数 |
|---|---|---|---|---|
| gpt-5.6-luna [max] | 67% ± 4% | $0.61 | 73k | 102 |
| deepseek-v4-flash [max] | 53% ± 4% | $0.10 | 108k | 153 |
Luna 的成本约为 6 倍,准确率高出约 14 个百分点;DeepSeek 使用更多输出 token 和步数却走得更近,但以 0.10 美元计,它是该组中最便宜的运行,且优势明显。

DeepSWE 记分板:pass@1 与 pass@k
Luna 在单次尝试中明显胜出:在 DeepSWE 官方评分下,pass@1 为 67.2% 对 DeepSeek 的 53.3%,领先 14 个百分点,相对而言准确率高出约 26%。在相同尝试次数下,Luna 在每个 k 值上都保持领先(两次尝试 81.6 对 70.1,四次尝试 90.3 对 80.5)。就原始解题能力而言,这不是一场势均力敌的较量。
但 DeepSWE 恰恰是那种可以并行展开多次尝试的工作负载,而在这里经济账改写了局面。DeepSeek 的 pass@2(70.1%)已经略高于 Luna 的单次尝试(67.2%),而两次 DeepSeek 尝试花费约 0.20 美元,Luna 则为 0.61 美元。如果验证器能挑出获胜的那次运行,这个便宜模型就能以三分之一的价格达到旗舰模型首次尝试的质量,甚至还没用上下面任何路由技巧。

成本比较:DeepSeek-V4 Flash 与 GPT-5.6 Luna 定价
- 按每任务 0.61 美元计算,Luna 每 100 美元返回 110 次解决,而 DeepSeek 为 532 次:便宜模型的价值优势达 4.8 倍。每次 rollout 的成本差距约为 6 倍。
- 便宜模型唯一买不到的是速度,而这正是与通常“flash”模型故事相反的地方:DeepSeek 在这里是两者中较慢的,中位耗时 23 分钟、148 步,而 Luna 为 16 分钟、92 步。它靠磨(并且输出更多,中位 104k token,Luna 为 70k)。DeepSeek 的优势是钱,不是时间。
- 这一实际耗时差距部分是该模型太新造成的;随着推理引擎针对它进行调优,预计会缩小。

失败模式:DeepSeek 比旗舰失败得更体面
便宜模型悄悄胜出的另一点是纪律性。当 DeepSeek 失败时,只有 9% 的失败会破坏仓库现有的测试套件。Luna 则有 15%:这是 GPT 家族的回归特征,与我们在 Sol 及其他 OpenAI 系模型上看到的 15% 到 20% 相同。两者大多以接近成功的方式失败(DeepSeek 69%,Luna 66%),但更贵的模型反而更可能扰动原本能正常工作的代码。如果你部署 Luna,请用完整回归运行来把关;DeepSeek 较少需要这道护栏。

按任务领域比较 DeepSeek-V4 Flash 与 GPT-5.6 Luna
按代码实际内容对 113 个任务进行分类,Luna 在 8 个领域中的 7 个胜出。它最大的优势恰恰在于推理密集型工作:程序分析(69 对 33)、并发与持久性(70 对 38)、语言与运行时内部机制(86 对 59),每项大约领先 30 分。模型能力真正体现的地方就在这里,而 DeepSeek 在此大幅落后。
DeepSeek 只守住了一个领域,而这个领域很能说明问题:查询与配置语言,78 对 70。SQL 构建器、窗口函数、键集分页、配置解析器。结构化、模式化、遵循约定的工作,正是廉价模型真正有竞争力的地方,甚至领先。凡是任务要求在整个系统中维持一个硬性不变量的地方,Luna 的能力就拉开了差距。

按编程语言比较 DeepSeek-V4 Flash 与 GPT-5.6 Luna
Luna 在全部五项中胜出,但差距大小告诉你使用 DeepSeek 时需要小心的地方。它在 Rust(55 对 60)和 Go(62 对 79)上表现尚可,但它的 JavaScript 是崩盘:35 对 Luna 的 60,是整个对决中最弱的单个单元格,差了 25 分。DeepSeek 的 Python 也偏弱(49 对 65)。如果你的技术栈以 JS 为主,廉价模型是虚假的节约;如果是配置、查询或 Rust,DeepSeek 能弥补大部分差距。

DeepSeek-V4 Flash 与 GPT-5.6 Luna 有多相似?
低于廉价档模型对之间的相似度。逐任务相关性为 0.50,而且多样性是偏斜的:两者都解决了 87 个任务,仅 Luna 解决的有 15 个,仅 DeepSeek 解决的只有 4 个。关键在于,没有任何任务是 DeepSeek 全部通过而 Luna 完全错过的(DeepSeek 一方零个四比零的角落),而 Luna 有四个任务全部通过而 DeepSeek 从未成功(go-critic-doc-link-checker、langchain-request-coalescing、meriyah-explicit-resource-declarations、superjson-error-stack-serialization)。它们的并集覆盖了 113 个中的 106 个(93.8%),但这几乎全是 Luna 自身的覆盖范围。作为纯粹的多样性策略,DeepSeek 贡献甚微。

组合策略:为什么级联仍然有效
所以这个配对本应毫无意义。但并非如此,原因在于价格。先运行 DeepSeek,只有当你的测试套件拒绝答案时才升级到 Luna:每个任务 $0.385 解决 78.9%。仔细读一下。它比单用 Luna 更准确(67.2%,提升 11.7 个百分点),也比单用 Luna 更便宜($0.61),约为 Luna 每任务成本的 63%。
近乎免费的第一阶段就是全部诀窍:DeepSeek 以每任务一角钱的价格清掉约 53% 的队列,因此 Luna 的费用只会触及困难的那部分剩余任务,而且到达 Luna 的任务还会额外获得第二次独立尝试。级联甚至胜过一个完美的一次性预言机路由器(74.3%),因为两次挥棒胜过一次完美选择。无论哪个模型领跑,准确率都相同,但 DeepSeek 优先要便宜得多($0.385 对 $0.64),所以始终让廉价的那个先上。
这对组合的上限是 93.8%;两者都从未解决的 7 个任务(包括 gql-incremental-graphql-delivery 和 bandit-structured-nosec-directives)需要一个更强的第三模型,而不是更好的路由器。

这意味着什么
单独来看,DeepSeek-V4 Flash 0731 是一款中游模型,只有一个真正的强项领域(查询与配置),失败特征干净,JavaScript 能力存在灾难性短板,而价格无可匹敌。按各项质量指标衡量,GPT-5.6 Luna 都是更优秀的工程师:pass@1 高出 14 个百分点,在 8 个领域中的 7 个领先,覆盖全部 5 种语言,速度也更快。但你要为此多付约 6 倍的价格,还要额外为 GPT 系列的回退习惯设置防护。按每任务 $0.61 计算,这款旗舰模型确实便宜,当你看重质量时,它是轻松的默认选择。但 DeepSeek 最精妙的用法并不是替代 Luna,而是作为 Luna 的前端。一个只花一毛钱、却能清掉一半工作的第一阶段,让你以低于旗舰自身价格的成本买到超越旗舰的准确率。当便宜模型便宜到这个程度,级联就不再是一种妥协,而是榜单上最优的一行。
附录:数据表
DeepSWE · 附录
DeepSeek-V4 Flash 对比 GPT-5.6 Luna:完整数据表
| 指标 | DeepSeek-V4 Flash 0731(max) | GPT-5.6 Luna(max) |
|---|---|---|
| pass@1(官方评分) | 53.3% | 67.2% |
| pass@1(错误计为失败) | 53.3% | 67.2% |
| pass@2 / pass@4 | 70.1 / 80.5% | 81.6 / 90.3% |
| 覆盖率 / 可靠性 | 80.5 / 66.2% | 90.3 / 74.8% |
| 扎实(4/4)/ 撞墙(0/4) | 23 / 22 | 43 / 11 |
| 每次 rollout 成本 / 总计 | $0.10 / $45 | $0.61 / $273 |
| 每 $100 解出任务数 | 532 | 110 |
| 中位分钟数 / 步数 | 23 / 148 | 16 / 92 |
| 中位峰值上下文 / 输出 token | 202k / 104k | 202k / 70k |
| 失败解剖 | 69% 接近,9% 回退 | 66% 接近,15% 回退 |
| 获胜领域(共 8 个) | 1(查询与配置) | 7 |
| 获胜语言 | 无 | 全部 5 种 |
| 每任务相关性 / 并集 | 0.50 / 113 个中 106 个(93.8%) | |
| 级联 DeepSeek > Luna(准确率 / 成本) | 78.9% / $0.385 | 对比仅用 Luna 67.2% / $0.61 |
| Oracle 单次路由 | 74.3% | |
| 排行榜排名(共 52 个配置) | 第 30 名 | 第 13 名 |
| 基础设施错误 | 0 | 0 |
常见问题
GPT-5.6 Luna 比 DeepSeek-V4 Flash 更好吗?
在质量上,是的。GPT-5.6 Luna 在 DeepSWE pass@1 上以 67.2% 对 53.3% 胜出,在每一个相同尝试次数下都领先,赢下 8 个任务领域中的 7 个以及全部 5 种语言,而且速度更快。DeepSeek-V4 Flash 在价格上以每次 rollout 约 6 倍的优势胜出,并且在失败时失败得更干净。
DeepSeek-V4 Flash 比 GPT-5.6 Luna 便宜多少?
在我们的运行中,DeepSeek-V4 Flash 每次 rollout 约花费 $0.10,而 GPT-5.6 Luna 为 $0.61,约为其六分之一的价格。按每个解出的任务衡量,DeepSeek 每 $100 返回 532 个解,而 Luna 为 110 个,每美元工作量约为其 4.8 倍。
应该同时使用 DeepSeek-V4 Flash 和 GPT-5.6 Luna 吗?
是的,采用级联方式。先运行 DeepSeek,仅当测试套件拒绝答案时才升级到 Luna,在我们的运行中以每个任务 $0.385 的成本解决了 78.9% 的任务:比仅用 Luna 更准确(67.2%),也比仅用 Luna 更便宜($0.61)。始终以便宜模型打头;两种方式准确率相同,但 DeepSeek 优先成本更低。
对于编程,DeepSeek-V4 Flash 和 GPT-5.6 Luna 哪个更好?
在我们的细分中 Luna 赢下每一种语言,但差距各不相同。DeepSeek 在 Rust 上表现尚可,在查询与配置工作上具有竞争力,实际上还处于领先。它的 JavaScript 是这场对比中最弱的一格(35 对 60),因此以 JS 为主的技术栈不应只依赖便宜模型。
DeepSWE 上的 pass@k 是什么?
pass@k 衡量的是对某个任务的 k 次尝试中是否至少有一次通过隐藏测试套件。pass@1 奖励第一次就做对;更高的 k 奖励能够在多次尝试后最终解出问题的模型。DeepSeek 的 pass@2(70.1%)已经略高于 Luna 的 pass@1(67.2%),这正是并行尝试和级联经济学得以成立的原因。
来源:Together AI Blog · together.ai