跳到正文
Together AI Blog·· 2026-08-06精选AI 评分67

DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna 在 DeepSWE 上的成本与编码对比

DeepSeek-V4 Flash 0731 vs GPT-5.6 Luna on DeepSWE: Cost and Coding

AI 导读

Together AI 在 DeepSWE 全部 113 个任务上对比了 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna:Luna 的 pass@1 为 67.2%,DeepSeek 为 53.3%,但单次运行成本分别为 $0.61 和 $0.10,相差约 6 倍。

推荐理由

原文用 113 个真实仓库任务对比两款模型的成本与通过率,并给出级联方案的具体数字。

正文 · AI 翻译

‍

DeepSeek-V4 Flash 0731 是整个 DeepSWE 榜单上最便宜的模型:每任务约十美分!GPT-5.6 Luna 是一款扎实的高端旗舰,每任务 0.61 美元,约为 DeepSeek 价格的六倍。所以问题不在于谁赢得排行榜(Luna,轻松胜出),而在于便宜六倍能换来什么、要付出什么代价,以及两者合在一起是否胜过任何单独一个。

我们在全部 113 个 DeepSWE 任务上让 DeepSeek-V4 Flash 0731(max)对阵 GPT-5.6 Luna(max):这些是来自活跃开源仓库的真实、长周期功能请求,每个任务四次试验,由隐藏测试套件判定通过/失败。根据公布的逐次试验记录,总共有 900 次 rollout(DeepSeek 侧 452 次,Luna 侧 448 次)。下面的每个数字都来自这次运行,因此可能与其他公开记分卡不同。

概览

DeepSWE · 正面对决

DeepSeek-V4 Flash 与 GPT-5.6 Luna 概览

模型 Pass@1 平均成本 输出 token 步数
gpt-5.6-luna [max] 67% ± 4% $0.61 73k 102
deepseek-v4-flash [max] 53% ± 4% $0.10 108k 153

Luna 的成本约为 6 倍,准确率高出约 14 个百分点;DeepSeek 使用更多输出 token 和步数却走得更近,但以 0.10 美元计,它是该组中最便宜的运行,且优势明显。

__wf_reserved_inherit

DeepSWE 记分板:pass@1 与 pass@k

Luna 在单次尝试中明显胜出:在 DeepSWE 官方评分下,pass@1 为 67.2% 对 DeepSeek 的 53.3%,领先 14 个百分点,相对而言准确率高出约 26%。在相同尝试次数下,Luna 在每个 k 值上都保持领先(两次尝试 81.6 对 70.1,四次尝试 90.3 对 80.5)。就原始解题能力而言,这不是一场势均力敌的较量。

但 DeepSWE 恰恰是那种可以并行展开多次尝试的工作负载,而在这里经济账改写了局面。DeepSeek 的 pass@2(70.1%)已经略高于 Luna 的单次尝试(67.2%),而两次 DeepSeek 尝试花费约 0.20 美元,Luna 则为 0.61 美元。如果验证器能挑出获胜的那次运行,这个便宜模型就能以三分之一的价格达到旗舰模型首次尝试的质量,甚至还没用上下面任何路由技巧。

__wf_reserved_inherit

成本比较:DeepSeek-V4 Flash 与 GPT-5.6 Luna 定价

  • 按每任务 0.61 美元计算,Luna 每 100 美元返回 110 次解决,而 DeepSeek 为 532 次:便宜模型的价值优势达 4.8 倍。每次 rollout 的成本差距约为 6 倍。
  • 便宜模型唯一买不到的是速度,而这正是与通常“flash”模型故事相反的地方:DeepSeek 在这里是两者中较慢的,中位耗时 23 分钟、148 步,而 Luna 为 16 分钟、92 步。它靠磨(并且输出更多,中位 104k token,Luna 为 70k)。DeepSeek 的优势是钱,不是时间。
  • 这一实际耗时差距部分是该模型太新造成的;随着推理引擎针对它进行调优,预计会缩小。

__wf_reserved_inherit

失败模式:DeepSeek 比旗舰失败得更体面

便宜模型悄悄胜出的另一点是纪律性。当 DeepSeek 失败时,只有 9% 的失败会破坏仓库现有的测试套件。Luna 则有 15%:这是 GPT 家族的回归特征,与我们在 Sol 及其他 OpenAI 系模型上看到的 15% 到 20% 相同。两者大多以接近成功的方式失败(DeepSeek 69%,Luna 66%),但更贵的模型反而更可能扰动原本能正常工作的代码。如果你部署 Luna,请用完整回归运行来把关;DeepSeek 较少需要这道护栏。

__wf_reserved_inherit

按任务领域比较 DeepSeek-V4 Flash 与 GPT-5.6 Luna

按代码实际内容对 113 个任务进行分类,Luna 在 8 个领域中的 7 个胜出。它最大的优势恰恰在于推理密集型工作:程序分析(69 对 33)、并发与持久性(70 对 38)、语言与运行时内部机制(86 对 59),每项大约领先 30 分。模型能力真正体现的地方就在这里,而 DeepSeek 在此大幅落后。

DeepSeek 只守住了一个领域,而这个领域很能说明问题:查询与配置语言,78 对 70。SQL 构建器、窗口函数、键集分页、配置解析器。结构化、模式化、遵循约定的工作,正是廉价模型真正有竞争力的地方,甚至领先。凡是任务要求在整个系统中维持一个硬性不变量的地方,Luna 的能力就拉开了差距。

__wf_reserved_inherit

按编程语言比较 DeepSeek-V4 Flash 与 GPT-5.6 Luna

Luna 在全部五项中胜出,但差距大小告诉你使用 DeepSeek 时需要小心的地方。它在 Rust(55 对 60)和 Go(62 对 79)上表现尚可,但它的 JavaScript 是崩盘:35 对 Luna 的 60,是整个对决中最弱的单个单元格,差了 25 分。DeepSeek 的 Python 也偏弱(49 对 65)。如果你的技术栈以 JS 为主,廉价模型是虚假的节约;如果是配置、查询或 Rust,DeepSeek 能弥补大部分差距。

__wf_reserved_inherit

DeepSeek-V4 Flash 与 GPT-5.6 Luna 有多相似?

低于廉价档模型对之间的相似度。逐任务相关性为 0.50,而且多样性是偏斜的:两者都解决了 87 个任务,仅 Luna 解决的有 15 个,仅 DeepSeek 解决的只有 4 个。关键在于,没有任何任务是 DeepSeek 全部通过而 Luna 完全错过的(DeepSeek 一方零个四比零的角落),而 Luna 有四个任务全部通过而 DeepSeek 从未成功(go-critic-doc-link-checker、langchain-request-coalescing、meriyah-explicit-resource-declarations、superjson-error-stack-serialization)。它们的并集覆盖了 113 个中的 106 个(93.8%),但这几乎全是 Luna 自身的覆盖范围。作为纯粹的多样性策略,DeepSeek 贡献甚微。

__wf_reserved_inherit

组合策略:为什么级联仍然有效

所以这个配对本应毫无意义。但并非如此,原因在于价格。先运行 DeepSeek,只有当你的测试套件拒绝答案时才升级到 Luna:每个任务 $0.385 解决 78.9%。仔细读一下。它比单用 Luna 更准确(67.2%,提升 11.7 个百分点),也比单用 Luna 更便宜($0.61),约为 Luna 每任务成本的 63%。

近乎免费的第一阶段就是全部诀窍:DeepSeek 以每任务一角钱的价格清掉约 53% 的队列,因此 Luna 的费用只会触及困难的那部分剩余任务,而且到达 Luna 的任务还会额外获得第二次独立尝试。级联甚至胜过一个完美的一次性预言机路由器(74.3%),因为两次挥棒胜过一次完美选择。无论哪个模型领跑,准确率都相同,但 DeepSeek 优先要便宜得多($0.385 对 $0.64),所以始终让廉价的那个先上。

这对组合的上限是 93.8%;两者都从未解决的 7 个任务(包括 gql-incremental-graphql-delivery 和 bandit-structured-nosec-directives)需要一个更强的第三模型,而不是更好的路由器。

__wf_reserved_inherit

这意味着什么

单独来看,DeepSeek-V4 Flash 0731 是一款中游模型,只有一个真正的强项领域(查询与配置),失败特征干净,JavaScript 能力存在灾难性短板,而价格无可匹敌。按各项质量指标衡量,GPT-5.6 Luna 都是更优秀的工程师:pass@1 高出 14 个百分点,在 8 个领域中的 7 个领先,覆盖全部 5 种语言,速度也更快。但你要为此多付约 6 倍的价格,还要额外为 GPT 系列的回退习惯设置防护。按每任务 $0.61 计算,这款旗舰模型确实便宜,当你看重质量时,它是轻松的默认选择。但 DeepSeek 最精妙的用法并不是替代 Luna,而是作为 Luna 的前端。一个只花一毛钱、却能清掉一半工作的第一阶段,让你以低于旗舰自身价格的成本买到超越旗舰的准确率。当便宜模型便宜到这个程度,级联就不再是一种妥协,而是榜单上最优的一行。

附录:数据表

DeepSWE · 附录

DeepSeek-V4 Flash 对比 GPT-5.6 Luna:完整数据表

指标 DeepSeek-V4 Flash 0731(max) GPT-5.6 Luna(max)
pass@1(官方评分) 53.3% 67.2%
pass@1(错误计为失败) 53.3% 67.2%
pass@2 / pass@4 70.1 / 80.5% 81.6 / 90.3%
覆盖率 / 可靠性 80.5 / 66.2% 90.3 / 74.8%
扎实(4/4)/ 撞墙(0/4) 23 / 22 43 / 11
每次 rollout 成本 / 总计 $0.10 / $45 $0.61 / $273
每 $100 解出任务数 532 110
中位分钟数 / 步数 23 / 148 16 / 92
中位峰值上下文 / 输出 token 202k / 104k 202k / 70k
失败解剖 69% 接近,9% 回退 66% 接近,15% 回退
获胜领域(共 8 个) 1(查询与配置) 7
获胜语言 无 全部 5 种
每任务相关性 / 并集 0.50 / 113 个中 106 个(93.8%)
级联 DeepSeek > Luna(准确率 / 成本) 78.9% / $0.385 对比仅用 Luna 67.2% / $0.61
Oracle 单次路由 74.3%
排行榜排名(共 52 个配置) 第 30 名 第 13 名
基础设施错误 0 0

常见问题

GPT-5.6 Luna 比 DeepSeek-V4 Flash 更好吗?

在质量上,是的。GPT-5.6 Luna 在 DeepSWE pass@1 上以 67.2% 对 53.3% 胜出,在每一个相同尝试次数下都领先,赢下 8 个任务领域中的 7 个以及全部 5 种语言,而且速度更快。DeepSeek-V4 Flash 在价格上以每次 rollout 约 6 倍的优势胜出,并且在失败时失败得更干净。

DeepSeek-V4 Flash 比 GPT-5.6 Luna 便宜多少?

在我们的运行中,DeepSeek-V4 Flash 每次 rollout 约花费 $0.10,而 GPT-5.6 Luna 为 $0.61,约为其六分之一的价格。按每个解出的任务衡量,DeepSeek 每 $100 返回 532 个解,而 Luna 为 110 个,每美元工作量约为其 4.8 倍。

应该同时使用 DeepSeek-V4 Flash 和 GPT-5.6 Luna 吗?

是的,采用级联方式。先运行 DeepSeek,仅当测试套件拒绝答案时才升级到 Luna,在我们的运行中以每个任务 $0.385 的成本解决了 78.9% 的任务:比仅用 Luna 更准确(67.2%),也比仅用 Luna 更便宜($0.61)。始终以便宜模型打头;两种方式准确率相同,但 DeepSeek 优先成本更低。

对于编程,DeepSeek-V4 Flash 和 GPT-5.6 Luna 哪个更好?

在我们的细分中 Luna 赢下每一种语言,但差距各不相同。DeepSeek 在 Rust 上表现尚可,在查询与配置工作上具有竞争力,实际上还处于领先。它的 JavaScript 是这场对比中最弱的一格(35 对 60),因此以 JS 为主的技术栈不应只依赖便宜模型。

DeepSWE 上的 pass@k 是什么?

pass@k 衡量的是对某个任务的 k 次尝试中是否至少有一次通过隐藏测试套件。pass@1 奖励第一次就做对;更高的 k 奖励能够在多次尝试后最终解出问题的模型。DeepSeek 的 pass@2(70.1%)已经略高于 Luna 的 pass@1(67.2%),这正是并行尝试和级联经济学得以成立的原因。

来源:Together AI Blog · together.ai