Ai2 分享 GPU 集群调度系统实践
先了解这件事
2026 年 10 月 9 日，Ai2 与 Hugging Face Blog 先后发布 Ai2 的集群调度实践：Ai2 用 GPU 时间预算、层级公平分配和时间切片合约替换了原有的优先级调度器，把 GPU 时间分配从逐案协调变为透明的预算流程，管理数千块 NVIDIA H100、B200 和 B300。上线后 30 天测试期内，团队拿到应得 GPU 小时的 98%，集群占用率维持在 98%，需要人工介入的维修减少 74%；调试类工作负载的 p90 排队时间从 2 小时降至 30 秒，最大 H100 集群的中位排队时间从 5 分钟降至 24 秒。文中还提到若干具体设定：用户可将最小运行时间设为零，表示该 GPU 时间不分配；部分工作负载始终可被抢占，且不计入任何预算；时间切片下受保护运行时间有 8 小时上限，超出分配后会话变为可抢占；Ai2 正投资一个紧邻本地存储的纯 CPU 集群，用于以数据准备为主的开发会话，并计划为这些纯 CPU 工作负载构建可恢复会话。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Hugging Face BlogAi2 如何用 GPU 时间预算重构集群调度
Ai2 用 GPU 时间预算、层级公平分配和时间切片合约替换了原有的优先级调度器，管理数千块 NVIDIA H100、B200 和 B300。上线后 30 天测试期内团队拿到应得 GPU 小时的 98%，集群占用率维持在 98%，需要人工介入的维修减少 74%。调试类工作负载的 p90 排队时间从 2 小时降至 30 秒，最大 H100 集群的中位排队时间从 5 分钟降至 24 秒。
- Allen AI (Ai2)精选Ai2 如何为 GPU 集群设计高影响力调度系统
Ai2 用 GPU 时间预算、层级公平份额分配和时间切片契约替换了原有的优先级调度器，把 GPU 时间分配从逐案协调变成透明的预算流程。在 30 天测试期内，团队获得了应得 GPU 小时的 98%，集群占用率维持在 98%，需要人工介入的维修减少了 74%。调试类工作负载的 p90 排队等待时间从 2 小时降至 30 秒，最大 H100 集群的中位排队等待时间从 5 分钟降至 24 秒。
本事件热度走势
- 可比范围当前
- 17
- 可比范围峰值
- 1810月10日 00:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。