跳到正文
Together AI Blog·· 15 天前精选AI 评分66

Together AI 推出模型上线金丝雀发布功能

Canary rollouts: upgrade models in production without downtime

AI 导读

Together AI 发布 rollout 功能,可在同一 endpoint 上通过金丝雀、蓝绿、滚动三种策略在不停机的情况下切换模型,并支持按 router_latency、router_error_rate 等指标设置回归门禁。

推荐理由

原文给出金丝雀、蓝绿、滚动三种上线策略的完整机制与真实回滚案例,可迁移到自有推理服务的模型切换流程。

来源:Together AI Blog · together.ai