Together AI Blog·· 15 天前精选AI 评分66
Together AI 推出模型上线金丝雀发布功能
Canary rollouts: upgrade models in production without downtime
AI 导读
Together AI 发布 rollout 功能,可在同一 endpoint 上通过金丝雀、蓝绿、滚动三种策略在不停机的情况下切换模型,并支持按 router_latency、router_error_rate 等指标设置回归门禁。
推荐理由
原文给出金丝雀、蓝绿、滚动三种上线策略的完整机制与真实回滚案例,可迁移到自有推理服务的模型切换流程。
来源:Together AI Blog · together.ai