AWS 发布 TTS 自动扩缩容实测教程

2026年10月23日，AWS Machine Learning Blog 发布一篇教程，介绍如何用实测数据替代凭猜测设定 Amazon SageMaker AI 实时端点的自动扩缩容目标值。该教程将 8200 万参数的 TTS 模型 Kokoro-82M 以自定义容器形式部署在 SageMaker AI 实时端点上，并基于两项实测指标 Q_max 与 T_total 推导扩缩容配置。教程说明，文中 Q_max=50、T_total=320s 这组具体数值仅对 ml.g5.xlarge 上的 Kokoro-82M 成立，换用其他模型或实例类型会不同；运行扩容测量前，需具备 ml.g5.xlarge 服务配额，且比基线多出至少一个空闲槽位。教程还提示，示例容器固定使用较早版本的 PyTorch，存在已知安全公告 PYSEC-2026-2286（已在 torch 2.10.0 修复），在任何非概念验证用途前应检查并升级该版本锁定。目前事件进展限于该教程发布，暂无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。