跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

565 条精选近 30 天 144 条共收录 2,271 条

更新

精选归档 · 第 29 页

7月28日周三第 561–565 条
4月16日周五
  1. Hugging Face Blog60

    Hugging Face 发布 Accelerate 库,五处改动让 PyTorch 训练脚本支持分布式与混合精度

    Hugging Face 发布 Accelerate 库,面向希望保留训练循环控制权的 PyTorch 用户,用统一 API 封装分布式训练(单机或多机多 GPU、TPU)与混合精度所需的样板代码。

    推荐理由:原文给出五处代码改动即可跑分布式与混合精度的具体做法,便于对照现有 PyTorch 训练脚本评估迁移成本。

1月19日周二
5月15日周一
12月5日周一