Hugging Face Blog·· 2024-05-22AI 评分40
Hugging Face 支持从 Hub 部署模型到 AWS Inferentia2
Deploy models on AWS Inferentia2 from Hugging Face
AI 导读
Hugging Face 宣布用户可直接将 Hub 上超 10 万个公开模型部署到 AWS Inferentia2，新增 14 种模型架构和 6 类机器学习任务支持，并可通过 Amazon SageMaker 或 Inference Endpoints 完成部署。
来源：Hugging Face Blog · huggingface.co