Hugging Face Blog·· 2023-05-31AI 评分42
Hugging Face 推出 Amazon SageMaker LLM 推理容器
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
AI 导读
Hugging Face 发布面向 Amazon SageMaker 的 LLM Inference DLC，基于 Text Generation Inference（TGI），可部署 BLOOM、StarCoder、Llama、T5 等开源大模型。
来源：Hugging Face Blog · huggingface.co