Hugging Face Blog·· 2025-06-23AI 评分40
SGLang 集成 Hugging Face transformers 后端
Transformers backend integration in SGLang
AI 导读
SGLang 新增 Hugging Face transformers 作为后端,可直接以高性能推理运行任意 transformers 兼容模型,无需原生支持。
来源:Hugging Face Blog · huggingface.co
Transformers backend integration in SGLang
SGLang 新增 Hugging Face transformers 作为后端,可直接以高性能推理运行任意 transformers 兼容模型,无需原生支持。
来源:Hugging Face Blog · huggingface.co