Hugging Face Blog·· 2024-02-08精选AI 评分60
Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 为 Text Generation Inference(TGI)和 Inference Endpoints 推出 Messages API。
推荐理由
Hugging Face 官方给出 TGI 兼容 OpenAI 接口的迁移路径与代码示例,读者可据此评估从闭源模型切换到开源模型的改造成本。
来源:Hugging Face Blog · huggingface.co