跳到正文
Hugging Face Blog·· 2024-02-08精选AI 评分60

Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API

From OpenAI to Open LLMs with Messages API on Hugging Face

AI 导读

Hugging Face 为 Text Generation Inference(TGI)和 Inference Endpoints 推出 Messages API。

推荐理由

Hugging Face 官方给出 TGI 兼容 OpenAI 接口的迁移路径与代码示例,读者可据此评估从闭源模型切换到开源模型的改造成本。

来源:Hugging Face Blog · huggingface.co