跳到正文
Hugging Face Blog·· 2025-01-15精选AI 评分62

Hugging Face 发布静态嵌入模型,CPU 推理快 100 至 400 倍

Train 400x faster Static Embedding Models with Sentence Transformers

AI 导读

Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1,在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍,同时保留至少 85% 的性能。

推荐理由

原文给出静态嵌入模型的训练配方与两个已发布模型,读者可据此判断低算力场景下嵌入推理的可行边界。

来源:Hugging Face Blog · huggingface.co