Hugging Face Blog·· 2025-01-15精选AI 评分62
Hugging Face 发布静态嵌入模型,CPU 推理快 100 至 400 倍
Train 400x faster Static Embedding Models with Sentence Transformers
AI 导读
Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1,在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍,同时保留至少 85% 的性能。
推荐理由
原文给出静态嵌入模型的训练配方与两个已发布模型,读者可据此判断低算力场景下嵌入推理的可行边界。
来源:Hugging Face Blog · huggingface.co