Hugging Face Blog·· 2024-01-10精选AI 评分62
Unsloth 与 Hugging Face TRL 集成，LLM 微调提速 2 倍
Make LLM Fine-tuning 2x faster with Unsloth and 🤗 TRL
AI 导读
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 生态兼容，可将 LLM 微调速度提升约 2 倍并降低显存占用，精度相对标准 QLoRA 无下降。
推荐理由
原文给出 Unsloth 与 TRL 的集成方式和 59 次基准数据，读者可据此判断微调成本能降多少。
来源：Hugging Face Blog · huggingface.co