Unsloth 支持 Google Gemma 3n 微调并新增 TTS 与 DeepSeek-R1-0528 支持
Unsloth - Google Gemma 3n & TTS
Unsloth 宣布支持 Google 新模型 Gemma 3n 的运行与微调,该模型支持文本、图像、视频和音频,上下文为 32K,官方已上传 Dynamic quants、GGUF 并发布微调 notebook。
Unsloth 一次性放出 Gemma 3n 微调、TTS 支持和 DeepSeek-R1-0528 量化方案,可据此判断本地微调与部署的可行路径。
七月快乐!🦥 我们很高兴为 Unsloth 带来许多新更新:
✨ Gemma 3n
运行并微调 Google 全新的 Gemma 3n 模型。Gemma 3n 支持文本、图像、视频和音频,具有 32K 上下文。我们上传了 Dynamic quants、GGUFs,并发布了微调 notebook。
🦥 Unsloth 更新
我们发布了一个新的 GitHub 仓库,包含 100+ Unsloth notebook
Qwen3 高级 GRPO notebook,带有我们新的 proximity scoring 奖励函数和 priming 阶段,以跳过 GRPO 格式学习
Unsloth 现在支持最新的 vLLM、TRL 和 Transformers。
🔊 文本转语音 (TTS)
Unsloth 支持 TTS 和语音转文本 (STT) 模型,包括 Sesame-CSM、Orpheus、OpenAI 的 Whisper。我们还为 TTS 制作了大量 notebook 和一份指南。
🐳 DeepSeek-R1-0528
DeepSeek 的 R1 更新来了。使用 GRPO 微调 DeepSeek-R1-0528-Qwen3。我们的 notebook 采用了一种新的奖励函数,将多语言响应率提高了 40%。
我们的 Dynamic 1-bit GGUFs 将完整的 715GB 模型缩小到 162GB(-80% 大小)。
来源:Unsloth Blog · unslothai.substack.com