公司与模型
Hugging Face 开源社区动态：热门模型与数据集、排行榜变化与开源生态的晴雨表。
226 条精选近 30 天 6 条共收录 741 条
Hugging Face 宣布收购西雅图公司 XetHub，其 12 人团队将加入，创始人此前在 Apple 构建并扩展内部 ML 基础设施。XetHub 的技术让 Git 可扩展到 TB 级仓库，HF CTO Julien Chaumond 表示团队将帮助 Hub 把存储后端换成自研的 LFS 替代方案。
推荐理由：Hugging Face 收购 XetHub 并计划替换 Hub 的 Git LFS 存储后端，读者可了解大文件版本管理将如何变化。
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用不到 4GB 内存完成推理。
推荐理由：原文给出把 Mistral 7B 转成 Core ML 并在 Mac 上以不到 4GB 内存运行的完整步骤，可迁移到其他模型转换。
Hugging Face 为 TGI 推出 Multi-LoRA 服务，只需部署一次基础模型，即可根据请求中的 adapter_id 动态选择对应的 LoRA 适配器，官方称可服务 30 个模型。
推荐理由：原文给出 TGI Multi-LoRA 的部署方式与成本对比，读者可据此判断多微调模型能否合并到一次部署。
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三种参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了 135M 到 1.7B 三档小模型的训练数据配方与评测对比，可据此判断端侧小模型的取舍。
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖，在私有测试集 50 题中解出 29 题。方案基于 DeepSeekMath-Base 7B 两阶段微调，先做 CoT 数据训练，再用 GPT-4 生成的约 6 万个工具集成推理样本训练模型调用 Python REPL。
推荐理由：获胜方案完整公开了两阶段微调、SC-TIR 解码与内部验证集设计，可迁移到其他推理类竞赛或微调任务。
Hugging Face 用基于 transformers.agents 的 ReactCodeAgent 在 GAIA 验证集上取得 44.2%，排名第一，比第二名高 4 分；测试集得分 33.3%，排名第二，并在 Level 3 难题上取得最佳平均分。
推荐理由：Hugging Face 用 Code Agent 在 GAIA 上取得领先，并公开了工具、执行沙箱与规划策略的实现细节。
Stability AI 的 Stable Diffusion 3 Medium（2B 参数）上线 Hugging Face Hub 并接入 Diffusers，同时提供 DreamBooth 与 LoRA 训练脚本。
推荐理由：原文给出 SD3 Medium 的架构变化与 Diffusers 集成细节，读者可据此判断显存占用与推理速度的取舍。
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）训练器，作为 PPO 之外的在线 RLHF 训练算法。官方称 RLOO 只需加载策略模型、参考策略模型和奖励模型三份模型，显存占用比 PPO 少约 50-70%，1B 模型上速度是 PPO 的 2 倍、6.9B 模型上最高 3 倍。
推荐理由：原文给出 RLOO 与 PPO 在显存、速度和胜率上的对比数据，可据此判断在线 RLHF 训练的成本取舍。
TII 发布第二代 Falcon 2 模型，包括 11B 基座语言模型和具备图像理解能力的 11B VLM，训练数据超过 5000B tokens，覆盖英语及另外十种语言。
推荐理由：原文给出 Falcon 2 11B 的架构、训练数据与评测对比，可据此判断小尺寸开源模型与多模态路线的取舍。
Hugging Face 发布 Transformers Agents 2.0，在原有智能体类型之外新增可基于历史观察迭代的 ReactAgent 等两类智能体，并加入共享功能。
推荐理由：官方给出新智能体框架的模块划分与 GAIA 榜单成绩，可据此判断开源智能体方案的可用性。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1，这是首个完全自对齐、全透明且许可宽松的代码大语言模型，无需人工标注或从 GPT-4 等专有模型蒸馏数据。
推荐理由：StarCoder2-15B-Instruct 用自生成数据完成指令微调，其开源流程与评测对比可供代码模型训练参考。
Meta 发布 Llama 3 系列开源大模型，包含 8B 和 70B 两个尺寸，各有基础版和指令微调版，并推出基于 Llama 3 8B 微调的安全模型 Llama Guard 2。
推荐理由：Meta 发布 Llama 3 并同步落地 Hugging Face 生态，读者可据此了解新分词器、GQA 与 8K 上下文带来的变化。
Hugging Face 发布 Idefics2，一个 8B 参数、Apache 2.0 许可的多模态模型，可接受任意文本与图像序列输入并生成文本回复，支持图像问答、文档信息抽取和基础算术。
推荐理由：8B 参数、Apache 2.0 许可并同步放出多模态指令微调数据集，读者可据此判断开源多模态的可用起点。
Hugging Face 发布视觉语言模型入门文章，介绍其图像编码器、嵌入投影层与文本解码器的典型结构，并汇总 LLaVA 1.6、DeepSeek-VL、CogVLM、Qwen-VL 等开源模型的分辨率与能力差异。
推荐理由：系统梳理视觉语言模型的组成、选型榜单与微调流程，并给出可直接运行的 transformers 与 TRL 代码示例。
Hugging Face 博客介绍嵌入向量的二值量化与标量（int8）量化，用于降低检索的内存、磁盘占用和成本。二值量化把 float32 值转为 1 bit，内存与存储减少 32 倍，配合 rescoring 可保留约 96% 的检索性能；int8 量化减少 4 倍，性能保留约 99.3%。
推荐理由：原文给出二值与标量量化的实测数据与代码示例，读者可据此评估检索成本与性能的取舍。
Hugging Face 博客介绍 GaLore 方法，通过将梯度投影到低秩子空间，可在 NVIDIA RTX 4090 等消费级 GPU 上训练 Llama 架构的 7B 参数模型，优化器状态内存减少超过 82.5%。
推荐理由：原文给出 GaLore 在消费级显卡上训练 7B 模型的内存节省数据与 transformers 接入方式，便于判断显存受限场景的可行性。
Hugging Face 发布 Cosmopedia，一个由 Mixtral-8x7B-Instruct-v0.1 生成的合成数据集，包含超 3000 万个文件、250 亿 token，用于复现 Phi-1.5 的预训练数据。
推荐理由：Hugging Face 公开了构建 250 亿 token 合成预训练数据集的完整流程与代码，可供复现和迁移。
Hugging Face 与 NVIDIA 合作推出 Train on DGX Cloud，Enterprise Hub 组织可在 Hugging Face Hub 内通过 AutoTrain 和 Spaces 以无代码方式创建训练任务，运行在 NVIDIA DGX Cloud 的 H100 GPU 上。
推荐理由：原文给出无代码训练入口、支持模型清单和按分钟计费价格，读者可据此估算在 H100 上微调的成本。
Google 发布开源大模型系列 Gemma，包含 2B 和 7B 两个尺寸，各有基础版和指令微调版，上下文长度 8K tokens，可运行在消费级硬件上。Hugging Face 宣布全面支持，提供 Transformers 集成、Google Cloud 与 Inference Endpoints 部署，以及用 TRL 在单卡上微调的示例。
推荐理由：Google 开源 Gemma 系列并同步接入 Hugging Face 生态，读者可了解其规格、许可与部署路径。
Hugging Face 发布教程，演示如何用开源 Mixtral-8x7B-Instruct-v0.1 为金融新闻情感分类生成合成数据，再通过 AutoTrain 蒸馏出约 0.13B 参数的 RoBERTa-base 模型。
推荐理由：用开源 LLM 生成合成数据再蒸馏小模型，给出了成本、延迟与碳排放的完整对比，方法可直接迁移到其他分类任务。