IBM 发布 Granite 4.2 推理模型家族：3B、8B、30B 三档，Apache 2.0 开源
IBM Granite 团队发布 Granite 4.2，这是其首个稠密 decoder-only 推理模型家族，包含 3B、8B、30B 三个规模，基于 Granite-4.1 基座后训练而来，全部以 Apache 2.0 许可开源。
推荐理由：原文完整披露了 Granite 4.2 的预训练、SFT 数据配比与多阶段 RL 细节，可据此了解推理模型在智能体环境中的训练路径。
#推理
Hugging Face Blog精选AI 评分6262
Hugging Face Blog精选AI 评分6262 Hugging Face 详解 transformers 为 OpenAI gpt-oss 引入的优化技巧
Hugging Face 发布博客，介绍为支持 OpenAI gpt-oss 系列而在 transformers 中做的多项升级，包括可从 Hub 下载的零构建 Kernel、MXFP4 量化、张量并行、专家并行、动态滑动窗口层与缓存、连续批处理与 Paged Attention，以及更快的模型加载。
推荐理由：Hugging Face 官方拆解了为 gpt-oss 引入 transformers 的七项工程改动，可据此了解量化、并行与缓存优化的落地方式。
Hugging Face Blog精选AI 评分6262 ServiceNow 开源 PipelineRL：用 inflight 权重更新兼顾推理吞吐与 on-policy 训练
ServiceNow 开源实验性 RL 实现 PipelineRL，核心是在 RL 训练中做 inflight 权重更新，推理不中断即可接收新权重，从而维持高推理吞吐并减少 rollout 权重与最新模型权重之间的滞后。
推荐理由：原文给出开源仓库与训练契约设计，读者可据此判断大规模 RL 训练中吞吐与 on-policy 数据如何兼顾。
Hugging Face Blog精选AI 评分6262 Mini-R1：用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment
这篇教程用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment，基于 Qwen2.5-3B-Instruct 在 4x H100 上训练，450 步后解题成功率达 50%。
推荐理由：完整复现流程与训练观察记录，可看到小模型在 RL 下从文字推理转向程序化求解的过程。
Hugging Face Blog精选AI 评分6262 Intel Labs 与 Hugging Face 提出 Universal Assisted Generation，可用任意助手模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），通过双向 tokenizer 转换让目标模型与任意模型族的助手模型配对，从而加速推理。
推荐理由：Intel Labs 与 Hugging Face 提出跨 tokenizer 的通用辅助生成方法，读者可了解其如何让任意小模型充当助手并带来 1.5x-2.0x 推理加速。
Hugging Face Blog精选AI 评分6262 用投机解码让 Whisper 推理提速 2 倍
Hugging Face 博客介绍如何用投机解码将 Whisper 推理速度提升约 2 倍，且数学上保证输出与单独使用主模型完全一致。在 LibriSpeech 基准上，Whisper large-v2 的 73 个样本推理时间从 73 秒降至 33 秒，WER 保持 3.5%；荷兰语 VoxPopuli 上从 117 秒降至 62 秒，WER 保持 12.8%。
推荐理由：原文给出可复用的投机解码实现与基准数据，读者可据此在现有 Whisper 流程中获得约 2 倍加速。
Hugging Face Blog精选AI 评分6060 Hugging Face 将 RWKV 架构集成进 transformers 库
Hugging Face 官方博客宣布，结合 RNN 与 Transformer 优势的 RWKV 架构已集成进 transformers 库，可通过源码或主分支使用。
推荐理由：Hugging Face 官方博客介绍 RWKV 架构并入 transformers 库，读者可了解其兼顾 RNN 推理效率与 Transformer 训练并行的设计思路。
Hugging Face Blog精选AI 评分6262 Hugging Face 提出辅助生成解码方法，可将文本生成延迟降低最多 10 倍
Hugging Face 发布辅助生成（assisted generation）解码方法，通过小模型生成候选 token、大模型一次前向验证，在消费级硬件上最多降低 10 倍延迟。
推荐理由：Hugging Face 官方详解辅助生成解码原理与 Transformers 用法，读者可据此判断低延迟文本生成的可行路径。
Hugging Face Blog精选AI 评分6262 Hugging Face 解读对话智能体为何有用：IFT、SFT、CoT 与 RLHF
Hugging Face 博客梳理了让对话智能体变得有用的关键技术，包括指令微调（IFT）、监督微调（SFT）、思维链（CoT）和基于人类反馈的强化学习（RLHF）。
推荐理由：梳理 IFT、SFT、CoT 与 RLHF 在对话智能体中的作用，并对比多家早期聊天机器人的训练与评测差异。
Hugging Face Blog精选AI 评分6262 图解基于人类反馈的强化学习 RLHF
Hugging Face 发布图解 RLHF 的教程文章，把训练流程拆成预训练语言模型、收集偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文章指出奖励模型输出标量奖励，训练时用 KL 散度惩罚约束策略偏离初始模型，并介绍了 TRL、TRLX、RL4LMs 等开源 RLHF 工具。文中还提到人类标注成本高、标注者意见不一致等局限，以及离线 RL、ILQL 等尚未充分探索的方向。
推荐理由：把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了开源实现与已知局限，适合作为入门框架参考。
Hugging Face Blog精选AI 评分6262 如何用 Transformers 生成文本：不同解码方法详解
Hugging Face 发布教程，介绍用 transformers 库进行自回归语言生成的多种解码方法，包括贪心搜索、beam search 和采样。
推荐理由：Hugging Face 官方梳理贪心、beam search 与采样等解码策略，并给出 transformers 可直接运行的代码示例。
已经到底了