技术方向
开源模型、框架与仓库动态：权重开放、社区项目爆火、开源与闭源的力量消长。
317 条精选近 30 天 15 条共收录 784 条
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，用 DeepSeek R1 为 NuminaMath 1.5 的 40 万道题各生成两个解答，经 Math Verify 与 Llama3.3-70B-Instruct 双重过滤后保留 22 万道有正确推理轨迹的题目。
推荐理由：Open R1 项目公开了 22 万条数学推理数据集的构建流程与蒸馏对比结果，可了解复现 R1 训练管线的具体做法。
Hugging Face 开源了复现 OpenAI Deep Research 的 Open DeepResearch 框架，在 GAIA 验证集上达到 55.15%，高于此前开源框架 Magentic-One 的约 46%。
推荐理由：Hugging Face 用 24 小时复现 OpenAI Deep Research 并开源框架，给出了 GAIA 上的对比数字与代码智能体的取舍依据。
Hugging Face 将 Physical Intelligence 开发的 π0 和 π0-FAST 两个机器人基础模型移植到 LeRobot 仓库，并给出推理与微调命令。
推荐理由：原文给出两个机器人基础模型在 LeRobot 的移植细节与微调命令，读者可据此判断 VLA 模型的落地门槛。
Hugging Face 的 Open-R1 项目发布首周进展，在 MATH-500 上复现了 DeepSeek-R1 蒸馏系列模型的评测分数，例如 DeepSeek-R1-Distill-Qwen-32B 得 95.0、DeepSeek-R1-Distill-Llama-70B 得 93.4。
推荐理由：Open-R1 一周内复现了 DeepSeek-R1 蒸馏模型的 MATH-500 评测分数，并公开了合成数据生成与 GRPO 训练的工程细节。
这篇教程用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment，基于 Qwen2.5-3B-Instruct 在 4x H100 上训练，450 步后解题成功率达 50%。
推荐理由：完整复现流程与训练观察记录，可看到小模型在 RL 下从文字推理转向程序化求解的过程。
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体门槛。
Hugging Face 发布 Open-R1 项目，计划系统重建 DeepSeek-R1 的数据与训练流程，补齐官方未公开的数据集和训练代码。
推荐理由：Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划，读者可据此了解开源推理模型缺哪几块拼图。
Hugging Face Diffusers 团队梳理了开源视频生成模型的现状，列出 CogVideoX、Mochi-1、HunyuanVideo、Allegro、LTX Video 等开放模型与 Sora、Veo 2、Kling 等闭源模型的对照。
推荐理由：Diffusers 团队梳理开源视频生成模型现状，并给出显存优化与微调的实测数据，可据此评估本地部署门槛。
Hugging Face 为 smolagents 加入视觉支持，可在智能体流程中原生使用视觉语言模型。图像可在 agent.run 时通过 images 参数一次性传入，也可借助 step_callbacks 在每步把截图写入 ActionStep 的 observation_images 动态注入。
推荐理由：官方给出在 smolagents 中接入视觉语言模型的两条路径，并附可运行的浏览器智能体示例代码。
Hugging Face 发布 SmolVLM 家族两个新模型 SmolVLM-256M 和 SmolVLM-500M，共四个 checkpoint，含两个基座模型和两个指令微调模型，可直接加载到 transformers、MLX 和 ONNX。
推荐理由：官方披露了 256M 与 500M 两个新模型在视觉编码器、数据配比和 tokenization 上的取舍，可据此判断小模型多模态的可行边界。
Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1，在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍，同时保留至少 85% 的性能。
推荐理由：原文给出静态嵌入模型的训练配方与两个已发布模型，读者可据此判断低算力场景下嵌入推理的可行边界。
Hugging Face 发布 smolagents，一个让语言模型具备智能体能力的轻量库，核心是 CodeAgent，即让智能体用代码而非 JSON 编写动作，并支持通过 E2B 在沙箱中执行。
推荐理由：Hugging Face 官方发布轻量智能体库，给出代码写动作的设计取舍与开源模型对比，可据此判断自建智能体的成本。
Answer.AI 与 LightOn 发布 ModernBERT，一个仅编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个版本，支持 8192 token 上下文，可作 BERT 类模型的直接替换。
推荐理由：ModernBERT 以 8k 上下文和更快推理替换 BERT 类编码器，读者可据此判断 RAG 与代码检索的升级空间。
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，训练数据量 2.2T tokens。
推荐理由：原文给出混合 Mamba2 架构在 vLLM 中的吞吐与延迟实测数据，以及开放权重和训练配方，便于判断该架构的推理效率取舍。
阿布扎比 TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五个基础模型，参数均在 100 亿以下。
推荐理由：Falcon3 给出五个开源模型的训练路径与基准对比，可据此判断小参数模型的效率取舍。
Google 发布新一代视觉语言模型 PaliGemma 2，用 Gemma 2 替换前代的文本解码器，保留 SigLIP 图像编码器，提供 3B、10B、28B 三种参数规模，均支持 224x224、448x448、896x896 三种输入分辨率，而前代 PaliGemma 仅有 3B 版本。
推荐理由：Google 开源视觉语言模型 PaliGemma 2 提供 3B 到 28B 多规格与三种分辨率，读者可据此判断微调选型空间。
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：原文给出 2B 视觉语言模型的显存占用、吞吐对比和完整开源训练流程，便于判断端侧多模态的落地空间。
Mistral AI 发布 Pixtral Large，一个基于 Mistral Large 2 构建的 124B 开放权重多模态模型，含 1B 参数视觉编码器和 128K 上下文窗口，可容纳至少 30 张高分辨率图像。
推荐理由：官方给出 Pixtral Large 的基准成绩与开放权重，读者可据此判断开源多模态模型与闭源前沿的差距。
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），通过双向 tokenizer 转换让目标模型与任意模型族的助手模型配对，从而加速推理。
推荐理由：Intel Labs 与 Hugging Face 提出跨 tokenizer 的通用辅助生成方法，读者可了解其如何让任意小模型充当助手并带来 1.5x-2.0x 推理加速。
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数规模，并以开放权重形式发布。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解数据套利、多语言偏好训练与模型合并如何组合成多语言能力。