smolagents 新增视觉语言模型支持
Hugging Face 为 smolagents 加入视觉支持，可在智能体流程中原生使用视觉语言模型。图像可在 agent.run 时通过 images 参数一次性传入，也可借助 step_callbacks 在每步把截图写入 ActionStep 的 observation_images 动态注入。
推荐理由：官方给出在 smolagents 中接入视觉语言模型的两条路径，并附可运行的浏览器智能体示例代码。
#开源/仓库
Hugging Face Blog精选AI 评分6262
Hugging Face BlogAI 评分4343 用 KVPress 掌握 LLM 长上下文：NVIDIA 的 KV Cache 压缩工具包
NVIDIA 推出 Python 工具包 KVPress，通过一系列 KV Cache 压缩技术降低长上下文 LLM 的显存占用。以 Llama 3-70B 在 bfloat16 下处理 1M tokens 为例，KV Cache 需 327.6GB，占约 470GB 总内存的 70%。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM-256M 与 500M 模型
Hugging Face 发布 SmolVLM 家族两个新模型 SmolVLM-256M 和 SmolVLM-500M，共四个 checkpoint，含两个基座模型和两个指令微调模型，可直接加载到 transformers、MLX 和 ONNX。
推荐理由：官方披露了 256M 与 500M 两个新模型在视觉编码器、数据配比和 tokenization 上的取舍，可据此判断小模型多模态的可行边界。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布静态嵌入模型，CPU 推理快 100 至 400 倍
Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1，在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍，同时保留至少 85% 的性能。
推荐理由：原文给出静态嵌入模型的训练配方与两个已发布模型，读者可据此判断低算力场景下嵌入推理的可行边界。
Hugging Face BlogAI 评分4040 Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索嵌入模型
Hugging Face 推出 vdr-2b-multi-v1，一个面向多语言视觉文档检索的嵌入模型，可直接编码文档页面截图，无需 OCR 或分块流程。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 smolagents：用代码写动作的简单智能体库
Hugging Face 发布 smolagents，一个让语言模型具备智能体能力的轻量库，核心是 CodeAgent，即让智能体用代码而非 JSON 编写动作，并支持通过 E2B 在沙箱中执行。
推荐理由：Hugging Face 官方发布轻量智能体库，给出代码写动作的设计取舍与开源模型对比，可据此判断自建智能体的成本。
Hugging Face Blog精选AI 评分7373 Answer.AI 与 LightOn 发布 ModernBERT，替代 BERT 的编码器模型
Answer.AI 与 LightOn 发布 ModernBERT，一个仅编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个版本，支持 8192 token 上下文，可作 BERT 类模型的直接替换。
推荐理由：ModernBERT 以 8k 上下文和更快推理替换 BERT 类编码器，读者可据此判断 RAG 与代码检索的升级空间。
Hugging Face Blog精选AI 评分6262 IBM 等联合发布 Bamba-9B 混合 Mamba2 模型
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，训练数据量 2.2T tokens。
推荐理由：原文给出混合 Mamba2 架构在 vLLM 中的吞吐与延迟实测数据，以及开放权重和训练配方，便于判断该架构的推理效率取舍。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五个基础模型
阿布扎比 TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五个基础模型，参数均在 100 亿以下。
推荐理由：Falcon3 给出五个开源模型的训练路径与基准对比，可据此判断小参数模型的效率取舍。
Hugging Face BlogAI 评分5858 Hugging Face 发布 Synthetic Data Generator，用自然语言构建数据集
Hugging Face 发布 Synthetic Data Generator，一个无代码应用，用户用自然语言描述需求即可借助 LLM 生成自定义数据集，目前支持文本分类和对话两类任务。
Hugging Face BlogAI 评分4040 Hugging Face 与 Entalpic 联合发布 LeMaterial：开源材料发现项目与 LeMat-Bulk 数据集
Hugging Face 与 Entalpic 联合推出开源项目 LeMaterial，并发布首个数据集 LeMat-Bulk，将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一清洗为标准格式，含 6.7M 条数据和 7 种材料属性，采用 CC-BY-4.0 许可。
Hugging Face BlogAI 评分3434 Hugging Face 社区发布文本到图像生成开放偏好数据集
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本到图像偏好数据集，覆盖多种图像生成类别与不同模型家族。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 2B 视觉语言模型 SmolVLM
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：原文给出 2B 视觉语言模型的显存占用、吞吐对比和完整开源训练流程，便于判断端侧多模态的落地空间。
Hugging Face BlogAI 评分4040 Hugging Face 详解 LayerSkip 自推测解码：用模型自身早退层加速文本生成
Hugging Face 博客介绍 LayerSkip 提出的自推测解码，用同一 LLM 的浅层生成 draft token、深层负责验证，无需额外小模型即可加速文本生成并降低显存占用。
Mistral AI精选AI 评分7676 Mistral AI 发布 124B 开源多模态模型 Pixtral Large
Mistral AI 发布 Pixtral Large，一个基于 Mistral Large 2 构建的 124B 开放权重多模态模型，含 1B 参数视觉编码器和 128K 上下文窗口，可容纳至少 30 张高分辨率图像。
推荐理由：官方给出 Pixtral Large 的基准成绩与开放权重，读者可据此判断开源多模态模型与闭源前沿的差距。
Hugging Face Blog精选AI 评分6262 Intel Labs 与 Hugging Face 提出 Universal Assisted Generation，可用任意助手模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），通过双向 tokenizer 转换让目标模型与任意模型族的助手模型配对，从而加速推理。
推荐理由：Intel Labs 与 Hugging Face 提出跨 tokenizer 的通用辅助生成方法，读者可了解其如何让任意小模型充当助手并带来 1.5x-2.0x 推理加速。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数规模，并以开放权重形式发布。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解数据套利、多语言偏好训练与模型合并如何组合成多语言能力。
Hugging Face Blog精选AI 评分6262 Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中推出 SynthID Text 文本水印
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text，可通过 logits processor 为 AI 生成文本加水印，并用分类器检测。
推荐理由：原文给出了水印的配置参数、检测器训练流程与已知局限，读者可据此判断该方案在自家生成链路中的落地条件。
Hugging Face Blog精选AI 评分7171 Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 种架构
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快至多 100 倍，加载模型时设置 device: 'webgpu' 即可启用。
推荐理由：官方发布说明列出 WebGPU 加速、量化格式与 1200 多个预转换模型，可据此判断浏览器端推理的可用边界。
Hugging Face BlogAI 评分5858 dottxt 与 Hugging Face 发布 Outlines-core 0.1.0，用 Rust 重写结构化生成核心算法
dottxt 与 Hugging Face 联合发布 outlines-core 0.1.0，这是 outlines 结构化生成核心算法的 Rust 移植版，已集成进 outlines 并放出 Python 绑定。
Hugging Face Blog精选AI 评分6262 Diffusers 支持 Stable Diffusion 3.5 Large，含 8B 与 timestep-distilled 两个 checkpoint
Stable Diffusion 3.5 已在 Hugging Face Hub 上线并可通过 Diffusers 使用，发布包含 8B 的 Large 模型和 8B 的 timestep-distilled 模型，后者支持 4-8 步少步推理。
推荐理由：Stable Diffusion 3.5 Large 已在 Hub 上线并接入 Diffusers，文中给出量化推理与 LoRA 训练的完整代码路径。
Mistral AI精选AI 评分6262 Mistral 发布 Ministral 3B 与 8B 端侧模型
Mistral AI 在 Mistral 7B 发布一周年之际推出两款端侧模型 Ministral 3B 和 Ministral 8B，面向本地隐私优先推理场景。
推荐理由：Mistral 在 7B 发布一周年推出两款端侧小模型，给出了 128k 上下文、定价与对标基准，可据此判断边缘场景的选型空间。
Hugging Face BlogAI 评分3838 Hugging Face 修复 Transformers 梯度累积损失计算错误
Hugging Face 修复了 Transformers Trainer 中梯度累积的损失计算错误：此前开启梯度累积后损失与全批量训练不一致，正确做法应是累积步内总损失除以全部非 padding token 数，而非各批次损失的平均值。
Hugging Face Blog精选AI 评分6262 Gradio 5 稳定版发布，支持 SSR 与低延迟流式
Hugging Face 发布 Gradio 5 稳定版，开发者可用几行 Python 构建生产级机器学习 Web 应用，通过 pip install --upgrade gradio 升级。
推荐理由：Gradio 5 把 SSR、低延迟流式和安全审计打包进稳定版，可据此判断现有 ML 演示应用是否需要升级。
Hugging Face BlogAI 评分3434 Hugging Face 教程：将顶点着色网格转换为 UV 贴图纹理网格
Hugging Face 发布教程，介绍如何将顶点着色网格转换为 UV 贴图纹理网格，并开源了实现该流程的 InstantTexture 库，可通过 pip 安装后一行代码完成 .obj 到 .glb 的转换。教程用 xatlas 生成 UV 贴图，再经重心坐标插值填充纹理，并用修复、中值滤波、高斯模糊和 LANCZOS 下采样消除纹理空洞。
Hugging Face BlogAI 评分5858 Hugging Face 将 Llama3 8B 微调到 1.58bit 的实践
Hugging Face 团队探索出把已有模型微调到 1.58bit 的方法，用 BitNet 的三值权重（-1、0、1）架构微调 Llama3 8B，并在 HF1BitLLM 组织下开源了三个模型。
Mistral AI精选AI 评分7070 Mistral 发布 Pixtral 12B 多模态模型
Mistral AI 发布 Pixtral 12B，一个原生多模态模型，采用 400M 参数从头训练的视觉编码器和基于 Mistral Nemo 的 12B 多模态解码器，支持可变图像尺寸与 128k token 上下文窗口内的多图输入。
推荐理由：官方给出架构细节、MMMU 等基准对比和 Apache 2.0 许可，可据此判断开源多模态模型的当前水位。
Hugging Face BlogAI 评分5858 HuggingChat 推出 Community Tools，可将任意 Space 变成模型可调用工具
Hugging Face 在 HuggingChat 上线 Community Tools，用户可把任意公开 Space 转成模型可直接调用的工具，并借此扩展图像理解、视频生成和文本转语音等多模态能力。
Hugging Face BlogAI 评分3636 Hugging Face 发布 Accelerate 1.0.0 首个候选版本
Hugging Face 发布 Accelerate 1.0.0 首个候选版本，可通过 pip install --pre accelerate 或 Docker 镜像试用。
Hugging Face BlogAI 评分3838 Hugging Face LeRobot 用视频编码扩展机器人数据集
Hugging Face 的 LeRobot 项目提出 LeRobotDataset 格式，用视频编码存储机器人数据集的视觉模态，平均体积降至原始版本的 14%，最佳情况可达 0.2%，同时保持完整训练能力。解码单帧耗时与加载压缩图片相当，连续多帧解码仅为后者的 25%-50%，并原生集成 Hub 与可视化工具。
Hugging Face BlogAI 评分3838 Hugging Face 用 Flash Attention 2 与打包训练将吞吐提升至 2 倍
Hugging Face 在 Transformers 中推出 DataCollatorWithFlattening，让无 padding 的打包指令微调与 Flash Attention 2 兼容，训练吞吐最高提升 2 倍。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon Mamba：首个强性能无注意力 7B 模型
阿布扎比 TII 发布 Falcon Mamba 7B，称其为首个大规模通用纯 Mamba 模型，采用开放许可并已上线 Hugging Face 生态。该模型基于原始 Mamba 架构并加入额外 RMS 归一化层以稳定大规模训练，用约 5500GT 数据训练，可处理任意长度序列且生成每个 token 耗时恒定，单张 A10 24GB GPU 即可运行。
推荐理由：TII 发布首个大规模纯 Mamba 架构 7B 模型，并给出与同规模 Transformer 的基准和长序列内存对比。
Hugging Face Blog精选AI 评分6262 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充模型阵容，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版），适合端侧使用，并可与 Gemma 2 27B 搭配做辅助生成，官方称可获得最高 3 倍加速且不损失质量。
推荐理由：Gemma 2 新增 2B 小模型与安全分类器、可解释性工具，读者可据此判断端侧部署与内容审核的可用选项。
Mistral AI精选AI 评分7878 Mistral AI 发布 Mistral Large 2，123B 参数支持 128k 上下文
Mistral AI 发布 Mistral Large 2，参数规模 123B，支持 128k 上下文窗口和数十种语言，可在单节点上实现大吞吐推理。官方称其在 MMLU 上达到 84.0% 准确率，代码与推理表现与 GPT-4o、Claude 3 Opus、Llama 3 405B 相当，并针对减少幻觉和指令遵循做了优化。
推荐理由：Mistral Large 2 以 123B 参数实现单节点高吞吐，并给出与 GPT-4o、Claude 3 Opus 的对比数据，便于判断开源模型的性能成本位置。
Hugging Face Blog精选AI 评分6060 WWDC 24：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用不到 4GB 内存完成推理。
推荐理由：原文给出把 Mistral 7B 转成 Core ML 并在 Mac 上以不到 4GB 内存运行的完整步骤，可迁移到其他模型转换。
Mistral AI精选AI 评分7878 Mistral 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral AI 与 NVIDIA 合作发布 12B 模型 Mistral NeMo，支持最高 128k token 上下文窗口，并以 Apache 2.0 许可开放预训练基础版和指令微调版权重。
推荐理由：Mistral 与 NVIDIA 联合发布的 12B 模型，给出 128k 上下文、Apache 2.0 权重和 FP8 推理等可对比细节。
Hugging Face Blog精选AI 评分6262 Hugging Face TGI 推出 Multi-LoRA 服务，一次部署可服务 30 个模型
Hugging Face 为 TGI 推出 Multi-LoRA 服务，只需部署一次基础模型，即可根据请求中的 adapter_id 动态选择对应的 LoRA 适配器，官方称可服务 30 个模型。
推荐理由：原文给出 TGI Multi-LoRA 的部署方式与成本对比，读者可据此判断多微调模型能否合并到一次部署。
Mistral AI精选AI 评分7272 Mistral 发布 Codestral Mamba 代码模型
Mistral 发布 Codestral Mamba，这是一个基于 Mamba 架构的代码模型，采用 Apache 2.0 许可，可免费使用、修改和分发。该模型为指令模型，参数量 7,285,403,648，具备线性时间推理能力，官方在最高 256k tokens 的上下文检索能力上做了测试。
推荐理由：Mistral 官方发布 Mamba 架构代码模型，给出参数量、上下文测试长度与部署方式，可对比 Transformer 路线的取舍。
Mistral AIAI 评分5252 Mistral AI 发布数学推理模型 Mathstral 7B
Mistral AI 发布专注 STEM 与复杂多步数学推理的 Mathstral 7B，基于 Mistral 7B 构建，与 Project Numina 合作产出。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM 系列小模型，含 135M、360M 和 1.7B 三档
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三种参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了 135M 到 1.7B 三档小模型的训练数据配方与评测对比，可据此判断端侧小模型的取舍。