Hugging Face 首期 AI 艺术工具通讯：回顾 2024 与展望 2025
Hugging Face 发布首期 AI 艺术工具通讯，回顾 2024 年创意 AI 工具的关键进展。
#Hugging Face
Hugging Face BlogAI 评分2222
Mistral AI精选AI 评分7676 Mistral AI 发布 Apache 2.0 许可的 24B 模型 Mistral Small 3
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体门槛。
Hugging Face BlogAI 评分5050 如何在 AWS 上部署和微调 DeepSeek 模型
Hugging Face 发布指南，介绍如何在 AWS 上部署和微调 DeepSeek-R1 系列模型。
Hugging Face Blog精选AI 评分6262 Hugging Face 启动 Open-R1 项目，完整开源复现 DeepSeek-R1
Hugging Face 发布 Open-R1 项目，计划系统重建 DeepSeek-R1 的数据与训练流程，补齐官方未公开的数据集和训练代码。
推荐理由：Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划，读者可据此了解开源推理模型缺哪几块拼图。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 Hub 上线 Inference Providers，接入 fal、Replicate、SambaNova、Together AI
Hugging Face 在 Hub 模型页上线 Inference Providers，首批接入 fal、Replicate、SambaNova、Together AI 四家无服务器推理服务，并同步集成到 JS 与 Python 客户端 SDK。
推荐理由：Hugging Face 把四家无服务器推理商接入模型页与 SDK，读者可据此了解多供应商切换与计费方式的变化。
Hugging Face Blog精选AI 评分6262 Diffusers 中的开源视频生成模型现状
Hugging Face Diffusers 团队梳理了开源视频生成模型的现状，列出 CogVideoX、Mochi-1、HunyuanVideo、Allegro、LTX Video 等开放模型与 Sora、Veo 2、Kling 等闭源模型的对照。
推荐理由：Diffusers 团队梳理开源视频生成模型现状，并给出显存优化与微调的实测数据，可据此评估本地部署门槛。
Hugging Face Blog精选AI 评分6262 smolagents 新增视觉语言模型支持
Hugging Face 为 smolagents 加入视觉支持，可在智能体流程中原生使用视觉语言模型。图像可在 agent.run 时通过 images 参数一次性传入，也可借助 step_callbacks 在每步把截图写入 ActionStep 的 observation_images 动态注入。
推荐理由：官方给出在 smolagents 中接入视觉语言模型的两条路径，并附可运行的浏览器智能体示例代码。
Hugging Face BlogAI 评分4343 用 KVPress 掌握 LLM 长上下文：NVIDIA 的 KV Cache 压缩工具包
NVIDIA 推出 Python 工具包 KVPress，通过一系列 KV Cache 压缩技术降低长上下文 LLM 的显存占用。以 Llama 3-70B 在 bfloat16 下处理 1M tokens 为例，KV Cache 需 327.6GB，占约 470GB 总内存的 70%。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM-256M 与 500M 模型
Hugging Face 发布 SmolVLM 家族两个新模型 SmolVLM-256M 和 SmolVLM-500M，共四个 checkpoint，含两个基座模型和两个指令微调模型，可直接加载到 transformers、MLX 和 ONNX。
推荐理由：官方披露了 256M 与 500M 两个新模型在视觉编码器、数据配比和 tokenization 上的取舍，可据此判断小模型多模态的可行边界。
Hugging Face BlogAI 评分2222 Hugging Face 与 FriendliAI 合作，在 Hub 上集成高性能推理部署
Hugging Face 与 FriendliAI 达成合作，将 FriendliAI 推理基础设施集成进 Hugging Face Hub 的“Deploy this model”按钮，实现一键部署。
Hugging Face BlogAI 评分5555 Hugging Face 为 Text Generation Inference 引入多后端支持（TRT-LLM、vLLM）
Hugging Face 为 Text Generation Inference（TGI）引入多后端架构，通过 Rust 的 Backend trait 让 TGI 作为统一前端层接入不同推理引擎，用户可按模型、硬件和性能需求切换后端。
Hugging Face BlogAI 评分4848 Hugging Face 推出 TimmWrapper：在 transformers 中直接使用任意 timm 模型
Hugging Face 发布 TimmWrapper，让任意 timm 视觉模型可直接接入 transformers 生态，支持 pipeline API、Auto 类和 Trainer 微调。该工具约 5 行代码即可用 bitsandbytes 完成量化，并支持 torch.compile 加速推理与 LoRA 适配器微调，微调后模型还能回到 timm 使用。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布静态嵌入模型，CPU 推理快 100 至 400 倍
Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1，在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍，同时保留至少 85% 的性能。
推荐理由：原文给出静态嵌入模型的训练配方与两个已发布模型，读者可据此判断低算力场景下嵌入推理的可行边界。
Hugging Face BlogAI 评分2222 Hugging Face 发文：AI 智能体已至，全自主智能体不应被开发
Hugging Face 发布分析文章指出，AI 智能体的风险随自主性等级上升而增加，建议不要开发能自行编写并执行代码的全自主智能体。文章按自主程度将智能体分为五级，从模型不影响程序流程的 Code ☆☆☆☆ 到模型自行编写并执行新代码的 Fully autonomous agent ★★★★，并认为半自主智能体在自主程度、可用任务和人类控制方式合适时，收益可能大于风险。
Hugging Face BlogAI 评分4040 Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索嵌入模型
Hugging Face 推出 vdr-2b-multi-v1，一个面向多语言视觉文档检索的嵌入模型，可直接编码文档页面截图，无需 OCR 或分块流程。
Hugging Face BlogAI 评分3636 Hugging Face Open LLM Leaderboard 揭示模型推理的 CO₂ 排放与性能关系
Hugging Face 在 Open LLM Leaderboard 中引入 CO₂ 排放估算，基于 2742 个模型的推理数据发现，社区微调模型普遍比其官方基础模型更低碳。70B 参数级别中，Qwen2.5 和 Llama3.1 的官方微调耗能约为基础模型的两倍，而 MoE 架构模型的排行榜得分与排放比整体偏低。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 smolagents：用代码写动作的简单智能体库
Hugging Face 发布 smolagents，一个让语言模型具备智能体能力的轻量库，核心是 CodeAgent，即让智能体用代码而非 JSON 编写动作，并支持通过 E2B 在沙箱中执行。
推荐理由：Hugging Face 官方发布轻量智能体库，给出代码写动作的设计取舍与开源模型对比，可据此判断自建智能体的成本。
Hugging Face Blog精选AI 评分6262 如何在 PyTorch 中可视化并理解 GPU 显存占用
Hugging Face 博客发布教程，介绍用 torch.cuda.memory._record_memory_history 记录显存快照、导出 profile.pkl 并在 pytorch.org/memory_viz 可视化，逐步拆解模型创建、前向、反向和优化器各阶段的显存变化。
推荐理由：原文给出 PyTorch 显存快照的可视化步骤与显存估算公式，读者可据此定位训练中的显存峰值来源。
Hugging Face BlogAI 评分4242 用 NVIDIA LogitsProcessorZoo 控制语言模型生成
NVIDIA 推出 LogitsProcessorZoo，一组模块化 logits 处理器，可在 Hugging Face Transformers 的 generate 方法中直接修改预测分数，实现控制序列长度、强制关键短语、引导多选题答案等任务。
Hugging Face Blog精选AI 评分7373 Answer.AI 与 LightOn 发布 ModernBERT，替代 BERT 的编码器模型
Answer.AI 与 LightOn 发布 ModernBERT，一个仅编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个版本，支持 8192 token 上下文，可作 BERT 类模型的直接替换。
推荐理由：ModernBERT 以 8k 上下文和更快推理替换 BERT 类编码器，读者可据此判断 RAG 与代码检索的升级空间。
Hugging Face Blog精选AI 评分6262 IBM 等联合发布 Bamba-9B 混合 Mamba2 模型
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，训练数据量 2.2T tokens。
推荐理由：原文给出混合 Mamba2 架构在 vLLM 中的吞吐与延迟实测数据，以及开放权重和训练配方，便于判断该架构的推理效率取舍。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五个基础模型
阿布扎比 TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五个基础模型，参数均在 100 亿以下。
推荐理由：Falcon3 给出五个开源模型的训练路径与基准对比，可据此判断小参数模型的效率取舍。
Hugging Face BlogAI 评分2222 在 GCP 第五代 Xeon 上基准测试语言模型性能
Hugging Face 在 Google Cloud 的 N2 与 C4 实例上基准测试了文本嵌入和文本生成两类智能体 AI 负载，C4 的文本嵌入吞吐量是 N2 的 10x 至 24x，文本生成吞吐量是 N2 的 2.3x 至 3.6x。
Hugging Face BlogAI 评分5858 Hugging Face 发布 Synthetic Data Generator，用自然语言构建数据集
Hugging Face 发布 Synthetic Data Generator，一个无代码应用，用户用自然语言描述需求即可借助 LLM 生成自定义数据集，目前支持文本分类和对话两类任务。
Hugging Face BlogAI 评分4040 Hugging Face 与 Entalpic 联合发布 LeMaterial：开源材料发现项目与 LeMat-Bulk 数据集
Hugging Face 与 Entalpic 联合推出开源项目 LeMaterial，并发布首个数据集 LeMat-Bulk，将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一清洗为标准格式，含 6.7M 条数据和 7 种材料属性，采用 CC-BY-4.0 许可。
Hugging Face BlogAI 评分2222 Hugging Face 模型上架 Amazon Bedrock Marketplace
Hugging Face 的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供给 AWS 客户部署，底层由 Amazon SageMaker JumpStart 管理端点。
Hugging Face BlogAI 评分3434 Hugging Face 社区发布文本到图像生成开放偏好数据集
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本到图像偏好数据集，覆盖多种图像生成类别与不同模型家族。
Hugging Face BlogAI 评分3131 LLM 修复自身错误的能力有多强？基于 Keras 和 TPU 的 chatbot arena 实验
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个 chatbot arena，测试 LLM 在被指出错误后能否修正代码。实验在 TPU v5e 2x4 上以 bfloat16 同时加载了 7 个模型（5 个约 8B 参数、3 个约 2B 参数），场景是把自然语言日历请求翻译成 Python API 调用。
Hugging Face Blog精选AI 评分6262 Google 发布 PaliGemma 2 视觉语言模型，提供 3B 到 28B 三种规格
Google 发布新一代视觉语言模型 PaliGemma 2，用 Gemma 2 替换前代的文本解码器，保留 SigLIP 图像编码器，提供 3B、10B、28B 三种参数规模，均支持 224x224、448x448、896x896 三种输入分辨率，而前代 PaliGemma 仅有 3B 版本。
推荐理由：Google 开源视觉语言模型 PaliGemma 2 提供 3B 到 28B 多规格与三种分辨率，读者可据此判断微调选型空间。
Hugging Face BlogAI 评分2222 Hugging Face 推出 AraGen：基于 3C3H 的阿拉伯语 LLM 生成式基准与排行榜
Hugging Face 发布 AraGen，一个面向阿拉伯语 LLM 的生成式任务基准与排行榜，采用新的 3C3H 评估指标，从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度打分。该排行榜采用动态评估策略，数据集与评估代码先进行三个月盲测再公开，随后更换新数据集，以缓解数据污染问题。
Hugging Face BlogAI 评分3434 CFM 如何用 LLM 辅助标注微调小模型：金融 NER 准确率提升 6.4%、成本降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核，微调出的小模型在金融命名实体识别上准确率最高提升 6.4%，推理成本较大模型低至 80 倍。
Hugging Face BlogAI 评分4040 开源开发者指南：欧盟 AI 法案（EU AI Act）要点解读
Hugging Face 发布开源开发者指南，解读已正式生效的欧盟 AI 法案（EU AI Act）。法案按风险分级监管，仅通用目的 AI（GPAI）模型被直接监管，训练算力超 10^25 FLOPs 的模型被认定存在系统性风险。多数开源项目只需提供清晰文档、模型信息披露并遵守现有版权与隐私规则，Hugging Face 提供模型卡、数据集卡、Gradio 水印及个人数据脱敏等工具协助合规。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 2B 视觉语言模型 SmolVLM
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：原文给出 2B 视觉语言模型的显存占用、吞吐对比和完整开源训练流程，便于判断端侧多模态的落地空间。
Hugging Face BlogAI 评分3636 Hugging Face 重构 Hub 上传与下载架构
Hugging Face 正为 Hub 重新设计上传与下载架构，引入内容寻址存储（CAS）并构建自定义传输协议，采用"读路径简单、写路径智能"的思路，按字节级分析文件以加速大文件传输。
Hugging Face BlogAI 评分4040 Hugging Face 详解 LayerSkip 自推测解码：用模型自身早退层加速文本生成
Hugging Face 博客介绍 LayerSkip 提出的自推测解码，用同一 LLM 的浅层生成 draft token、深层负责验证，无需额外小模型即可加速文本生成并降低显存占用。
Hugging Face BlogAI 评分3636 Hugging Face 与 LLM-jp 联合推出日语 LLM 开放排行榜
Hugging Face 与 LLM-jp 联合发布 Open Japanese LLM Leaderboard，用 llm-jp-eval 评测套件在 16 项任务上评估日语大语言模型，涵盖自然语言推理、机器翻译、摘要、问答、代码生成、数学推理和考试题等，任务以 4-shot 方式运行。数据集由 LLM-jp 评测团队联合语言学家与标注人员构建或翻译调整，部分任务需要长上下文推理。
Hugging Face BlogAI 评分4747 Hugging Face 如何用内容定义分块提升存储效率
Hugging Face 的 Xet 团队正用内容定义分块（CDC）把文件拆成可变大小的块，只传输和存储被修改的块，从而提升存储效率与迭代速度。在 CORD-19 数据集基准中，Xet 后端相比 Git LFS 平均下载时间从 51 分钟降至 19 分钟、上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。
Hugging Face BlogAI 评分5252 Hugging Face 与 Atla 推出 Judge Arena，用投票评测 LLM 裁判能力
Hugging Face 博客发布 Judge Arena，一个让用户对两个 LLM 裁判的评分和理由进行投票对比的平台，投票结果汇总为 Elo 排行榜并每小时更新。
Hugging Face BlogAI 评分2222 Hugging Face Hub 开放数据集托管与分享功能
Hugging Face Hub 支持托管 TB 级数据集，并提供 Dataset Viewer、全文搜索、SQL Console 及 Pandas、DuckDB 等第三方库的一行代码加载支持。Xet 团队正将单文件上限从 50 GB 提升至 500 GB，同时改进存储与传输效率。数据集可设为公开、私有或门控访问，Nvidia、Google、NASA 等机构已在使用。
Hugging Face BlogAI 评分3434 Hugging Face 集成进 PyCharm：右键即可插入 HF 模型
Hugging Face 与 PyCharm 完成集成，开发者可在代码中右键选择 "Insert HF Model"，直接调用 Hugging Face Hub 上的模型。