Hugging Face 发布开源模型 Constitutional AI 完整配方
Hugging Face 发布用开源模型实现 Constitutional AI 的端到端配方，并开源 llm-swarm 工具，基于 TGI 和 vLLM 在 Slurm 集群上做可扩展的合成数据生成。
推荐理由：Hugging Face 公开了用开源模型复现 Constitutional AI 的完整配方，含数据集、模型与 Slurm 集群推理工具，可据此复现或改造对齐流程。
#教程/实践
Hugging Face Blog精选AI 评分6262 Hugging Face BlogAI 评分3030 Hugging Face 上的 PatchTST 时间序列 Transformer 实战
Hugging Face 博客给出 PatchTST 的上手示例：先在 Electricity 数据集上直接训练并评估预测性能，再用已训练模型在 ETTh1 数据集上做零样本预测，随后进行线性探测与微调。
Hugging Face BlogAI 评分2222 在 Intel Xeon 上用 🤗 Optimum Intel 加速 StarCoder：Q8/Q4 量化与投机解码
Hugging Face 博客展示了在第四代 Intel Xeon 上通过 8bit/4bit 量化结合辅助生成（assisted generation），让 StarCoder-15B 推理加速超过 7 倍。
Hugging Face Blog精选AI 评分6262 开源 LLM 作为 LangChain 智能体：Mixtral 在基准上超过 GPT-3.5
Hugging Face 发布博客，介绍如何用 LangChain 新集成的 ChatHuggingFace 封装把开源模型搭建成 ReAct 智能体，并给出完整代码示例。
推荐理由：原文给出 ReAct 智能体的完整搭建代码与开源模型对比基准，可据此判断哪些模型适合驱动智能体工作流。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 微调 W2V2-BERT 实现低资源 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 微调 Wav2Vec2-BERT（facebook/w2v-bert-2.0）完成低资源 ASR。
Hugging Face BlogAI 评分2727 IBM 与 Hugging Face 在 Transformers 库中发布 PatchTSMixer 时序模型
IBM Research 与 Hugging Face 团队合作，在 Transformers 库中发布了基于 MLP-Mixer 架构的轻量级时序模型 PatchTSMixer。
Hugging Face BlogAI 评分3636 用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 发布经 Olive 优化的 SD Turbo 和 SDXL Turbo 模型，在 NVIDIA GPU 上通过 ONNX Runtime CUDA 与 TensorRT 执行提供程序加速推理，吞吐量最高较 PyTorch 提升 229%（SDXL Turbo）和 120%（SD Turbo）。
Hugging Face Blog精选AI 评分6262 如何在 Hugging Face Spaces 上用 Gradio 免费运行 ComfyUI 工作流
Hugging Face 发布教程，介绍如何用 ComfyUI-to-Python-Extension 把 ComfyUI 工作流导出为纯 Python 脚本，再用 Gradio 封装成应用并部署到 Hugging Face Spaces 的 ZeroGPU 上免费运行。
推荐理由：教程给出把 ComfyUI 工作流导出为 Python、封装 Gradio 并部署到 ZeroGPU 的完整步骤，可迁移到自己的工作流。
Hugging Face BlogAI 评分4040 如何用 Hugging Face 排行榜模板搭建自己的 LLM 排行榜：以 Vectara 幻觉排行榜为例
Vectara 基于 Hugging Face 开源排行榜模板发布了新的 HHEM 排行榜，用于评估 GPT-4、Google Gemini、Meta Llama 2 等 LLM 在文档摘要中的幻觉频率。该排行榜通过 requests 和 results 两个数据集管理模型评测请求与结果，并支持社区提交新模型进行评估。
Hugging Face Blog精选AI 评分6262 Unsloth 与 Hugging Face TRL 集成，LLM 微调提速 2 倍
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 生态兼容，可将 LLM 微调速度提升约 2 倍并降低显存占用，精度相对标准 QLoRA 无下降。
推荐理由：原文给出 Unsloth 与 TRL 的集成方式和 59 次基准数据，读者可据此判断微调成本能降多少。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SDXL Dreambooth LoRA 高级训练脚本与调参指南
Hugging Face 发布 SDXL Dreambooth LoRA 高级训练脚本，将 Pivotal Tuning 与 Prodigy 优化器结合，并给出配套参数配置。
推荐理由：汇总 SDXL Dreambooth LoRA 微调的社区实践，含 Pivotal Tuning 与 Prodigy 优化器的参数配置和对比实验。
Hugging Face Blog精选AI 评分6262 用投机解码让 Whisper 推理提速 2 倍
Hugging Face 博客介绍如何用投机解码将 Whisper 推理速度提升约 2 倍，且数学上保证输出与单独使用主模型完全一致。在 LibriSpeech 基准上，Whisper large-v2 的 73 个样本推理时间从 73 秒降至 33 秒，WER 保持 3.5%；荷兰语 VoxPopuli 上从 117 秒降至 62 秒，WER 保持 12.8%。
推荐理由：原文给出可复用的投机解码实现与基准数据，读者可据此在现有 Whisper 流程中获得约 2 倍加速。
Hugging Face BlogAI 评分5252 Hugging Face 详解混合专家模型 MoE
Hugging Face 发布《Mixture of Experts Explained》长文，系统讲解 MoE 的构成、训练方式与推理权衡。文章指出 MoE 用稀疏层加门控网络替代部分 FFN 层，预训练更快、推理比同参数量稠密模型更快，但需把全部专家载入显存，例如 Mixtral 8x7B 需容纳 47B 稠密参数。
Hugging Face BlogAI 评分5252 Hugging Face 如何让 LoRA 推理提速 300%
Hugging Face 在 Hub 推理 API 中实现 LoRA 动态加载，让基础模型保持常驻、按请求即时加载和卸载适配器，把冷启动时间从 25 秒降到 3 秒，用户请求响应从 35 秒降到 13 秒。
Hugging Face BlogAI 评分3636 用 AWS Inferentia2 加速 Llama 2 文本生成
Hugging Face 的 optimum-neuron 现已支持在 AWS Inferentia2 上部署 Llama 2 等 LLM 进行文本生成。用户可将 Llama-2-7b-hf 编译导出为 Neuron 格式，并选择 budget、latency、throughput 等不同配置，其中 7B 与 13B 模型均提供预编译版本，最大序列长度为 2048。
Hugging Face BlogAI 评分2222 RoBERTa、Llama 2 与 Mistral 7B 灾难推文分类性能对比：基于 LoRA 微调
一项对比实验用 LoRA 微调 RoBERTa-large、Llama-2-7b 和 Mistral-7B-v0.1 三个模型，在灾难推文分类任务上评测性能。实验在单张 48GB A6000 GPU 上进行，统一将最大序列长度设为 512 以保证公平比较，其中 RoBERTa-large 为 355M 参数基线，另两个模型均为 7B 参数规模。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Personal Copilot 教程：用自有代码库微调 StarCoder
Hugging Face 发布教程，展示如何用其 GitHub 组织前 10 个公开仓库的代码微调 StarCoder，训练出名为 HugCoder 的代码补全助手。
推荐理由：完整复现了从数据采集、QLoRA 微调到 VS Code 本地部署的全流程，并给出成本与效果对比，可迁移到自有代码库。
Hugging Face BlogAI 评分3838 用一行代码交互式探索你的 Hugging Face 数据集
Renumics Spotlight 现可直接读取 Hugging Face datasets，只需一行 spotlight.show(ds) 即可对数据集做交互式可视化，无需复制或预处理数据。Spotlight 支持加载预测结果与嵌入向量，通过相似度图、混淆矩阵等布局定位关键数据簇与模型失败模式，并可在 GUI 或 Python API 中自定义检查流程。
Hugging Face Blog精选AI 评分6262 Hugging Face 实测 SDXL 的简单推理优化
Hugging Face 在 A100 40GB 上实测了 SDXL 的多种推理优化，未优化管线占用 28GB 显存、耗时 72.2 秒，改用 fp16 后降至 21.7GB 和 14.8 秒。
推荐理由：Hugging Face 官方给出 SDXL 在 Diffusers 中的显存与延迟实测数据，可直接对照选择优化组合。
Hugging Face Blog精选AI 评分6262 RLHF 与 PPO 的 N 个实现细节：复现 OpenAI lm-human-preferences
作者复现了 OpenAI 2019 年的 RLHF 代码库 openai/lm-human-preferences，在情感和描述性任务上得到与原始代码几乎一致的学习曲线，并整理出一份实现细节清单。
推荐理由：作者复现 OpenAI 原始 RLHF 代码并逐条列出实现细节，其中 PyTorch 与 TensorFlow 版 Adam 的差异会直接影响训练稳定性。
Hugging Face BlogAI 评分3636 用 Hugging Face Inference Endpoints 部署嵌入模型
Hugging Face 发布教程，介绍如何通过 Text Embeddings Inference（TEI）将开源嵌入模型部署到 Hugging Face Inference Endpoints。
Hugging Face BlogAI 评分2222 如何用 Inference API 部署 AI Comic Factory
Hugging Face 发布教程，介绍如何通过 Inference API 将 AI Comic Factory 复制并部署到自己的私有 Space，以避免官方 Space 的长时间等待。
Hugging Face BlogAI 评分4242 用 TRL 的 DDPO 微调 Stable Diffusion 模型
Hugging Face 在 trl 库中集成 DDPOTrainer，可用 DDPO（Denoising Diffusion Policy Optimization）对 Stable Diffusion 做强化学习微调。
Hugging Face BlogAI 评分3838 非工程师指南：训练一个 LLaMA 2 聊天机器人
Hugging Face 发布教程，展示非工程师如何零代码训练 LLaMA 2 聊天机器人。用户通过 Spaces、AutoTrain 和 ChatUI 三个工具，选用 Meta Llama 2 7b 基础模型和 Alpaca 指令数据集完成微调，再部署为可分享的聊天应用。
Hugging Face BlogAI 评分2222 Rocket Money 如何借助 Hugging Face 在生产环境扩展高波动 ML 模型
Rocket Money 用 Hugging Face Inference API 托管其基于 BERT 家族、覆盖 4000+ 类别的交易分类模型，替代原有正则系统，该系统每月处理超 1 亿笔交易且负载波动大。经过三个月评估和模拟峰值负载测试后，Rocket Money 放弃 AWS Sagemaker 与自建方案，选择 Hugging Face 托管模型。
Hugging Face BlogAI 评分5252 3D Gaussian Splatting 入门：原理、训练流程与图形学前景
Hugging Face 博客发布 3D Gaussian Splatting 入门解读，介绍这种从少量图像学习真实感场景并实时渲染的栅格化技术。文章拆解其完整流程：先用 COLMAP 等 Structure from Motion 方法估计点云，再把每个点转为高斯并训练，训练采用随机梯度下降配合自动加密与剪枝，最后通过可微高斯栅格化投影、按深度排序并逐像素混合。
Hugging Face BlogAI 评分2222 Hugging Face 发布目标检测排行榜：详解 IoU、AP、AR 等评估指标
Hugging Face 推出目标检测排行榜（Object Detection Leaderboard），对 Hub 上的目标检测模型按指标进行排名。该榜单基于 IoU、Average Precision（AP）和 Average Recall（AR）等指标评估模型，并详解了这些指标的计算方法及评估中可能出现的分歧与陷阱，帮助开发者挑选适合自身应用的开源模型。
Hugging Face BlogAI 评分4040 Hugging Face 详解如何优化 LLM 生产部署：低精度、Flash Attention 与架构创新
Hugging Face 发布博客，梳理 LLM 生产部署的三大优化方向：8-bit 和 4-bit 低精度推理、Flash Attention 以及 Alibi、Rotary embeddings、MQA、GQA 等架构改进。
Hugging Face BlogAI 评分4040 使用 PyTorch FSDP 微调 Llama 2 70B
Hugging Face 发布教程，介绍如何用 PyTorch FSDP 结合 Transformers、Accelerate 和 TRL 微调 Llama 2 70B，并给出在 2 节点、每节点 8 张 80GB A100 上的配置。
Hugging Face BlogAI 评分4040 Hugging Face Transformers 原生支持的量化方案概览
Hugging Face Transformers 目前原生支持 bitsandbytes 和 auto-gptq 两种量化方案，前者无需校准数据即可开箱量化任意含 torch.nn.Linear 的模型，后者文本生成速度更快且支持 2-bit 量化。
OpenAI NewsAI 评分3838 OpenAI 发布 ChatGPT 课堂教学指南
OpenAI 发布面向教师的 ChatGPT 课堂使用指南，涵盖推荐提示词、ChatGPT 工作原理与局限、AI 检测工具的有效性以及偏见问题。
Hugging Face BlogAI 评分4040 Hugging Face Diffusers 让 AudioLDM 2 推理提速超 10 倍
Hugging Face 在 🧨 Diffusers 库中优化 AudioLDM 2 文本到音频模型，通过半精度、flash attention、编译及调度器选择等手段，将推理时间缩短超 10 倍，10 秒音频样本生成从 30 秒以上降至 1 秒。AudioLDM 2 提供 1.1B 和 1.5B 三种 checkpoint，可生成音效、人声和音乐。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 优化 Bark 文本转语音模型
Hugging Face 发布实战教程，演示如何用 Transformers、Optimum 和 Accelerate 三个库优化 Suno AI 的文本转语音模型 Bark。教程以 suno/bark-small 为例，基准测试显示未优化时单次生成耗时 9.38 秒、峰值显存占用 1.91 GB，并介绍了三种优化手段及其对比结果。
Hugging Face BlogAI 评分2222 用 BentoML 部署 Hugging Face 模型：DeepFloyd IF 实战
Hugging Face 博客演示如何用开源模型服务框架 BentoML 部署 DeepFloyd IF 文生图模型。DeepFloyd IF 直接在像素空间工作，由冻结文本编码器 T5-XXL-1.1 和三个级联像素扩散模块组成，分三阶段将 64x64 px 图像逐步放大至 1024x1024 px。
Hugging Face Blog精选AI 评分6262 用 DPO 微调 Llama 2：TRL 库实践指南
Hugging Face 在 TRL 库中上线 Direct Preference Optimization（DPO）方法，并演示如何用它在 stack-exchange 偏好数据上微调 Llama v2 7B 模型。
推荐理由：Hugging Face 官方给出 DPO 在 TRL 中的完整训练流程与代码，读者可据此在自有偏好数据上复现对齐训练。
Hugging Face BlogAI 评分2626 用 Inference Endpoints 快速部署 MusicGen
Hugging Face 发布教程，介绍如何通过 Inference Endpoints 的自定义 handler 部署音乐生成模型 MusicGen。用户需复制 facebook/musicgen-large 仓库，添加 handler.py 和 requirements.txt，即可创建端点，16 GB RAM 实例即可运行。
Hugging Face BlogAI 评分4040 Zama 用 FHE 实现加密大语言模型推理，基于 Hugging Face GPT2 验证
Zama 展示如何借助全同态加密（FHE）在加密数据上运行大语言模型，并基于 Hugging Face transformers 库改造 GPT2 实现加密推理。
Hugging Face BlogAI 评分2929 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用机器学习为 Hub 上缺少语言元数据的数据集自动检测语言，并通过 librarian-bots 提交 PR 补充元数据。Hub 现有约 5 万个公开数据集，但约 87% 未标注语言，仅约 13% 包含语言信息。
Hugging Face BlogAI 评分3838 用 Shap-E 和 Dream Textures 生成 PS1 风格 3D 资产的完整教程
Hugging Face 发布教程，演示如何用 OpenAI 开源扩散模型 Shap-E 从文本生成 3D 模型，再经 Blender 减面、Dream Textures 生成无缝贴图、UV 展开后导出 FBX 并导入 Unity，做出 PS1 风格低精度 3D 资产。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 Apple 发布 Core ML 版 Stable Diffusion XL，采用混合比特量化
Hugging Face 与 Apple 将 Stable Diffusion XL 移植到 Core ML，可在 Apple Silicon Mac 上本地运行，并发布混合比特调色板量化方案。
推荐理由：原文给出混合比特调色板量化的具体压缩比与 PSNR 数据，可据此判断本地跑 SDXL 的体积与质量取舍。