Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 梳理了其平台上的开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型两类，并介绍了 PEFT 等工具。
#教程/实践
Hugging Face BlogAI 评分4040 Hugging Face BlogAI 评分3838 Hugging Face 用 Zeroscope 与 MusicGen 搭建 AI WebTV 实验直播流
Hugging Face 推出 AI WebTV 实验性演示，用开源文生视频模型 Zeroscope 与音乐生成模型 MusicGen 自动合成视频与配乐并直播。视频由 zeroscope_v2_576 生成 576x320 片段，可选用 zeroscope_v2_XL 放大至 1024x576，再经 FILM 插帧处理，提示词由 ChatGPT 生成。
Hugging Face BlogAI 评分4040 如何在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示了在 Intel 第四代 Xeon（Sapphire Rapids）CPU 集群上微调 Stable Diffusion 的完整流程，利用 AMX 加速器与 IPEX、oneCCL 实现分布式训练。
Hugging Face BlogAI 评分5858 用 Transformers.js 打造 ML 驱动的网页游戏
Hugging Face 博客介绍如何用 Transformers.js 在浏览器本地运行机器学习模型，制作实时绘画猜词游戏 Doodle Dash。作者基于 Google Quick, Draw!
Hugging Face BlogAI 评分3636 如何用 Hugging Face Inference Endpoints 部署 LLM
Hugging Face 发布教程，演示如何通过其托管 SaaS 服务 Inference Endpoints 部署 Falcon 40B instruct 等开源大模型，并支持流式响应与性能测试。
Hugging Face BlogAI 评分3838 用开源 ML 模型打造 Web 应用生成器：Hugging Face 教程
Hugging Face 发布教程，用 Node.js 结合 WizardCoder-15B 与 Inference Endpoints API 构建流式生成 HTML 的 Web 应用生成器。模型通过 textGenerationStream 边生成边渲染，配合 TailwindCSS 提示词让页面即时成型，也可改用免费的 Inference API 运行较小模型。
Hugging Face BlogAI 评分2828 在 Habana Gaudi2 上加速 BridgeTower 视觉语言模型微调
Optimum Habana v1.7 在 Habana Gaudi2 上微调视觉语言模型 BridgeTower，相比 A100 提速 2.5 倍、相比 H100 提速 1.4 倍。这一提升依赖硬件加速的数据加载，通过 dataloader_num_workers 参数分配专用子进程即可启用，适用于各类受数据加载瓶颈制约的视觉模型。
Hugging Face BlogAI 评分3838 如何微调 MMS Adapter 模型实现低资源 ASR
Hugging Face 发布教程，介绍如何基于 Meta AI 的 MMS 检查点微调 Adapter 层实现低资源语音识别。MMS 预训练检查点覆盖 1400 多种语言、参数量 300M 到 1B，每个 Adapter 层仅约 2.5M 权重，微调 10-20 分钟即可获得极低词错误率。低资源语言推荐用 Adapter 训练替代全模型微调，更省内存且性能更好。
Hugging Face BlogAI 评分2828 Hugging Face：Transformer 对时间序列预测确实有效，Autoformer 已集成
Hugging Face 用实验反驳了 AAAI 2023 论文《Are Transformers Effective for Time Series Forecasting?
Hugging Face Blog精选AI 评分6262 用 Core ML 在 iPhone、iPad 和 Mac 上加速 Stable Diffusion
Hugging Face 介绍了借助 Core ML 新优化在 Apple 设备上加速 Stable Diffusion 的方法，核心是 6-bit palettization 量化，把权重从 16 位浮点压缩到每参数 6 bit，并在推理时逐层解压以降低内存占用。
推荐理由：原文给出 6-bit palettization 的量化转换流程与已上传的四个 Stable Diffusion 模型，读者可据此在 Apple 设备上自行部署。
Hugging Face BlogAI 评分2222 将 Livebook notebook 作为应用部署到 Hugging Face Spaces
Hugging Face 与 Elixir 社区合作，演示了如何用 Livebook 构建一个基于 Whisper 的语音聊天应用并部署到 Hugging Face Spaces，全程不到 15 分钟。
Hugging Face BlogAI 评分2222 Hugging Face Hub 如何服务美术馆、图书馆、档案馆与博物馆（GLAM）
Hugging Face Hub 面向美术馆、图书馆、档案馆与博物馆（GLAM）从业者，介绍如何查找模型并上传馆藏数据集。Hub 目前托管超 190,000 个模型、33,000 个数据集和超 100,000 个应用与 demo，覆盖文本、图像、音频等任务。文中以挪威文献的命名实体识别（NER）模型为例，并演示通过浏览器界面将 CSV 数据集上传为数据集仓库。
Hugging Face BlogAI 评分2222 如何在 Unity 中用 Hugging Face Unity API 实现语音识别
Hugging Face 发布教程，讲解如何借助 Hugging Face Unity API 在 Unity 游戏中实现语音识别，可用于下达指令、与 NPC 对话或提升无障碍体验。教程从创建含开始/停止按钮和 TextMeshPro 文本框的场景入手，用 Microphone.Start() 以 44100 Hz 录制最长 10 秒音频，再编码为 WAV 格式发送给 API 转成文本。
Hugging Face BlogAI 评分4040 用 NNCF 和 🤗 Optimum 为 Intel CPU 优化 Stable Diffusion
Hugging Face 联合 OpenVINO 的 NNCF 框架，通过量化感知训练（QAT）结合 Token Merging 优化 Stable Diffusion 的 UNet 模型，在 Intel CPU 上实现相比 PyTorch 5.1 倍推理加速和 4 倍模型体积缩减。
Hugging Face BlogAI 评分4040 用 InstructPix2Pix 对 Stable Diffusion 做指令微调
Hugging Face 博客介绍如何将 InstructPix2Pix 的训练策略与 FLAN 的指令模板思路结合，对 Stable Diffusion 做指令微调，使其按输入图像加指令完成卡通化、去雨等图像翻译与底层图像处理任务。
Hugging Face BlogAI 评分3434 BigCode 大规模近重复数据去重背后的技术
Hugging Face 博客详解 BigCode 项目采用 MinHash + LSH 进行大规模文档级近重复去重的方法，参数为 (256, 0.7, 5)。该方案已在 The Stack 代码数据集上验证，去重能提升代码模型性能并减少训练步数。文章还对比了 InCoder、CodeGen、AlphaCode 等模型所用的精确匹配与 MinHash 去重策略。
Hugging Face BlogAI 评分4242 更小即更好：Q8-Chat 在 Xeon 上的高效生成式 AI 体验
Intel 用 SmoothQuant-O3 对 OPT 2.7B/6.7B、LLaMA 7B、Alpaca 7B、Vicuna 7B、BloomZ 7.1B、MPT-7B-chat 等模型做 8-bit 量化，模型体积缩小约 2 倍，多数评测指标不降反升。
Hugging Face BlogAI 评分3838 用 ROCm 在单张 AMD GPU 上运行 Vicuna 13B 聊天机器人
Hugging Face 发布教程，介绍如何在单张 AMD GPU 上通过 ROCm 运行 13B 参数的 Vicuna 聊天机器人。Vicuna 由 UC Berkeley、CMU、斯坦福和 UCSD 团队基于 LLaMA 微调，使用约 70K 条 ShareGPT 对话数据，训练成本约 300 美元，据 GPT-4 评估质量达 ChatGPT 的 90% 以上。
Hugging Face Blog精选AI 评分6060 Hugging Face 将 RWKV 架构集成进 transformers 库
Hugging Face 官方博客宣布，结合 RNN 与 Transformer 优势的 RWKV 架构已集成进 transformers 库，可通过源码或主分支使用。
推荐理由：Hugging Face 官方博客介绍 RWKV 架构并入 transformers 库，读者可了解其兼顾 RNN 推理效率与 Transformer 训练并行的设计思路。
Hugging Face Blog精选AI 评分6262 Hugging Face 提出辅助生成解码方法，可将文本生成延迟降低最多 10 倍
Hugging Face 发布辅助生成（assisted generation）解码方法，通过小模型生成候选 token、大模型一次前向验证，在消费级硬件上最多降低 10 倍延迟。
推荐理由：Hugging Face 官方详解辅助生成解码原理与 Transformers 用法，读者可据此判断低延迟文本生成的可行路径。
Hugging Face Blog精选AI 评分6060 用 StarCoder 打造编码助手 StarChat
Hugging Face 团队介绍如何将 16B 参数的 StarCoder 微调为对话式编码助手 StarChat，使用 OpenAssistant 约 2.1 万条英文对话数据，并采用 ChatML 格式标记角色、屏蔽用户轮次的损失。
推荐理由：原文完整给出用对话数据微调 StarCoder 的流程与代码，读者可据此复现一个开源编码助手。
Hugging Face BlogAI 评分4242 Hugging Face 解读文本到视频模型：从 GAN 到扩散模型的发展与挑战
Hugging Face 发文梳理文本到视频模型的发展脉络，指出该任务比文本到图像更难，需保证帧间时空一致性，面临算力成本高、高质量数据集稀缺、视频描述模糊三大挑战。
Hugging Face BlogAI 评分2222 Hugging Face Unity API 如何安装与使用
Hugging Face Unity API 可将 Hugging Face Inference API 集成进 Unity 项目，开发者通过 Package Manager 添加 git URL 安装，并在 API Wizard 中填入 API key 即可调用模型。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 结合 TensorFlow 和 TPU 从零训练语言模型
Hugging Face 发布教程，演示如何用 🤗 Transformers 结合 TensorFlow 和 TPU 从零训练一个 RoBERTa base 模型，涵盖训练 tokenizer、在 WikiText v1 上分词并转为 TFRecord 存入 Google Cloud Storage，再到模型训练与上传的完整流程。
Hugging Face Blog精选AI 评分6262 如何在免费版 Google Colab 上用 diffusers 运行 IF 文生图模型
Hugging Face 博客介绍如何在免费版 Google Colab（13GB CPU 内存、15GB T4 显存）上用 diffusers 运行 DeepFloyd 的 IF 文生图模型。
推荐理由：原文给出在免费 Colab 上分阶段加载 IF 的完整代码与显存取舍，可迁移到其他大模型的低显存部署。
Hugging Face BlogAI 评分2020 如何在 Hugging Face Space 中托管 Unity 游戏
Hugging Face 发布教程，介绍如何将 Unity 游戏托管到 Hugging Face Space。步骤包括用 Static HTML 模板创建 Space、将 Unity 项目构建目标切换为 WebGL、把 Compression Format 设为 Disabled，并用 Git-LFS 推送构建文件。完成后即可在 Space 中直接游玩自己的 Unity 游戏。
Hugging Face BlogAI 评分2222 用 Transformers 进行图分类：基于 Graphormer 的实战教程
Hugging Face 发布教程，演示如何用 Transformers 库（需 >= 4.27.2）进行图分类，目前该库中唯一的图 Transformer 模型是微软的 Graphormer。教程以 Stanford OGB 的 ogbg-molhiv 数据集为例，介绍数据加载、Graphormer 默认预处理及加载预训练 checkpoint 微调的二分类流程。
Hugging Face BlogAI 评分2727 Hugging Face 与 Substra 合作推出联邦学习演示空间，打造隐私保护 AI
Hugging Face 与开源联邦学习框架 Substra 合作创建了一个演示空间，展示如何在数据不出本地的前提下训练模型。联邦学习只传输模型权重而非原始数据，用多来源数据训练的模型在验证集上几乎总是优于单一来源模型。Substra 已在乳腺癌研究和 MELLODDY 项目中得到实际验证。
Hugging Face Blog精选AI 评分6262 StackLLaMA：用 RLHF 训练 LLaMA 的实操指南
Hugging Face 发布 StackLLaMA 模型及完整 RLHF 训练流程，用 LLaMA 7B 在 Stack Exchange 问答数据上依次完成监督微调、奖励建模和 PPO 强化学习，训练管线已集成到 TRL 库。
推荐理由：Hugging Face 公开了用 RLHF 训练 LLaMA 的完整流程与代码，读者可据此复现或迁移到自己的模型对齐任务。
Hugging Face BlogAI 评分4242 BLOOMZ 在 Habana Gaudi2 加速器上的快速推理实测
Hugging Face 用 Optimum Habana 在 Habana Gaudi2 上部署 176B 参数的 BLOOMZ，16-bit 精度下 8 卡推理延迟 3.103 秒，比 A100 80GB 的 4.402 秒快 1.42 倍。
Hugging Face BlogAI 评分4040 在 Intel CPU 上加速 Stable Diffusion 推理
Hugging Face 展示了在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理的多种技术。
Hugging Face BlogAI 评分2222 使用 Hugging Face 和 Flower 进行联邦学习
Hugging Face 发布教程，演示如何用 Flower 框架在多个客户端上联邦微调预训练 Transformer 模型 distilBERT，用于 IMDB 影评情感分类。教程使用 datasets、evaluate、flwr、torch 和 transformers 等库，并提供了在 Google Colab 中通过 Flower 模拟功能复现联邦设置的 notebook。
Hugging Face Blog精选AI 评分6262 用 diffusers 训练自己的 ControlNet
Hugging Face 发布教程，讲解如何用 diffusers 训练 ControlNet，并以人脸姿态为例走完条件设计、数据集构建和模型训练三步。数据集基于微软 FaceSynthetics 的 100K 合成人脸，用 SPIGA 提取 iBUG 68 点关键点生成条件图，再用 BLIP 生成 caption。
推荐理由：Hugging Face 官方复盘了从条件设计、数据集构建到 diffusers 训练脚本的完整 ControlNet 训练流程，并给出不同显存下的参数配置。
Hugging Face BlogAI 评分2828 用 Informer 进行多变量概率时间序列预测
Hugging Face 在 🤗 Transformers 中上线了 AAAI21 最佳论文模型 Informer，并演示如何用它完成多变量概率时间序列预测。
Hugging Face Blog精选AI 评分7878 Diffusers 集成 ControlNet，支持多种空间条件控制生成
Hugging Face 在 Diffusers 中集成 ControlNet，通过 StableDiffusionControlNetPipeline 支持 canny 边缘、OpenPose 姿态、深度图、分割图等多种空间条件控制图像生成。
推荐理由：Diffusers 官方给出 ControlNet 的完整接入方式与多种条件控制示例，可据此判断显存与速度开销。
Hugging Face Blog精选AI 评分6262 用机器学习援助土耳其地震幸存者：afetharita 的模型与部署实践
2023 年 2 月 6 日土耳其东南部发生 7.7 和 7.6 级地震后，一群程序员在 Discord 上协作开发了名为 afetharita（灾害地图）的应用，用于从幸存者的推文和截图中提取地址与需求信息，供搜救队和志愿者使用。
推荐理由：作者以志愿者身份复盘土耳其地震救援中的模型选型与部署流程，可迁移到快速搭建应急类 ML 应用。
Hugging Face BlogAI 评分1212 Hugging Face 如何加速 Witty Works 写作助手的开发
Hugging Face 专家加速计划帮助 Witty Works 将其包容性写作助手的非包容性词汇分类器从 vanilla transformers 转向 Sentence Transformers 架构，并结合 SetFit 库实现少样本微调，每个词仅需 15-20 条标注句子。
Hugging Face BlogAI 评分2727 我们为何转向 Hugging Face Inference Endpoints，或许你也该考虑
Hugging Face 推出托管服务 Inference Endpoints，可将 Hub 上的模型部署到 AWS 等云端的多种实例类型（含 GPU）。团队将原本跑在 AWS ECS + Fargate 上的 CPU 推理模型迁移过去，部署流程从六步简化为三步。测试显示 large 实例延迟约 80ms，比原方案快一倍以上，但成本高出 24% 至 50%。
Hugging Face BlogAI 评分5252 用 Hugging Face Transformers 上手 BLIP-2 零样本图像到文本生成
Hugging Face 博客介绍 Salesforce Research 的 BLIP-2 已集成进 Transformers，可用它完成图像描述、带提示词图像描述、视觉问答和对话式提示四类图像到文本任务。
Hugging Face BlogAI 评分2828 用 AI 生成游戏剧情：ChatGPT 在农场游戏开发中的实践与局限
Hugging Face 博客"AI for Game Development"系列第 5 篇展示了用 ChatGPT 为农场游戏生成剧情：先让模型写故事梗概，结果与《星露谷物语》高度雷同，经多轮要求"更有原创性"并去除魔法元素后才可用。作者指出语言模型易复现已有故事、长文本易重复，直接使用 AI 输出可能带来法律、伦理与商业风险，建议仅用于头脑风暴，最终内容手写。