在 Intel Meteor Lake 笔记本上运行 Phi-2：基于 OpenVINO 的 4-bit 量化实践
Hugging Face 与 Intel 合作，通过 Optimum Intel 中的 OpenVINO 集成对微软 Phi-2 模型权重做 4-bit 量化，并在搭载 Core Ultra 7 155H 的中端笔记本上完成推理。
#Hugging Face
Hugging Face BlogAI 评分3636
Hugging Face BlogAI 评分4040 Hugging Face 推出 Quanto：面向 Optimum 的 PyTorch 量化后端
Hugging Face 发布 Quanto，一个面向 Optimum 的 PyTorch 量化后端，支持 int2、int4、int8 和 float8 权重及 int8、float8 激活，可在 CUDA 和 MPS 等任意设备上运行。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 NVIDIA 推出 Train on DGX Cloud，可在 Hub 内用 H100 微调模型
Hugging Face 与 NVIDIA 合作推出 Train on DGX Cloud，Enterprise Hub 组织可在 Hugging Face Hub 内通过 AutoTrain 和 Spaces 以无代码方式创建训练任务，运行在 NVIDIA DGX Cloud 的 H100 GPU 上。
推荐理由：原文给出无代码训练入口、支持模型清单和按分钟计费价格，读者可据此估算在 H100 上微调的成本。
Hugging Face BlogAI 评分3434 使用 Optimum Intel 与 fastRAG 在 CPU 上优化嵌入模型
Hugging Face 发布教程，展示如何借助 Optimum Intel 与 IPEX 在英特尔 Xeon CPU 上加速 BGE 嵌入模型，并集成进 fastRAG 的 RAG 流程。优化聚焦 45M、110M、355M 参数的 BGE small、base、large 三款模型，通过 int8 量化、bf16 及 AMX 加速降低单条查询延迟并提升吞吐。
Hugging Face BlogAI 评分4040 Hugging Face 发布 WebSight 数据集，用视觉语言模型将网页截图转为 HTML 代码
Hugging Face 推出 WebSight 数据集，用于训练 AI 将网页截图转换为 HTML 代码，v0.1 版包含 823,000 对 HTML 代码与对应截图，v0.2 版改用真实图像和 Tailwind CSS 并扩展至 200 万样本。基于该数据集微调的视觉语言模型 Sightseer 能将网页截图转为可用的 HTML 代码，并支持在生成代码中嵌入与原截图相近的图像。
Hugging Face BlogAI 评分3232 UCLA 发布 ConTextual：多模态模型在文本密集场景中的图文联合推理评测基准
UCLA 研究者推出 ConTextual，一个面向 LMM 的上下文敏感文本密集视觉推理数据集，含 506 条指令，覆盖时间阅读、购物、导航、信息图等 8 类真实场景，并同步上线排行榜。首轮评测 13 个模型，GPT-4V 表现最佳，在抽象推理上超过人类，但在时间相关任务上不及人类；开源模型在多数领域表现明显落后。用 OCR 或图像描述增强 LLM 的方案人类通过率仅 17.2%。
Hugging Face BlogAI 评分2626 Hugging Face 与 Argilla 发起 Data is Better Together，共建社区偏好数据集
Hugging Face 与 Argilla 联合发起 Data is Better Together 实验，通过 Argilla 与 Hugging Face Spaces 让社区协作构建偏好数据集，数天内吸引 350 名贡献者完成超 11,000 条 prompt 评分，并发布含 10,000 条 prompt 用户评分的 10k_prompts_ranked 数据集。
Hugging Face BlogAI 评分2222 在 Intel Gaudi 2 AI 加速器上运行文本生成 Pipeline
Hugging Face 发布基于 Optimum Habana 的自定义 pipeline 类，可在 Intel Gaudi 2 AI 加速器上用几行代码运行 Llama 2 系列（7b、13b、70b）文本生成。
Hugging Face Blog精选AI 评分7474 BigCode 发布 StarCoder2 系列代码模型与 The Stack v2 数据集
BigCode 发布 StarCoder2，这是新一代透明训练的开放代码大语言模型，包含 3B、7B、15B 三个参数规模，全部基于新的高质量代码数据集 The Stack v2 训练。
推荐理由：BigCode 同时放出三个尺寸的代码模型与配套数据集，读者可据此了解开源代码模型在参数规模与训练数据上的最新配置。
Hugging Face BlogAI 评分5555 Hugging Face 发布 TTS Arena，用盲测投票给语音合成模型排名
Hugging Face 发布 TTS Arena，借鉴 LMSys 的 Chatbot Arena，让用户输入文本后听两个模型朗读并投票选出更自然的一个，投票前不显示模型名称。
Hugging Face BlogAI 评分4040 Hugging Face 详解 AI 水印：工具与技术
Hugging Face 发布 AI 水印入门指南，介绍在内容生成时嵌入水印与生成后添加水印两种主要方法，前者需访问模型但更稳健，后者可适用于闭源模型。文章还梳理了 Glaze、Photoguard、Nightshade、Fawkes 等图像防护工具，以及 Truepic 基于 C2PA 标准的内容签名方案，并讨论了水印开放与闭源的利弊。
Hugging Face BlogAI 评分4242 如何在 Hugging Face 中微调 Gemma 模型
Hugging Face 发布教程，介绍如何用 Transformers 和 PEFT 库对 Google DeepMind 的开源模型 Gemma（2B 和 7B 参数）进行参数高效微调（PEFT）。
Hugging Face BlogAI 评分3838 Hugging Face 与 Haize Labs 推出红队抵抗排行榜
Haize Labs 在 Hugging Face 团队支持下发布 Red Teaming Resistance Benchmark，系统测试前沿模型在高质量人类越狱攻击下的鲁棒性。该基准整合 AdvBench、AART、Beavertails、Do Not Answer 等红队数据集，用 LlamaGuard 与 GPT-4 判定回答是否安全，并按伤害与暴力、犯罪、隐私等违规类别细分评分。
Hugging Face BlogAI 评分4040 Hugging Face 详解 Matryoshka 嵌入模型：原理、训练与使用
Hugging Face 发布 Matryoshka 嵌入模型入门博客，介绍这类模型可输出多种维度的有效嵌入，将重要信息前置以便截断后仍保持性能。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma，Hugging Face 全面接入
Google 发布开源大模型系列 Gemma，包含 2B 和 7B 两个尺寸，各有基础版和指令微调版，上下文长度 8K tokens，可运行在消费级硬件上。Hugging Face 宣布全面支持，提供 Transformers 集成、Google Cloud 与 Inference Endpoints 部署，以及用 TRL 在单卡上微调的示例。
推荐理由：Google 开源 Gemma 系列并同步接入 Hugging Face 生态，读者可了解其规格、许可与部署路径。
Hugging Face BlogAI 评分2222 Hugging Face 与 Upstage 推出 Open Ko-LLM Leaderboard：韩语大模型评测生态
Upstage 在 Hugging Face 上发起 Open Ko-LLM Leaderboard，为韩语大模型提供公开评测平台，采用 Ko-ARC、Ko-HellaSwag、Ko-MMLU、Ko-Truthful QA、Ko-CommonGEN V2 五项任务，并使用不公开的私有测试集防止数据污染。
Hugging Face BlogAI 评分5555 Hugging Face PEFT 新增多种 LoRA 合并方法
Hugging Face 的 PEFT 库新增了面向 LoRA 适配器的多种合并方法，包括 cat、linear、svd、ties、dare 和 magnitude_prune 等，可通过 add_weighted_adapter() 调用。
Hugging Face Blog精选AI 评分6060 Hugging Face 教程：用开源 LLM 合成数据训练定制模型，成本降至 2.7 美元
Hugging Face 发布教程，演示如何用开源 Mixtral-8x7B-Instruct-v0.1 为金融新闻情感分类生成合成数据，再通过 AutoTrain 蒸馏出约 0.13B 参数的 RoBERTa-base 模型。
推荐理由：用开源 LLM 生成合成数据再蒸馏小模型，给出了成本、延迟与碳排放的完整对比，方法可直接迁移到其他分类任务。
Hugging Face BlogAI 评分2020 AMD 与 Hugging Face 联合举办 Pervasive AI 开发者大赛
AMD 与 Hugging Face 联合启动 Pervasive AI Developer Contest，面向全球开发者开放生成式 AI、机器人 AI 和 PC AI 三个赛道，总奖金 16 万美元，单个获奖者最高可得 1 万美元，并提供 700 个 AMD 平台供参赛者使用。
Hugging Face Blog精选AI 评分6060 Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API。
推荐理由：Hugging Face 官方给出 TGI 兼容 OpenAI 接口的迁移路径与代码示例，读者可据此评估从闭源模型切换到开源模型的改造成本。
Hugging Face Blog精选AI 评分6262 SegMind 发布 SegMoE 扩散模型混合专家框架
SegMind 发布 SegMoE 框架，可从零构建混合专家（MoE）扩散模型，并已集成 Hugging Face diffusers。同时发布 SegMoE-2x1、SegMoE-4x2 和 SegMoE-SD4x2 三个模型，采用 Apache 2.0 许可，并提供 GitHub 仓库和 segmoe 包用于自建 MoE 模型。
推荐理由：原文给出了从零构建 MoE 扩散模型的完整流程与显存门槛，读者可据此判断自己能否复现。
Hugging Face BlogAI 评分3030 Hugging Face 上线 NPHardEval 排行榜：用复杂度类别动态评测 LLM 推理能力
Hugging Face 推出 NPHardEval 排行榜，基于密歇根大学和罗格斯大学研究者开发的 NPHardEval 基准，用计算复杂度类别评估 LLM 推理能力。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布开源模型 Constitutional AI 完整配方
Hugging Face 发布用开源模型实现 Constitutional AI 的端到端配方，并开源 llm-swarm 工具，基于 TGI 和 vLLM 在 Slurm 集群上做可扩展的合成数据生成。
推荐理由：Hugging Face 公开了用开源模型复现 Constitutional AI 的完整配方，含数据集、模型与 Slurm 集群推理工具，可据此复现或改造对齐流程。
Hugging Face BlogAI 评分3030 Hugging Face 上的 PatchTST 时间序列 Transformer 实战
Hugging Face 博客给出 PatchTST 的上手示例：先在 Electricity 数据集上直接训练并评估预测性能，再用已训练模型在 ETTh1 数据集上做零样本预测，随后进行线性探测与微调。
Hugging Face BlogAI 评分4242 Hugging Face Text Generation Inference 正式支持 AWS Inferentia2
Hugging Face 宣布 Text Generation Inference（TGI）在 AWS Inferentia2 和 Amazon SageMaker 上正式可用，为生产级 LLM 部署提供 GPU 之外的替代方案。
Hugging Face BlogAI 评分3838 Hugging Face 与 Patronus 推出 Enterprise Scenarios Leaderboard：面向真实企业用例的 LLM 排行榜
Patronus 团队联合 Hugging Face 发布 Enterprise Scenarios Leaderboard，用于评估语言模型在真实企业场景中的表现。
Hugging Face BlogAI 评分2222 在 Intel Xeon 上用 🤗 Optimum Intel 加速 StarCoder：Q8/Q4 量化与投机解码
Hugging Face 博客展示了在第四代 Intel Xeon 上通过 8bit/4bit 量化结合辅助生成（assisted generation），让 StarCoder-15B 推理加速超过 7 倍。
Hugging Face BlogAI 评分4040 Hugging Face 发布幻觉排行榜，开放评测大语言模型幻觉问题
Hugging Face 推出 Hallucinations Leaderboard，通过 in-context learning 在 NQ Open、TriviaQA、TruthfulQA、XSum、CNN/DM、RACE、SQuADv2、FEVER、HaluEval 等基准上评测大语言模型的幻觉表现。
Hugging Face BlogAI 评分4040 Hugging Face 发布 AI Secure LLM Safety Leaderboard
Hugging Face 推出 LLM Safety Leaderboard，基于 DecodingTrust 的 red-teaming 方法对 LLM 安全性进行评估，该平台曾获 NeurIPS 2023 杰出论文奖。
Hugging Face BlogAI 评分4040 Hugging Face 与 Google Cloud 达成战略合作，共建开放 AI
Hugging Face 宣布与 Google Cloud 建立战略合作，围绕开放科学、开源、云和硬件展开协作，帮助企业在 Hugging Face 开放模型与 Google Cloud 的 Vertex AI、TPU 等基础设施上构建自己的 AI。
Hugging Face Blog精选AI 评分6262 开源 LLM 作为 LangChain 智能体：Mixtral 在基准上超过 GPT-3.5
Hugging Face 发布博客，介绍如何用 LangChain 新集成的 ChatHuggingFace 封装把开源模型搭建成 ReAct 智能体，并给出完整代码示例。
推荐理由：原文给出 ReAct 智能体的完整搭建代码与开源模型对比基准，可据此判断哪些模型适合驱动智能体工作流。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 微调 W2V2-BERT 实现低资源 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 微调 Wav2Vec2-BERT（facebook/w2v-bert-2.0）完成低资源 ASR。
Hugging Face BlogAI 评分2727 IBM 与 Hugging Face 在 Transformers 库中发布 PatchTSMixer 时序模型
IBM Research 与 Hugging Face 团队合作，在 Transformers 库中发布了基于 MLP-Mixer 架构的轻量级时序模型 PatchTSMixer。
Hugging Face BlogAI 评分4242 用 DPO、IPO 与 KTO 做偏好微调：Hugging Face 的实证对比
Hugging Face 在 OpenHermes-2.5-Mistral-7B 和 Zephyr-7b-beta-sft 两个 7B 模型上，用 MT-Bench 对比了 DPO、IPO、KTO 三种无需强化学习的偏好对齐方法，并扫描 β 等关键超参数。
Hugging Face BlogAI 评分3636 用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 发布经 Olive 优化的 SD Turbo 和 SDXL Turbo 模型，在 NVIDIA GPU 上通过 ONNX Runtime CUDA 与 TensorRT 执行提供程序加速推理，吞吐量最高较 PyTorch 提升 229%（SDXL Turbo）和 120%（SD Turbo）。
Hugging Face Blog精选AI 评分6262 如何在 Hugging Face Spaces 上用 Gradio 免费运行 ComfyUI 工作流
Hugging Face 发布教程，介绍如何用 ComfyUI-to-Python-Extension 把 ComfyUI 工作流导出为纯 Python 脚本，再用 Gradio 封装成应用并部署到 Hugging Face Spaces 的 ZeroGPU 上免费运行。
推荐理由：教程给出把 ComfyUI 工作流导出为 Python、封装 Gradio 并部署到 ZeroGPU 的完整步骤，可迁移到自己的工作流。
Hugging Face BlogAI 评分4040 如何用 Hugging Face 排行榜模板搭建自己的 LLM 排行榜：以 Vectara 幻觉排行榜为例
Vectara 基于 Hugging Face 开源排行榜模板发布了新的 HHEM 排行榜，用于评估 GPT-4、Google Gemini、Meta Llama 2 等 LLM 在文档摘要中的幻觉频率。该排行榜通过 requests 和 results 两个数据集管理模型评测请求与结果，并支持社区提交新模型进行评估。
Hugging Face Blog精选AI 评分6262 Unsloth 与 Hugging Face TRL 集成，LLM 微调提速 2 倍
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 生态兼容，可将 LLM 微调速度提升约 2 倍并降低显存占用，精度相对标准 QLoRA 无下降。
推荐理由：原文给出 Unsloth 与 TRL 的集成方式和 59 次基准数据，读者可据此判断微调成本能降多少。
Hugging Face BlogAI 评分5757 Hugging Face 发布 aMUSEd：高效非扩散文生图模型
Hugging Face 发布 aMUSEd，一个基于掩码图像建模（MIM）的非扩散文生图模型，是对 Google MUSE 的开源复现，采用宽松许可证并以研究预览形式发布。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SDXL Dreambooth LoRA 高级训练脚本与调参指南
Hugging Face 发布 SDXL Dreambooth LoRA 高级训练脚本，将 Pivotal Tuning 与 Prodigy 优化器结合，并给出配套参数配置。
推荐理由：汇总 SDXL Dreambooth LoRA 微调的社区实践，含 Pivotal Tuning 与 Prodigy 优化器的参数配置和对比实验。