Dell Enterprise Hub 新版发布：在本地 Dell AI 服务器和 AI PC 上构建 AI
Dell 在 Dell Tech World 上发布新版 Dell Enterprise Hub，提供 Meta Llama 4 Maverick、DeepSeek R1。
#部署/工程
Hugging Face BlogAI 评分3838
OpenAI NewsAI 评分2222 CodeRabbit 用 o3、o4-mini 和 GPT-4.1 加速代码交付
CodeRabbit 采用 OpenAI 的 o3、o4-mini 和 GPT-4.1 模型改造代码审查流程，提升审查准确率并加快 PR 合并速度。该方案帮助开发者更快交付代码，减少 bug 并提高投资回报率。
OpenAI News精选AI 评分6262 OpenAI 推出 Stargate UAE，Stargate 首次海外部署
OpenAI 宣布推出 Stargate UAE，这是其 AI 基础设施平台 Stargate 的首次国际部署。
推荐理由：OpenAI 官方宣布 Stargate 首次落地海外，读者可据此了解其 AI 基础设施的国际化布局。
Hugging Face BlogAI 评分3636 Hugging Face Diffusers 量化后端解析：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face Diffusers 现已集成 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8 等多种量化后端，并以 Flux-dev 为例展示其效果。
Hugging Face BlogAI 评分5252 Microsoft 与 Hugging Face 扩大合作，Azure AI Foundry 上线 1 万多个开放模型
在 Microsoft Build 大会上，Satya Nadella 宣布扩大与 Hugging Face 的合作，Azure AI Foundry 的 Hugging Face Collection 现可一键部署 1 万多个开放模型，覆盖文本、音频和图像任务。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Transformers 定位为跨框架模型定义标准
Hugging Face 在博客中表示，未来目标是让 Transformers 成为各框架之间的模型定义中枢，模型架构只要被 Transformers 支持，就能在生态其他工具中获得支持。
推荐理由：Hugging Face 官方说明 Transformers 将作为跨框架模型定义中枢，读者可据此理解模型接入与部署链路的变化。
Hugging Face BlogAI 评分2222 Hugging Face 与 Kaggle 打通模型访问集成
Hugging Face 与 Kaggle 推出集成，让 Hugging Face 模型可直接在 Kaggle 上被发现和使用。
Hugging Face BlogAI 评分4242 Hugging Face 在 Inference Endpoints 上推出极速 Whisper 转录部署
Hugging Face 在 Inference Endpoints 上线新版 OpenAI Whisper 部署方案，基于 vLLM 实现，性能较此前版本最高提升 8 倍。
OpenAI NewsAI 评分2222 OpenAI 在亚洲推出数据驻留功能
OpenAI 面向亚洲客户推出数据驻留功能，建立在其企业级数据隐私、安全与合规项目之上。该功能旨在为全球客户提供支持。
Mistral AI精选AI 评分7676 Mistral AI 发布 Mistral Medium 3，主打低成本企业部署
Mistral AI 发布 Mistral Medium 3，称其在基准测试中达到 Claude Sonnet 3.7 九成以上水平，定价为每百万 token 输入 0.4 美元、输出 2 美元。
推荐理由：官方给出 Mistral Medium 3 的定价与对标基准，读者可据此判断企业级模型的成本与部署门槛。
Mistral AI精选AI 评分6060 Mistral 发布 Le Chat Enterprise，由 Mistral Medium 3 驱动
Mistral 发布 Le Chat Enterprise，一款由全新 Mistral Medium 3 模型驱动的企业级 AI 助手，提供企业搜索、Agent 构建器、自定义数据与工具连接器、文档库、自定义模型和混合部署等功能，全部功能将在未来两周内逐步上线。
推荐理由：Mistral 官方发布企业版助手，列出企业搜索、Agent 构建与混合部署等能力，可据此判断其企业落地路径。
Hugging Face Blog精选AI 评分6262 如何用 Gradio 构建 MCP Server
Gradio 官方发布教程，介绍如何用几行 Python 把 Gradio 应用变成 MCP Server，让 LLM 以工具形式调用其中的函数。
推荐理由：Gradio 官方给出把任意 Python 函数变成 MCP 工具的完整步骤，可据此把自家模型接口接入 LLM 工具调用。
Hugging Face BlogAI 评分3838 Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重舍入与裁剪范围，支持 INT2-INT8 低比特量化。在 INT2 下其相对精度最高达主流基线 2.1 倍，量化 72B 模型在 A100 上仅需 37 分钟。
Hugging Face Blog精选AI 评分6262 ServiceNow 开源 PipelineRL：用 inflight 权重更新兼顾推理吞吐与 on-policy 训练
ServiceNow 开源实验性 RL 实现 PipelineRL，核心是在 RL 训练中做 inflight 权重更新，推理不中断即可接收新权重，从而维持高推理吞吐并减少 rollout 权重与最新模型权重之间的滞后。
推荐理由：原文给出开源仓库与训练契约设计，读者可据此判断大规模 RL 训练中吞吐与 on-policy 数据如何兼顾。
Hugging Face BlogAI 评分3636 并发请求下的 Prefill 与 Decode：优化 LLM 性能
TNG 在 24 块 H100 GPU 集群上自托管多个大语言模型，支撑 50 个应用、每小时超 5,000 次推理、每天生成超一千万 token。文章解析 LLM 生成的两个阶段：prefill 阶段可并行处理全部输入 token，decode 阶段只能逐个生成输出 token，二者分别对应首 token 延迟和单 token 延迟两项指标。
Hugging Face BlogAI 评分2222 Cohere 成为 Hugging Face Inference Providers 支持的首个模型厂商
Cohere 正式成为 Hugging Face Hub 上支持的 Inference Provider，也是首个直接在 Hub 上分享并托管自家模型的模型厂商。
Hugging Face BlogAI 评分3636 Gradio 不只是 UI 库的 17 个理由
Gradio 官方博客列出 17 个理由，说明它不只是 Python UI 库，而是同时提供 UI 与 API 的机器学习交互框架。所有 Gradio 应用自带 REST API 端点，并提供 Python（gradio_client）和 JavaScript（@gradio/client）官方 SDK 及 cURL 访问。
Hugging Face BlogAI 评分5050 Hugging Face 与 Cloudflare 合作，用 FastRTC 实现无缝实时语音与视频
Hugging Face 与 Cloudflare 达成合作，让 FastRTC 开发者凭 Hugging Face token 即可接入 Cloudflare 覆盖 335 多个地点的全球 TURN 网络，构建低延迟实时语音与视频应用。
Hugging Face BlogAI 评分2222 Gradio 月活开发者突破 100 万：Hugging Face 分享五年增长经验
Gradio 月活开发者已超过 100 万，被 Automatic1111、LLaMA-Factory 等热门开源项目使用。Hugging Face 回顾其五年增长经验：坚持投入底层原语而非高层抽象，如今 gr.Blocks 占 Gradio 使用量的 80%；专注机器学习 Web 应用这一细分场景，并借助 share links 和 Hugging Face Spaces 实现病毒式传播。
Hugging Face BlogAI 评分3636 高效请求排队：优化 LLM 性能
TNG Technology Consulting 分享了自托管 LLM 服务中通过公平调度优化请求排队的方法：在 vLLM 等推理引擎前加一层 LLM-Server，为每个用户和模型维护独立队列，用轮询调度替代 FIFO，避免单个用户的大量请求阻塞其他人。
Hugging Face BlogAI 评分1818 Hugging Face 如何用 Infisical 扩展 AI 基础设施的密钥管理
Hugging Face 将密钥管理从 AWS 单云方案迁移到 Infisical，以应对多云环境下的密钥散乱、权限管理和手动轮换难题。团队通过 Infisical Kubernetes Operator 自动同步密钥更新，并借助 Okta 集成实现细粒度 RBAC，同时用 CLI 替代本地 .env 文件。
Hugging Face BlogAI 评分3838 Hugging Face 将 Intel Gaudi 支持原生集成进 TGI
Hugging Face 通过 PR #3091 将 Intel Gaudi 硬件支持原生集成进 Text Generation Inference（TGI），不再需要维护独立的 tgi-gaudi 分支。
Hugging Face BlogAI 评分1818 Hugging Face Inference Endpoints 推出全新实时分析仪表盘
Hugging Face 为 Inference Endpoints 更新分析仪表盘，指标数据改为实时更新，并重构后端以加快高流量端点的数据加载。新增可自定义时间范围与自动刷新功能，同时引入副本生命周期视图，可追踪每个副本从初始化到终止的每次状态转换。
OpenAI NewsAI 评分2222 Booking.com 用 OpenAI LLM 实现大规模旅行个性化
Booking.com 将数据系统与 OpenAI 的 LLM 集成，用于提供更智能的搜索、更快的客服支持和意图驱动的旅行体验。该方案面向大规模旅行个性化场景，通过 LLM 理解用户意图来改善搜索与支持环节。
Hugging Face BlogAI 评分3838 Open R1 教程：如何在本地用 OlympicCoder 7B 搭建编程助手
Hugging Face 发布教程，介绍如何在本地通过 LM Studio 运行 OlympicCoder 7B 的 4bit GGUF 量化版，并接入 VS Code 的 Continue 扩展实现代码补全、生成、解释、重构和写测试。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Xet 存储上线 Hub，首批仓库完成迁移
Hugging Face 的 Xet 团队已将首批模型和数据集仓库从 LFS 迁移到 Xet 存储，迁移量约 4.5 TB，占 Hub 下载流量约 6%。Xet 采用内容定义分块（约 64KB）做字节级去重，改动小部分数据时只上传变化的块，官方举例称一个约 5 GB 的 SQLite 数据库追加 1 MB 数据，上传耗时从 LFS 下的 13 分钟降到 0.1 秒。
推荐理由：Hugging Face 官方复盘 Xet 存储首次迁移，给出块级去重带来的传输收益与迁移中暴露的工程问题。
Hugging Face Blog精选AI 评分8282 Google 发布 Gemma 3 开源多模态模型，覆盖 1B 至 27B 四种尺寸
Google 发布 Gemma 3 系列开放权重模型，包含 1B、4B、12B、27B 四种尺寸，均有预训练和指令微调版本。4B、12B、27B 支持图像与文本输入及 140 多种语言，上下文窗口从 Gemma 2 的 8k 提升至 128k（1B 为 32k）。
推荐理由：梳理 Gemma 3 的四种尺寸、多模态与 128k 上下文等规格，并给出 transformers 与端侧推理的可用路径。
Hugging Face BlogAI 评分5252 如何在手机上用 React Native 本地运行 LLM：Hugging Face 端侧推理教程
Hugging Face 发布教程，讲解如何用 React Native 和 llama.rn 构建一个从 Hugging Face Hub 下载 GGUF 模型并在手机本地推理的聊天应用，代码开源在 EdgeLLM 仓库。
Mistral AI精选AI 评分7676 Mistral AI 发布文档理解 OCR API Mistral OCR
Mistral AI 发布光学字符识别 API Mistral OCR，可读取图片和 PDF，按顺序交错输出文本与图像，并已作为 Le Chat 文档理解的默认模型。
推荐理由：官方给出与 Google Document AI、Azure OCR、Gemini 系列的横向基准对比，可据此判断文档解析在 RAG 流程中的选型空间。
OpenAI NewsAI 评分2323 OpenAI 如何将工程周期加速 20%
OpenAI 将工程周期加速了 20%。
Hugging Face BlogAI 评分3434 用 Arize Phoenix 追踪与评估你的 Agent
Hugging Face 博客介绍如何用 Arize Phoenix 对基于 smolagents 构建的 Agent 进行追踪与评估，通过 OpenTelemetry 和 OpenInference 自动捕获每次 Agent 调用。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 FastRTC：面向 Python 的实时通信库
Hugging Face 发布 FastRTC，一个用 Python 构建实时音频和视频 AI 应用的通信库，内置语音检测与轮次切换、Gradio WebRTC UI，并支持 WebSocket 和挂载到 FastAPI。
推荐理由：FastRTC 把 WebRTC 实时音视频通信封装成 Python 库，读者可据此判断实时语音应用的搭建门槛变化。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Remote VAE：用 Inference Endpoints 远程解码
Hugging Face Diffusers 团队实验性推出 Remote VAE，将潜空间扩散模型的 VAE 解码过程委托给远程 Inference Endpoints，以降低高分辨率图像和视频生成对消费级 GPU 的显存压力。
Hugging Face BlogAI 评分3232 Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商，支持 DeepSeek-R1、Flux.1 等模型，并已集成 JS 和 Python 客户端 SDK。用户可在账户设置中配置自有 API key 或通过 HF 路由调用，PRO 用户每月获赠 2 美元推理额度。
Mistral AI精选AI 评分6262 Mistral 发布 24B 区域语言模型 Mistral Saba
Mistral AI 发布 Mistral Saba，这是其首个专门面向区域语言的模型，参数规模 24B，基于中东和南亚地区精选数据集训练。该模型支持阿拉伯语和多种印度语系语言，在南印度语系如泰米尔语上表现突出，官方称其回答比规模大 5 倍以上的模型更准确，同时速度更快、成本更低。
推荐理由：Mistral 推出面向中东和南亚的区域语言模型，读者可了解其参数规模、语言覆盖和本地部署方式。
Hugging Face BlogAI 评分2222 Fireworks.ai 成为 HF Hub 支持的推理服务商
Hugging Face Hub 新增 Fireworks.ai 作为推理服务商，可直接在模型页及整个 HF 生态中调用其无服务器推理。
Hugging Face BlogAI 评分4848 Hugging Face 实测：10 亿次分类与嵌入推理的成本与延迟优化
Hugging Face 博客实测了 10 亿次分类与嵌入推理的成本：在 nvidia-L4（$0.8/hr）上，135M 的 DistilBERT 分类模型处理 10 亿输入需 $253.82，149M 的 gte-modernbert-base 嵌入需 $409.44，2.21B 的 ColQwen2 视觉嵌入则高达 $44,496.51。
Hugging Face Blog精选AI 评分6060 Hugging Face 用块级聚合加速 Hub 上传下载
Hugging Face 的 Xet 团队将内容定义分块（CDC）投入生产，通过块（最大 64MB）和分片聚合，把 CAS 条目减少约 1000 倍，部分场景上传下载提速 2-3 倍。
推荐理由：Hugging Face 公开了 Xet 存储的块级聚合设计，读者可据此理解大文件去重为何不能只靠分块。
Mistral AI精选AI 评分7171 Mistral 发布全新 le Chat 助手，上线 iOS 与 Android 并推出 Pro 和 Team 订阅
Mistral 发布全新 le Chat AI 助手，同步上线 iOS 和 Android，并推出 Pro 与 Team 订阅层级，Enterprise 版进入私有预览。
推荐理由：官方一次性给出 le Chat 的移动端、Pro/Team 定价与企业私有预览，可据此判断 Mistral 在消费级助手上的产品布局。
OpenAI NewsAI 评分2222 OpenAI 在欧洲推出数据驻留功能
OpenAI 面向欧洲客户推出数据驻留功能，允许将数据存储在欧洲本地。该功能建立在 OpenAI 面向全球客户的企业级数据隐私、安全与合规体系之上。