OpenAI 与 Amazon 达成战略合作，Frontier 平台接入 AWS
OpenAI 与 Amazon 宣布战略合作，将 OpenAI 的 Frontier 平台引入 AWS。合作范围包括扩展 AI 基础设施、定制模型以及企业级 AI 智能体。
推荐理由：OpenAI 与 AWS 的合作把 Frontier 平台接入云基础设施，读者可据此观察企业级 AI 智能体的落地路径。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
239 条精选近 30 天 23 条共收录 717 条
更新
精选归档 · 第 6 页
OpenAI News精选AI 评分6262
Hugging Face Blog精选AI 评分6262 Hugging Face 详解 transformers 中的 MoE 支持：权重加载重构、专家后端与专家并行
Hugging Face 发布博客，介绍 transformers 库为支持 MoE 稀疏架构所做的工程改造，涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由：Hugging Face 官方拆解 transformers 为 MoE 重构的加载、后端与专家并行设计，并给出 v4 与 v5 的加载耗时对比。
Hugging Face Blog精选AI 评分7070 GGML 与 llama.cpp 团队加入 Hugging Face，继续维护本地 AI 开源项目
Hugging Face 宣布 GGML（llama.cpp 的创建方）加入 HF，Georgi Gerganov 及团队将获得长期可持续资源支持，继续推动本地 AI 开源发展。
推荐理由：Hugging Face 官方说明 GGML 与 llama.cpp 团队加入后的资源安排与开源承诺，可了解本地推理生态的走向。
Hugging Face Blog精选AI 评分6060 用 Unsloth 和 Hugging Face Jobs 免费训练 AI 模型
Hugging Face 发布教程，介绍如何通过 Claude Code、Codex 等编码智能体，用 Unsloth 和 Hugging Face Jobs 微调 LiquidAI/LFM2.5-1.2B-Instruct。
推荐理由：原文给出可直接复用的 CLI 命令、Skill 安装步骤与按模型规模划分的 GPU 成本表，读者可据此估算小模型微调开销。
Hugging Face Blog精选AI 评分6262 用 Gradio 的 gr.HTML 一次性生成任意 Web 应用
Gradio 6 的 gr.HTML 现已支持自定义模板、作用域 CSS 和 JavaScript 交互，可让 Claude 等前沿 LLM 一次性生成前端、后端与状态管理，全部写在一个 Python 文件里，无需构建步骤即可部署到 Hugging Face Spaces。
推荐理由：原文给出 gr.HTML 的三模板 API 与单文件示例，读者可据此让 LLM 一次性生成可部署的交互组件。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 CUDA kernel Agent 技能，Claude 与 Codex 端到端生成可用内核
Hugging Face 发布 cuda-kernels Agent 技能，让 Claude Code、Codex 等编码智能体自动编写生产级 CUDA kernel，并完成 PyTorch 绑定与基准测试。
推荐理由：Hugging Face 把 CUDA kernel 开发经验打包成 Agent 技能，并给出两个真实模型的实测数据，可迁移到其他领域知识封装。
Hugging Face Blog精选AI 评分6262 OpenEnv 实践：在真实环境中评测工具型智能体
Meta 与 Hugging Face 联合推出开源框架 OpenEnv，用于让智能体连接真实工具与 API 而非模拟环境，采用 Gym 风格 API 和标准 MCP 工具调用接口。
推荐理由：Meta 与 Hugging Face 的 OpenEnv 框架及 Turing 日历环境给出了工具型智能体在权限与多步流程下的实测数据，可据此判断真实环境评测的难点。
Hugging Face Blog精选AI 评分6262 Transformers.js v4 发布并上线 NPM
Hugging Face 发布 Transformers.js v4，已上线 NPM，可通过 npm i @huggingface/transformers 安装。
推荐理由：原文给出 WebGPU 运行时重写、构建提速与包体积变化等具体数据，可据此判断浏览器端本地推理的工程成熟度。
OpenAI News精选AI 评分6262 OpenAI 发布企业级智能体平台 OpenAI Frontier
OpenAI 发布企业平台 OpenAI Frontier，用于构建、部署和管理 AI 智能体。该平台提供共享上下文、入职引导、权限与治理能力。
推荐理由：OpenAI 官方给出企业级智能体平台的定位与治理能力，可据此判断其与现有 Agent 工具链的分工。
OpenAI News精选AI 评分6060 OpenAI 详解 Codex App Server：如何嵌入 Codex 智能体
OpenAI 介绍 Codex App Server，这是一个双向 JSON-RPC API，用于把 Codex 智能体嵌入到应用中。该接口支持流式进度、工具调用、审批和 diff 等能力。
推荐理由：OpenAI 官方拆解 Codex App Server 的 JSON-RPC 接口设计，可供开发者了解如何把 Codex 智能体嵌入自有应用。
Hugging Face Blog精选AI 评分6262 Gradio 团队开源 Daggr：用 Python 串联 AI 工作流并自动生成可视化画布
Gradio 团队发布开源 Python 库 Daggr，用于把 Gradio 应用、ML 模型和自定义函数串联成 AI 工作流，并自动生成可视化画布。画布可查看任意节点的中间输出、修改输入并单独重跑某一步，无需执行整条流水线，还支持状态持久化和用 backup nodes 替换模型。
推荐理由：Gradio 团队开源 Daggr，用代码定义工作流并自动生成可视化画布，可单独重跑某一步，为多模型串联调试提供了一种轻量方案。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 upskill：用 Claude 生成 CUDA 内核技能并迁移到开源模型
Hugging Face 发布新工具 upskill，用 Claude Opus 4.5 等大模型生成并评测 agent skill，再交给更小或本地模型使用。
推荐理由：原文给出用大模型生成 Skill 再迁移到小模型的可复用流程与评测命令，读者可据此降低推理成本。
Mistral AI精选AI 评分6262 Mistral 发布终端编码智能体 Mistral Vibe 2.0
Mistral 发布终端编码智能体 Mistral Vibe 2.0，由 Devstral 2 模型系列驱动，新增自定义子智能体、多选项澄清、斜杠命令技能和统一智能体模式，CLI 修复持续自动更新。
推荐理由：官方给出 Vibe 2.0 的自定义子智能体、斜杠命令技能与定价变化，可据此判断终端编码智能体的能力边界与成本。
Hugging Face Blog精选AI 评分6262 微软发布 Differential Transformer V2：差分注意力去掉自定义 kernel 与 RMSNorm
微软 unilm 团队发布 Differential Transformer V2（DIFF V2），在保持 KV 头数量不变的前提下把 query 头数翻倍，使解码速度与标准 Transformer 持平，且不再需要自定义注意力 kernel。
推荐理由：微软团队给出 DIFF V2 的代码与消融对比，读者可据此理解差分注意力在解码速度与训练稳定性上的取舍。
Hugging Face Blog精选AI 评分7474 Overworld 发布 Waypoint-1 实时交互视频扩散模型
Overworld 发布实时交互视频扩散模型 Waypoint-1，可通过文本、鼠标和键盘控制，权重已上线 Hugging Face，Small 版为 2.3B 参数。
推荐理由：原文给出模型权重、训练方法和推理库，读者可据此判断实时交互视频生成的技术路线与可用性。
Hugging Face Blog精选AI 评分6666 OpenAI 发起 Open Responses 开放推理标准，Hugging Face 生态支持
OpenAI 发起、开源社区构建、Hugging Face 生态支持的 Open Responses 开放推理标准发布，基于 Responses API 设计，面向智能体场景。该标准默认无状态，支持加密推理，将流式输出建模为语义事件序列，并原生支持内部与外部工具及子智能体循环。开发者可通过 Hugging Face Inference Providers 和 Spaces 上的早期访问版本试用。
推荐理由：OpenAI 发起、Hugging Face 生态支持的开放推理标准，读者可了解它如何替代 Chat Completion 格式并支持智能体循环。
OpenAI News精选AI 评分6262 OpenAI 与 Cerebras 合作新增 750MW 高速 AI 算力
OpenAI 宣布与 Cerebras 合作，新增 750MW 高速 AI 算力，用于降低推理延迟。该算力将让 ChatGPT 在实时 AI 工作负载下响应更快。
推荐理由：OpenAI 与 Cerebras 达成算力合作，读者可了解其新增算力规模与对推理延迟的直接影响。
OpenAI News精选AI 评分6262 OpenAI 与软银集团携手 SB Energy 共建多吉瓦 AI 数据中心
OpenAI 与软银集团宣布与 SB Energy 合作，开发多吉瓦级 AI 数据中心园区，其中包括一座位于得克萨斯州、容量 1.2 GW 的设施，用于支持 Stargate 计划。
推荐理由：OpenAI 与软银、SB Energy 合作建设多吉瓦级 AI 数据中心，可了解 Stargate 计划的算力落地方式。
Mistral AI精选AI 评分6262 Mistral 发布 OCR 3，表单与手写识别胜率较上代提升 74%
Mistral 发布文档解析模型 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，官方称其准确率超过企业级文档处理方案和 AI 原生 OCR 方案。
推荐理由：官方给出 OCR 3 相对上一代在表单、手写和复杂表格上的胜率与定价，可据此判断文档解析成本与适用场景。
Hugging Face Blog精选AI 评分6060 llama.cpp 新增模型管理功能：router 模式支持动态加载与切换模型
llama.cpp server 新增 router 模式，可在不重启服务的情况下动态加载、卸载和切换多个模型。该模式采用多进程架构，每个模型独立运行，单个模型崩溃不影响其他模型；支持自动发现缓存或 --models-dir 目录中的 GGUF 文件、按需加载、LRU 淘汰（默认 --models-max 为 4）以及按请求中的 model 字段路由。
推荐理由：llama.cpp 新增 router 模式，可在不重启服务的前提下动态加载、卸载和切换多个模型，适合本地多模型部署场景。