Google 发布 TurboQuant 等向量量化算法,将 KV cache 压缩至 3 bit
Google Research 提出 TurboQuant 压缩算法,并配套 QJL 和 PolarQuant 两种方法,用于解决向量量化中的内存开销问题,相关论文将分别在 ICLR 2026 和 AISTATS 2026 发表。
推荐理由:Google 提出 TurboQuant 等三种向量量化算法,可在不损失精度的前提下把 KV cache 压到 3 bit,并给出与基线的对比数据。
Google Research 提出 TurboQuant 压缩算法,并配套 QJL 和 PolarQuant 两种方法,用于解决向量量化中的内存开销问题,相关论文将分别在 ICLR 2026 和 AISTATS 2026 发表。
推荐理由:Google 提出 TurboQuant 等三种向量量化算法,可在不损失精度的前提下把 KV cache 压到 3 bit,并给出与基线的对比数据。
NVIDIA 发布一套基于 NeMo 的嵌入模型微调流程,用单张 GPU 和不到一天时间把通用嵌入模型改造成领域专用模型,无需人工标注。流程包含用 LLM 从领域文档生成合成问答对、挖掘难负样本、多跳问题展开、对比学习微调、BEIR 评测以及导出为 ONNX/TensorRT 并用 NVIDIA NIM 部署六步。
推荐理由:原文给出从文档到部署的六步嵌入模型微调流程与实测指标,可迁移到自有领域语料。
Mistral AI 推出 Forge,一套让企业基于自有专有知识构建前沿级 AI 模型的系统。Forge 支持预训练、后训练和强化学习等阶段,可训练模型理解内部术语、代码库与流程,并支持 dense 与 MoE 架构及多模态输入。该产品面向智能体优先设计,Mistral Vibe 等自主智能体可用其微调模型、寻找最优超参数、调度任务并生成合成数据,企业还能通过内部评测与强化学习持续改进模型。
推荐理由:原文给出企业用自有数据训练前沿模型的产品定位与训练流程,可据此判断企业自建模型与智能体的落地路径。
H Company 发布 Holotron-12B,一个基于 NVIDIA Nemotron-Nano-2 VL 后训练的多模态计算机操作模型,现已上线 Hugging Face,采用 NVIDIA Open Model License。
推荐理由:原文给出模型来源、混合 SSM 架构与吞吐对比数据,读者可据此判断其在长上下文智能体场景的部署取舍。
Google 宣布在 Flood Hub 上线城市山洪(flash flood)预报,可提前最多 24 小时预测城市区域的山洪风险。
推荐理由:Google 把洪水预报从河流扩展到城市内涝,并给出与 NWS 同口径的精度对比,可据此判断全球预警覆盖的差距。
Mistral 基于其开源编码助手 Vibe 构建了一个自动生成和改进 Rails RSpec 测试的智能体,可在 CI/CD 中无人干预运行。
推荐理由:Mistral 公开了用 Vibe 构建 Rails 测试智能体的完整方法,包括 AGENTS.md 规划、分文件类型技能和自定义工具,可迁移到其他代码库。
OpenAI 介绍如何用 Responses API、shell 工具和托管容器构建智能体运行时,让智能体在安全、可扩展的环境中处理文件、工具和状态。原文仅提供摘要,未给出具体版本号、开放时间或性能数据。
推荐理由:OpenAI 官方说明如何用 Responses API、shell 工具与托管容器搭建智能体运行时,可了解其安全与扩展思路。
Hugging Face 在 Hub 上推出 Storage Buckets,一种非版本化的 S3 式可变对象存储,可通过浏览器、Python 或 hf CLI 管理,地址形如 hf://buckets/username/my-training-bucket。
推荐理由:原文给出可变对象存储的定位与 Xet 去重、预热的机制,读者可据此判断它是否适合训练中间产物的存放。
Hugging Face 发布对 16 个开源强化学习库的调研,比较它们如何把推理与训练拆分到不同 GPU 池、用 rollout buffer 连接并异步同步权重。
推荐理由:基于 16 个开源 RL 库的横向对比,梳理异步训练在权重同步、陈旧样本与部分 rollout 上的七类设计取舍。
Hugging Face 发布教程,介绍源自 Snowflake AI Research 的 Ulysses 序列并行如何通过注意力头切分把长序列训练分布到多张 GPU,并已集成到 Accelerate、Transformers Trainer 和 TRL 的 SFTTrainer。
推荐理由:原文给出 Ulysses 序列并行在 Hugging Face 生态的接入方式与实测数据,可据此判断长上下文训练的显存与吞吐取舍。
LeRobot v0.5.0 发布,自 v0.4.0 以来合并 200 多个 PR、新增 50 多位贡献者,首次加入 Unitree G1 人形机器人支持,覆盖行走、操作、遥操作与全身控制。
推荐理由:LeRobot v0.5.0 一次性补齐人形机器人、自回归 VLA 与流式视频编码,可据此判断开源机器人栈的当前边界。
NXP 发布在嵌入式平台部署机器人 AI 的实践指南,涵盖机器人数据集录制、VLA 策略(ACT 和 SmolVLA)微调,以及 NXP i.MX 95 SoC 优化后的实时性能表现。指南以"把茶包放进杯子"任务为例,记录了 120 个 episode,并建议采用 3 摄像头配置(顶部、夹爪、左侧)以平衡精度与延迟。
Hugging Face 发布 Modular Diffusers,用可复用的 block 组合扩散流水线,作为 DiffusionPipeline 的补充方案。
推荐理由:原文给出可组合模块的 API 与自定义块示例,读者可据此判断扩散流水线拆解后如何复用与共享。
OpenAI 与 Amazon 宣布战略合作,将 OpenAI 的 Frontier 平台引入 AWS。合作范围包括扩展 AI 基础设施、定制模型以及企业级 AI 智能体。
推荐理由:OpenAI 与 AWS 的合作把 Frontier 平台接入云基础设施,读者可据此观察企业级 AI 智能体的落地路径。
Amazon Bedrock 推出面向智能体的 Stateful Runtime Environment,为 OpenAI 驱动的多步 AI 工作流提供持久化编排、记忆与安全执行能力。
Hugging Face 发布博客,介绍 transformers 库为支持 MoE 稀疏架构所做的工程改造,涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由:Hugging Face 官方拆解 transformers 为 MoE 重构的加载、后端与专家并行设计,并给出 v4 与 v5 的加载耗时对比。
Hugging Face 宣布 GGML(llama.cpp 的创建方)加入 HF,Georgi Gerganov 及团队将获得长期可持续资源支持,继续推动本地 AI 开源发展。
推荐理由:Hugging Face 官方说明 GGML 与 llama.cpp 团队加入后的资源安排与开源承诺,可了解本地推理生态的走向。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码智能体,用 Unsloth 和 Hugging Face Jobs 微调 LiquidAI/LFM2.5-1.2B-Instruct。
推荐理由:原文给出可直接复用的 CLI 命令、Skill 安装步骤与按模型规模划分的 GPU 成本表,读者可据此估算小模型微调开销。
Gradio 6 的 gr.HTML 现已支持自定义模板、作用域 CSS 和 JavaScript 交互,可让 Claude 等前沿 LLM 一次性生成前端、后端与状态管理,全部写在一个 Python 文件里,无需构建步骤即可部署到 Hugging Face Spaces。
推荐理由:原文给出 gr.HTML 的三模板 API 与单文件示例,读者可据此让 LLM 一次性生成可部署的交互组件。
OpenAI 构建了一套实时访问系统,将速率限制、用量追踪与 credits 结合,为 Codex 和 Sora 提供持续访问能力。该系统旨在突破单纯速率限制的局限,支撑这两个产品的规模化访问。
Hugging Face 发布 cuda-kernels Agent 技能,让 Claude Code、Codex 等编码智能体自动编写生产级 CUDA kernel,并完成 PyTorch 绑定与基准测试。
推荐理由:Hugging Face 把 CUDA kernel 开发经验打包成 Agent 技能,并给出两个真实模型的实测数据,可迁移到其他领域知识封装。
Meta 与 Hugging Face 联合推出开源框架 OpenEnv,用于让智能体连接真实工具与 API 而非模拟环境,采用 Gym 风格 API 和标准 MCP 工具调用接口。
推荐理由:Meta 与 Hugging Face 的 OpenEnv 框架及 Turing 日历环境给出了工具型智能体在权限与多步流程下的实测数据,可据此判断真实环境评测的难点。
OpenAI for Government 宣布在 GenAI.mil 上部署定制版 ChatGPT,为美国国防团队提供安全、注重安全性的 AI 能力。
Hugging Face 发布 Transformers.js v4,已上线 NPM,可通过 npm i @huggingface/transformers 安装。
推荐理由:原文给出 WebGPU 运行时重写、构建提速与包体积变化等具体数据,可据此判断浏览器端本地推理的工程成熟度。
SyGra 2.0.0 发布 Studio,一个把合成数据生成变成可视化流程的交互环境,画布上搭建的流程会自动生成 SyGra 兼容的图配置和任务执行脚本。
OpenAI 发布企业平台 OpenAI Frontier,用于构建、部署和管理 AI 智能体。该平台提供共享上下文、入职引导、权限与治理能力。
推荐理由:OpenAI 官方给出企业级智能体平台的定位与治理能力,可据此判断其与现有 Agent 工具链的分工。
OpenAI 介绍 Codex App Server,这是一个双向 JSON-RPC API,用于把 Codex 智能体嵌入到应用中。该接口支持流式进度、工具调用、审批和 diff 等能力。
推荐理由:OpenAI 官方拆解 Codex App Server 的 JSON-RPC 接口设计,可供开发者了解如何把 Codex 智能体嵌入自有应用。
Hugging Face 博客第三篇中国开源 AI 系列文章指出,开源已成为中国 AI 机构近期的主流路线。Qwen 在 Hugging Face 上的衍生模型超过 113k,远超 Llama 的 27k 和 DeepSeek 的 6k;腾讯自 2025 年 5 月起以混元品牌加速开源视觉、视频与 3D 模型,百度则通过 Ernie 4.5 系列和 PaddlePaddle 重返开源生态。
Gradio 团队发布开源 Python 库 Daggr,用于把 Gradio 应用、ML 模型和自定义函数串联成 AI 工作流,并自动生成可视化画布。画布可查看任意节点的中间输出、修改输入并单独重跑某一步,无需执行整条流水线,还支持状态持久化和用 backup nodes 替换模型。
推荐理由:Gradio 团队开源 Daggr,用代码定义工作流并自动生成可视化画布,可单独重跑某一步,为多模型串联调试提供了一种轻量方案。
Hugging Face 发布新工具 upskill,用 Claude Opus 4.5 等大模型生成并评测 agent skill,再交给更小或本地模型使用。
推荐理由:原文给出用大模型生成 Skill 再迁移到小模型的可复用流程与评测命令,读者可据此降低推理成本。
Mistral 发布终端编码智能体 Mistral Vibe 2.0,由 Devstral 2 模型系列驱动,新增自定义子智能体、多选项澄清、斜杠命令技能和统一智能体模式,CLI 修复持续自动更新。
推荐理由:官方给出 Vibe 2.0 的自定义子智能体、斜杠命令技能与定价变化,可据此判断终端编码智能体的能力边界与成本。
Hugging Face 博客梳理中国开源 AI 生态自 2025 年 1 月“DeepSeek 时刻”以来的架构与硬件选择:Kimi K2、MiniMax M2、Qwen3 等头部模型几乎一致转向 MoE 架构,0.5B–30B 小模型与 100B–700B 大 MoE 形成“教师—学生”结构,Apache 2.0 成为默认许可证。
Hugging Face 团队用 verl 框架对 GPT-OSS-20B 做智能体强化学习训练,发现 KL 散度和熵爆炸、奖励不升,根因是 MoE 架构下双次前向传播导致新旧 log-prob 不匹配,使 PPO 的 on-policy 重要性采样比值偏离 1。
OpenAI 通过副本、缓存、限流和工作负载隔离,将 PostgreSQL 扩展至每秒数百万次查询,以支撑 8 亿 ChatGPT 用户。
Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署中,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Heaptrack 显示堆内存稳定,泄漏发生在堆外,最终指向 NIXL 经 UCX 传输 KVCache 的依赖层。
ServiceNow 扩大对 OpenAI 前沿模型的接入,用于驱动 ServiceNow 平台上的 AI 工作流、摘要、搜索与语音功能。此次合作将 OpenAI 模型能力嵌入企业级工作流场景,覆盖摘要、搜索和语音等平台功能。
微软 unilm 团队发布 Differential Transformer V2(DIFF V2),在保持 KV 头数量不变的前提下把 query 头数翻倍,使解码速度与标准 Transformer 持平,且不再需要自定义注意力 kernel。
推荐理由:微软团队给出 DIFF V2 的代码与消融对比,读者可据此理解差分注意力在解码速度与训练稳定性上的取舍。
Overworld 发布实时交互视频扩散模型 Waypoint-1,可通过文本、鼠标和键盘控制,权重已上线 Hugging Face,Small 版为 2.3B 参数。
推荐理由:原文给出模型权重、训练方法和推理库,读者可据此判断实时交互视频生成的技术路线与可用性。
OpenAI 发起一项新的 RFP,旨在通过加速美国本土制造、创造就业并扩展 AI 基础设施来强化美国 AI 供应链。
OpenAI 发起、开源社区构建、Hugging Face 生态支持的 Open Responses 开放推理标准发布,基于 Responses API 设计,面向智能体场景。该标准默认无状态,支持加密推理,将流式输出建模为语义事件序列,并原生支持内部与外部工具及子智能体循环。开发者可通过 Hugging Face Inference Providers 和 Spaces 上的早期访问版本试用。
推荐理由:OpenAI 发起、Hugging Face 生态支持的开放推理标准,读者可了解它如何替代 Chat Completion 格式并支持智能体循环。