OpenAI 如何设计 AI 智能体抵御提示词注入
OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路:通过限制高风险操作、保护敏感数据来降低风险。
OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路:通过限制高风险操作、保护敏感数据来降低风险。
Hugging Face 发布对 16 个开源强化学习库的调研,比较它们如何把推理与训练拆分到不同 GPU 池、用 rollout buffer 连接并异步同步权重。
推荐理由:基于 16 个开源 RL 库的横向对比,梳理异步训练在权重同步、陈旧样本与部分 rollout 上的七类设计取舍。
Hugging Face 发布教程,介绍源自 Snowflake AI Research 的 Ulysses 序列并行如何通过注意力头切分把长序列训练分布到多张 GPU,并已集成到 Accelerate、Transformers Trainer 和 TRL 的 SFTTrainer。
推荐理由:原文给出 Ulysses 序列并行在 Hugging Face 生态的接入方式与实测数据,可据此判断长上下文训练的显存与吞吐取舍。
Descript 借助 OpenAI 推理模型实现大规模内容库的自动本地化,在不丢失时间轴与语义的前提下完成多语言视频配音。该方案面向大体量内容库的自动本地化需求,解决了配音中时序与含义难以兼顾的问题。
NXP 发布在嵌入式平台部署机器人 AI 的实践指南,涵盖机器人数据集录制、VLA 策略(ACT 和 SmolVLA)微调,以及 NXP i.MX 95 SoC 优化后的实时性能表现。指南以"把茶包放进杯子"任务为例,记录了 120 个 episode,并建议采用 3 摄像头配置(顶部、夹爪、左侧)以平衡精度与延迟。
Photoroom 在 Hugging Face 博客发布 PRX 系列第三篇,用 32 张 H200、约 1500 美元算力预算在 24 小时内训练出一个文生图扩散模型。
Hugging Face 发布博客,介绍 transformers 库为支持 MoE 稀疏架构所做的工程改造,涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由:Hugging Face 官方拆解 transformers 为 MoE 重构的加载、后端与专家并行设计,并给出 v4 与 v5 的加载耗时对比。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码智能体,用 Unsloth 和 Hugging Face Jobs 微调 LiquidAI/LFM2.5-1.2B-Instruct。
推荐理由:原文给出可直接复用的 CLI 命令、Skill 安装步骤与按模型规模划分的 GPU 成本表,读者可据此估算小模型微调开销。
Gradio 6 的 gr.HTML 现已支持自定义模板、作用域 CSS 和 JavaScript 交互,可让 Claude 等前沿 LLM 一次性生成前端、后端与状态管理,全部写在一个 Python 文件里,无需构建步骤即可部署到 Hugging Face Spaces。
推荐理由:原文给出 gr.HTML 的三模板 API 与单文件示例,读者可据此让 LLM 一次性生成可部署的交互组件。
OpenAI 构建了一套实时访问系统,将速率限制、用量追踪与 credits 结合,为 Codex 和 Sora 提供持续访问能力。该系统旨在突破单纯速率限制的局限,支撑这两个产品的规模化访问。
Meta 与 Hugging Face 联合推出开源框架 OpenEnv,用于让智能体连接真实工具与 API 而非模拟环境,采用 Gym 风格 API 和标准 MCP 工具调用接口。
推荐理由:Meta 与 Hugging Face 的 OpenEnv 框架及 Turing 日历环境给出了工具型智能体在权限与多步流程下的实测数据,可据此判断真实环境评测的难点。
OpenAI 技术人员 Ryan Lopopolo 提出 harness engineering,探讨在智能体优先的世界中如何利用 Codex。文章聚焦于围绕 AI 智能体构建工程实践,而非单纯依赖模型本身的能力。
OpenAI 介绍 Codex App Server,这是一个双向 JSON-RPC API,用于把 Codex 智能体嵌入到应用中。该接口支持流式进度、工具调用、审批和 diff 等能力。
推荐理由:OpenAI 官方拆解 Codex App Server 的 JSON-RPC 接口设计,可供开发者了解如何把 Codex 智能体嵌入自有应用。
Hugging Face 公布 PRX 文本到图像模型训练消融实验,基于 1.2B 参数的 PRX-1.2B 在 Flux VAE 潜空间训练 100k 步,数据集为 MidJourneyV6 生成的 100 万张 256×256 合成图像。
OpenAI 披露其内部 AI 数据智能体,结合 GPT-5、Codex 与记忆能力对海量数据集进行推理,可在数分钟内给出可靠洞察。该智能体面向内部数据分析场景,强调推理与结果可靠性。
OpenAI 说明了 AI 智能体打开链接时如何保护用户数据,通过内置防护机制防止基于 URL 的数据外泄和提示词注入。
Hugging Face 发布新工具 upskill,用 Claude Opus 4.5 等大模型生成并评测 agent skill,再交给更小或本地模型使用。
推荐理由:原文给出用大模型生成 Skill 再迁移到小模型的可复用流程与评测命令,读者可据此降低推理成本。
Hugging Face 团队用 verl 框架对 GPT-OSS-20B 做智能体强化学习训练,发现 KL 散度和熵爆炸、奖励不升,根因是 MoE 架构下双次前向传播导致新旧 log-prob 不匹配,使 PPO 的 on-policy 重要性采样比值偏离 1。
OpenAI 技术详解 Codex 智能体循环,说明 Codex CLI 如何借助 Responses API 编排模型、工具、提示词与性能。
OpenAI 通过副本、缓存、限流和工作负载隔离,将 PostgreSQL 扩展至每秒数百万次查询,以支撑 8 亿 ChatGPT 用户。
Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署中,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Heaptrack 显示堆内存稳定,泄漏发生在堆外,最终指向 NIXL 经 UCX 传输 KVCache 的依赖层。
Netomi 借助 GPT-4.1 和 GPT-5.2 扩展企业级 AI 智能体,通过并发、治理与多步推理支撑可靠的生产工作流。该方案面向企业规模化部署,强调智能体系统在生产环境中的稳定性。
Hugging Face 博客发布教程,介绍如何用 NVIDIA DGX Spark 配合 Reachy Mini 复现 CES 2026 主题演讲中的桌面智能体,代码已开源。
Hugging Face 发布 Transformers v5,将 tokenizer 架构与训练词表分离,类似 PyTorch 分离网络结构与权重,使 tokenizer 可检查、可定制、可从零训练。v5 提供清晰的类层级和单一快速后端,支持 BPE、Unigram、WordPiece 等算法,并可通过 AutoTokenizer 自动选择正确的 tokenizer 类。
NVIDIA 发布 Nemotron 3 Nano 30B A3B,并公开其完整评测配方,基于开源库 NeMo Evaluator 构建,任何人可复跑评测流程并独立核验结果。
OpenAI 提出企业构建"AI-ready"组织的路径,涵盖清晰的战略、培训、治理与加速创新四个方面。内容面向领导者,说明如何借助这些要素让组织适应 AI 时代。
OpenAI 借助 Codex 在 28 天内完成 Android 版 Sora 的交付。团队通过 AI 辅助的规划、翻译与并行编码工作流,实现了快速且可靠的开发。
Hugging Face 发布教程,展示如何让 OpenAI Codex 通过 HF Skills 仓库完成端到端机器学习实验,包括数据校验、硬件选择、提交 Hugging Face Jobs 训练、监控进度、评测并生成训练报告。
推荐理由:原文给出 Codex 调用 HF Skills 完成端到端微调的完整流程与成本区间,可据此判断智能体托管训练实验的可行边界。
Hugging Face 推出 Hugging Face Skills,让 Claude Code 等编码智能体直接提交云端 GPU 微调任务、监控进度并把模型推送到 Hub。
推荐理由:原文给出了一套可复用的技能包与完整操作流程,读者可据此让编码智能体接管微调全流程。
Hugging Face 发布博客,从 attention 机制与 KV caching 出发,通过优化吞吐量推导出 continuous batching。该方法通过并行处理多个对话、完成即换出,最大化高负载场景下的推理性能。文中指出 attention 是 token 间唯一交互之处,其计算量为 O(n²d),随序列长度呈平方增长。
Tavily 分享其深度研究智能体的构建经验,通过上下文工程把工具输出蒸馏为反思而非在上下文中累积原始 token,相比 LangChain 的 Open Deep Research 减少 66% token 消耗,并在 DeepResearch Bench 上达到 SOTA。
推荐理由:Tavily 复盘自建深度研究智能体的架构取舍,给出上下文工程与 token 消耗对比的具体做法,可迁移到其他长任务智能体。
OpenAI 发文阐述 evals 如何帮助企业定义、衡量并改进 AI 表现,从而降低风险、提升生产力并形成战略优势。文章面向企业场景,说明 evals 在 AI 落地中的作用。
Hugging Face 的 kernels 库支持用 kernel-builder 构建并经由 kernels-community 分享自定义 GPU 内核,覆盖 CUDA、ROCm、Metal 和 XPU 后端。
OpenAI 发文解读提示词注入这一 AI 系统面临的前沿安全挑战,说明此类攻击的运作方式,并介绍 OpenAI 在推进相关研究、训练模型以及为用户构建防护措施方面的进展。
MiniMax M2 的后训练团队分享了智能体对齐的核心经验:智能体需要交错思考(Interleaved Thinking),在任务全程而非仅在开头进行推理,以应对工具输出带来的持续扰动。团队发现,仅靠工具数量扩展无法实现泛化,真正的泛化要求模型对整个操作空间中的扰动保持稳定,包括系统提示词、用户提示词、环境和工具响应。M2 用户需保留包含思考步骤的完整会话历史,因为上下文就是它的记忆。
OpenAI 详解其 ChatGPT 浏览器 Atlas 背后的新架构 OWL,该架构将 Chromium 解耦,实现快速启动、丰富 UI 以及由 ChatGPT 驱动的智能体浏览。
NVIDIA Isaac for Healthcare v0.4 发布基于 SO-ARM 的入门工作流,提供从仿真采集数据、微调 GR00T N1.5 到真机部署的端到端流程,用于构建自主手术辅助机器人。
NVIDIA 发布 Isaac for Healthcare v0.4,提供基于 SO-ARM 的端到端手术辅助机器人工作流,覆盖数据采集、训练与真机部署。该工作流用 LeRobot 采集仿真与真机数据,后训练 GR00T N1.5,并在 Isaac Lab 评估后部署到硬件,其中超过 93% 的训练数据由仿真合成生成。
推荐理由:原文给出从仿真采集、GR00T N1.5 后训练到真机部署的完整命令与硬件要求,可据此复现医疗机器人工作流。
Hugging Face 发布博客提出“语音同意门”(voice consent gate),让模型只有在说话人明确说出同意语句并被 ASR 识别后才启动声音克隆,并提供了示例 Space 和配套代码。该方案由语言模型为每次授权生成一对全新句子,一句表达明确同意、一句提供语音多样性,从而把同意变成可追溯、可审计的系统前置条件。
Hugging Face 发布指南,介绍如何用开源模型构建 OCR 流水线,并新增 Chandra 与 OlmOCR-2 两个模型及 OlmOCR 评测分数。指南覆盖当前 OCR 模型能力、微调与开箱即用的取舍、模型选型要点,以及用多模态检索和文档问答超越传统 OCR。