跳到正文
OpenAI News·· 2026-03-19AI 评分38

OpenAI 如何用思维链监控内部编程智能体的失准行为

How we monitor internal coding agents for misalignment

AI 导读

OpenAI 采用思维链监控(chain-of-thought monitoring)研究内部编程智能体的失准(misalignment)问题,通过分析真实部署场景来检测风险并强化 AI 安全保障措施。

来源:OpenAI News · openai.com