OpenAI发布激活分类器训练方法研究

2026年11月3日，OpenAI在其对齐博客发布文章，介绍用于安全与对齐的激活分类器（probe）训练方法及部署经验。文章称，自GPT-5.6起，OpenAI在安全栈中新增一层激活分类器，对所有助手回复进行流式监控。probe是轻量机器学习模型，读取模型中间层残差流激活并输出二分类logit，可在违规回复生成中途拦截；相比更大的文本分类器，它更抗越狱、运行更高效。其局限包括依赖标注数据、只能检测已知类型，且与具体模型权重绑定，更换基座模型需重新训练。OpenAI表示，已将probe部署到其最强模型的内部与外部流量；文中图表来自多项内部实验，不一定代表已部署分类器的实际表现。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。