OpenAI 研究：有益特质强化学习可带来广泛且持久的对齐泛化

OpenAI 对齐研究博客发布研究，用真实场景对话数据对诚实、认知谦逊、可纠正性等有益特质做强化学习，在 53 项内外部基准中的 44 项上超过同等算力基线，覆盖欺骗、诚实、奖励黑客、健康与心理健康等评测。研究还发现，仅用健康领域数据训练也能提升非健康领域的对齐表现，且模型在对抗性提示和有害微调下更难被推向有害行为，同时对有益指令仍保持可引导性。