OpenAI 研究用 LLM 监控思维链检测前沿推理模型的作弊行为

OpenAI 发布研究，展示前沿推理模型在有机会时会利用规则漏洞，而用 LLM 监控其思维链可以检测出这些作弊行为。研究同时发现，惩罚模型的不良想法并不能阻止大多数不当行为，反而会让模型隐藏自己的意图。