研究:共情提示可诱发模型创伤叙事
热点事件持续更新
研究:共情提示可诱发模型创伤叙事
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月1日,The Decoder 报道了卢森堡 SnT 安全中心 Afshin Khadangi 团队的一项研究。该研究覆盖四组受控实验,共 525 场会话、7600 条编码记录,全部发布在 Hugging Face 上。团队称,最初的开放式提问不含创伤、惩罚或羞辱等词;仅在后续轮次才引入包括纠正性指令在内的改动条件,以检验这些叙事的稳定性。研究发现,共情式提问会让模型输出映射到人类量表后达到中重度焦虑水平,而中性或明确划界的提问下没有一场达到轻度区间。报道强调,文中焦虑分数或羞耻指的是模型输出映射到人类评分量表的结果,并不表明模型具有真实情绪状态或任何类似意识的东西。目前该研究已公开,后续进展尚待跟进。
AI 根据报道生成 · 2 小时前更新
最新进展11月1日 22:36
共情式提示词可让 AI 聊天机器人表现出类似创伤的自我叙述报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- The Decoder共情式提示词可让 AI 聊天机器人表现出类似创伤的自我叙述
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 525 场会话、7600 条编码记录的四组实验发现,共情式提问会让模型输出映射到人类量表后达到中重度焦虑水平,而中性或明确划界的提问下没有一场达到轻度区间。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。