英AI安全院发布诈骗滥用评估框架

2026年10月7日，英国 AI 安全研究院（UK AI Security Institute）发布一套面向诈骗与网络犯罪的 AI 滥用评估框架，并提出长任务（LFT）评估方法，模拟恋爱诈骗、CEO 冒充和身份盗用三类场景，覆盖非技术个人、技术熟练者和有组织团伙三类行为者。该院称，共对 14 个能力与安全护栏各异的 LLM 运行了 2 万余次评估，以识别影响诈骗滥用协助的关键因素；研究仅针对文本模型，未测量 AI 生成的图像、音频和视频可能带来的不同提升程度。该院还称，相关案例几乎全部集中在安全护栏被削弱或移除的开源权重模型上。报道提到，2026年10月3日该院对博客文字作了小幅更新，使对安全缓解措施与越狱技术的描述更具体。

AI 根据报道生成 · 5 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。