英国AISI研究:预训练数据过滤难防生物模型能力恢复
热点事件持续更新
英国AISI研究:预训练数据过滤难防生物模型能力恢复
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月26日,英国AI安全研究所(AISI)Chem-Bio团队发布研究,评估预训练数据过滤对开源生物模型的安全效果。研究使用开源ESM-2蛋白质语言模型,发现过滤能选择性削弱病毒蛋白相关能力,同时基本保留非病毒蛋白性能。但团队指出,被移除的能力可通过继续微调完全恢复,即使最大的30亿参数模型,恢复全部能力也仅需约80美元的H100算力,且所需病毒数据通常公开可得。研究同时说明,结果仅基于ESM-2单一模型家族,对其他蛋白质模型的适用性尚不确定。AISI据此认为,数据过滤单独不足以构成稳健防护,需配合数据访问控制等措施。
AI 根据报道生成 · 3 小时前更新
最新进展10月26日 08:00
英国 AISI 研究开源生物模型预训练数据过滤的有效性报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- UK AI Security Institute Blog英国 AISI 研究开源生物模型预训练数据过滤的有效性
英国 AI 安全研究所(AISI)Chem-Bio 团队用 ESM-2 蛋白质语言模型测试预训练数据过滤,发现过滤能选择性削弱病毒蛋白相关能力,同时基本保留非病毒蛋白性能。但被移除的能力可通过继续微调完全恢复,即使最大的 3B 参数模型也只需约 80 美元的 H100 算力,且所需病毒数据通常公开可得。团队因此认为数据过滤单独不足以构成稳健防护,需配合数据访问控制等措施。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 610月27日 00:00
- 近 24 小时变化
- –
02468
10月27日01:0002:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。