Berkeley AI Research·· 2026-03-13AI 评分38
Berkeley AI Research 提出 SPEX 与 ProxySPEX,可在规模化下识别 LLM 关键交互
Identifying Interactions at Scale for LLMs
AI 导读
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在特征、数据和模型组件归因中识别 LLM 的关键交互。SPEX 利用交互的稀疏性与低阶性,将搜索问题转化为稀疏恢复问题;ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融实验达到 SPEX 的性能。
来源:Berkeley AI Research · bair.berkeley.edu