Nick Cammarata 谈可解释性研究前景

2026年10月16日，前 OpenAI 研究员 Nick Cammarata 就机械可解释性研究前景发表看法，相关内容由 Elvis Saravia（DAIR.AI）在 X 上转发并推荐。Cammarata 表示，借助现代智能体工具，规模达万亿参数的模型中绝大多数神经元已可理解，其回路结构清晰，许多此前被认为纠缠不清的神经元案例实为误读。他曾在 OpenAI 参与机械可解释性早期工作并主导首个大规模自动化可解释性项目，当时仅约 2% 的神经元可读，因此一度悲观；如今他认为雄心勃勃的可解释性研究有望在最需要时被解决，甚至可能很快实现，并称这或许是可解释性领域的苦涩教训，即简单方法在极大尺度上奏效。上述说法均为其个人观点，尚无独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。