机器之心·· 7 小时前AI 评分71
Google DeepMind 研究指出 Softmax 与交叉熵存在数值精度 Bug，并给出修复方案
PyTorch、JAX都被点名！Softmax曝出隐藏Bug，Gemini立功
AI 导读
Google DeepMind 首席研究科学家 Jonathan T. Barron 等人提交论文，指出 PyTorch、JAX、TensorFlow 中 Softmax 与交叉熵的标准实现存在两个数值精度 Bug，分别称为 Softmax Collapse 和 Softmax Cancellation。
来源：机器之心 · mp.weixin.qq.com