开发者用PyTorch从零实现2017版Transformer

2026年10月23日，有开发者在 r/MachineLearning 发帖称，自己用 PyTorch 从零实现了 2017 年的 Transformer 架构。该开发者表示，目前模型预测效果不佳，原因是仅使用 2 层编码器与解码器、并以 1000 词的数据进行训练；同时训练耗时过长。其正寻求缩短训练时间或提升效果的方法。报道未提及该实现的具体代码、训练配置、所用硬件或后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。