Google Research·· 2026-01-28AI 评分40
Google Research 提出 ATLAS:多语言模型预训练、微调与解码多语言诅咒的实用缩放定律
ATLAS: Practical scaling laws for multilingual models
AI 导读
Google Research 提出 ATLAS(自适应迁移缩放定律),基于 774 次训练运行、10M–8B 参数模型、400+ 语言数据,给出多语言模型的最优模型规模、数据量与语言配比建议。ATLAS 通过跨语言迁移矩阵量化 1400 对语言间的互助与干扰,并给出语言数翻倍时模型规模扩 1.18x、数据扩 1.66x 的规则。该研究将在 ICLR 2026 展示。
来源:Google Research · research.google