Hugging Face Blog·· 2023-09-06精选AI 评分78
TII 的 Falcon 180B 上线 Hugging Face
Spread Your Wings: Falcon 180B is here
AI 导读
TII 发布 Falcon 180B 并上线 Hugging Face,模型有 1800 亿参数,在 3.5 万亿 token 的 RefinedWeb 数据上预训练,是当时最大的公开可用语言模型。
推荐理由
原文给出 Falcon 180B 的参数量、训练数据与评测对比,可据此判断开源大模型当时的规模上限。
来源:Hugging Face Blog · huggingface.co