淘宝MNN团队开源0.3B手机端模型MNN-Pocket

2026年11月6日，淘宝旗下MNN团队开源发布端侧语言模型MNN-Pocket-0.3B，约3亿参数，重点支持中英文，面向手机应用的任务需求与资源预算，在有限算力、内存和能耗下兼顾任务能力、响应速度与持续运行体验。据IT之家报道，该模型INT4 MNN部署文件体积仅173MB，包含模型权重、分词器、计算图和推理配置，并提供从预训练、后训练到端侧部署的多个版本，供研究者与开发者选择起点继续训练、评测和构建应用。性能方面，报道称其在iPhone 18 Pro上通过MNN推理引擎完全离线运行，平均解码速度约350 token/s；在iPad Pro M5上峰值内存增量228MB，比Qwen3-0.6B的427MB减少约47%。上述速度与内存数据均来自该报道，测试机型与条件与之绑定。

AI 根据报道生成 · 9 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。