智东西· 程茜·· 5 小时前精选AI 评分73
面壁智能发布 MiniCPM-V4.7 端侧多模态模型，35B-A3B 版本约 3GB 内存可跑
你的手机能跑35B大模型了！只要3GB内存，还无损
AI 导读
面壁智能发布新一代端侧多模态大模型系列 MiniCPM-V4.7，包含 35B-A3B 与 1B 两个版本，官方称 35B-A3B 是首个能在手机端流畅运行且能力无损的开源大模型。
推荐理由
面壁智能端侧 MoE 模型给出手机端内存与解码速度实测数据，并公开适配代码与推理框架。
来源：智东西 · mp.weixin.qq.com