Mac Studio M5 Ultra 本地多模型推理配置分享

2026年10月7日，作者 tylermhall 在 Hacker News 的 AI 板块分享了一套在 Apple M5 Ultra Mac Studio 上运行本地 AI 的配置。该机器配备 256GB 统一内存，作者为其搭建了本地推理环境，采用四个模型槽位：大模型、小文本、小视觉和决策，并配合 Work 使用。据作者说明，一个小模型常驻内存占用为 15 至 20 GB，因此 32 至 48 GB 的机器即可运行该槽位；9B 模型因内存原因保留了席位。作者还提到，10 月 2 日曾在小型模型全程占用同一 GPU 流量的情况下对这台机器进行了基准测试。作者表示，目前该配置运行在为其工作台供电的太阳能上，未来某天可能会发布，并强调这是为自己这台机器搭建的页面，并非产品；关于 Clef 的详细内容将在下周单独撰文介绍。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。