Orange Pi 5 Plus 本地 LLM 推理实测
热点事件持续更新
Orange Pi 5 Plus 本地 LLM 推理实测
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月6日，r/LocalLLaMA 用户 No-Doughnut6532 发布在 Orange Pi 5 Plus（RK3588，16GB LPDDR4x，配三星 PM981a 256GB NVMe SSD，运行 Ubuntu 22.04 LTS、内核 6.1.99-rockchip-rk3588）上实测本地 LLM 推理的结果。作者称该测试机由 Orange Pi 免费提供；零售版仅含主板，散热配件需另购，因此所有测试均在开放桌面上以裸片散热进行，持续重负载需加装第三方散热器或风扇。测试发现，把 Ollama 限制在 4 个 A76 大核，相比默认 8 线程最高提速 318%，Qwen 2.5 1.5B 从 3.46 tok/s 升至 14.48 tok/s。作者还涉及 NPU 卸载与核心绑定等测试，并公开了测试脚本 tools/benchmark_ollama.py、原始 JSON 基准日志与硬件配置（GitHub: Orange Pi 5 Plus Benchmarks）。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- r/LocalLLaMAOrange Pi 5 Plus（RK3588，16GB）本地 LLM 实测：Ollama 吞吐、NPU 卸载、核心绑定与散热
作者在 Orange Pi 5 Plus（RK3588，16GB LPDDR4x）上实测本地 LLM 推理，发现把 Ollama 限制在 4 个 A76 大核相比默认 8 线程最高提速 318%，Qwen 2.5 1.5B 从 3.46 tok/s 升至 14.48 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。