RTX5090本地Agent编码CPU成瓶颈

2026年10月6日，r/LocalLLaMA 用户 BringTea_666 分享本地智能体编码的实践经验：在单张 RTX5090 上推理速度已达约 700t/s，工具调用（CPU）开始取代解码和预填充成为实际瓶颈。作者称在 12 槽服务器上同时运行 25 个智能体时，9800X3D 全部线程被占满，任务几乎停滞，服务器几乎无法正常工作；其结论是引擎仍有加速余量，但 CPU 跟不上重度工具调用。作者还建议让智能体数量多于服务器槽位以填补工具调用/测试造成的停顿，并表示在本项目过程中共享上下文始终优于固定上下文。前端调优后，提示词从 20k 降至 7k，总耗时从 43 分钟缩短到 18 分钟。以上均为该用户自述的实践观察。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。