清华发布TokenRouter服务系统论文
热点事件持续更新
清华发布TokenRouter服务系统论文
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月10日，X平台用户Rohan Paul (@rohanpaul_ai) 发帖称，清华大学一篇新论文提出 TokenRouter——一个在 token 级别对大小模型进行路由的服务系统，吞吐量最高达到现有方案的 64.15 倍。该帖指出，现有主流服务框架如 vLLM 和 SGLang 每个请求只跑一个模型，当两个模型共同生成答案时，每一步都要等较慢的那个。上述内容目前仅来自该条社交媒体帖子，尚无其他主报道或跟进报道可交叉印证，论文的具体方法、实验设置与适用条件均未在现有报道中披露。
AI 根据报道生成 · 2 小时前更新
最新进展10月10日 11:32
清华论文提出 TokenRouter，token 级 LLM 路由吞吐最高提升 64.15 倍报道时间线
沿着报道，了解事件的不同侧面。
10月10日
- Rohan Paul清华论文提出 TokenRouter，token 级 LLM 路由吞吐最高提升 64.15 倍
清华大学一篇新论文提出 TokenRouter，一个在 token 级别对大小模型进行路由的服务系统，吞吐量最高达到现有方案的 64.15 倍。现有主流服务框架如 vLLM 和 SGLang 每个请求只跑一个模型，当两个模型共同生成答案时，每一步都要等较慢的那个。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。