港科大与华为提出 BalanceRoute，缓解大模型推理跨组同步等待

香港科技大学周子杰团队与华为 2012 实验室理论部联合提出 BalanceRoute，通过数学建模刻画预填充-解码分离系统中的跨组同步等待，将短期负载预测转化为在线路由决策。