Google 实测轻量分类器路由 Gemini 降成本

2026 年 11 月 3 日，Google Developers Blog 发布一项实测：用 TypeSafe 的 Jev 轻量分类器接在 Gemini 调用前做路由，以降低单任务成本。实验设 50 道自动评分的编码 Agent 题，先把任务送 Gemini Flash-Lite，仅把分类器判定为复杂的任务升级到 Flash 低思考档；结果 50 题全部答对，成本与响应时间均低于全部走低思考档。Google 声明与 TypeSafe 无合作关系，文章不构成对 TypeSafe 或其产品的背书；基准代码将在开源审查后公布。Google 同时说明，数据为样本测试集上的单次实验测量，实际延迟、token 数与计费成本会随提示长度、上下文缓存和生产负载变化；自托管模型按 GPU 小时而非按 token 计费。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。