LiteRT in Play services 升级 GPU 推理

2026年10月28日，Google Developers Blog 发布消息称，Google Play services 中的端侧推理运行时 LiteRT 迎来升级：基于 ML Drift 的 GPU 推理比旧版 GPU delegate 快约 1.4 倍，并通过新的 CompiledModel API 提供。报道称，此前要使用这一更快的 GPU 栈，需要将 LiteRT 打包进应用；改用 Play services 中的 LiteRT 后，测试中应用体积约缩小 8 MB，因为运行时（含 GPU 加速器）随 Play services 一次性分发，而非内置在每个应用中。适用设备方面，Play services 中的 LiteRT 支持可回溯至 Android 7（API 级别 24）的手机，并新增支持 Wear OS 4+ 与 Android Automotive OS（Android 11+）。报道还称，旧版 GPU delegate 与自定义 delegate API 已被弃用，改用 CompiledModel GPU 加速及 Compiler Plugin 和 Dispatch API，NNAPI 将从 2027 年起移除。上述提速与体积数据均为 Google 自述的测试结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。