Hugging Face Blog·· 2024-10-22精选AI 评分71
Transformers.js v3 发布:支持 WebGPU、新量化格式与 120 种架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 发布 Transformers.js v3,新增 WebGPU 支持,官方称比 WASM 快至多 100 倍,加载模型时设置 device: 'webgpu' 即可启用。
推荐理由
官方发布说明列出 WebGPU 加速、量化格式与 1200 多个预转换模型,可据此判断浏览器端推理的可用边界。
来源:Hugging Face Blog · huggingface.co