跳到正文
Hugging Face Blog·· 2025-09-29AI 评分28

在 Intel Core Ultra 上通过深度剪枝草稿模型加速 Qwen3-8B Agent

Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models

AI 导读

Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上加速 Qwen3-8B,以 Qwen3-0.6B 作草稿模型进行投机解码,生成速度提升约 1.3 倍。

来源:Hugging Face Blog · huggingface.co