用 ROCm 在单张 AMD GPU 上运行 Vicuna 13B 聊天机器人

Hugging Face 发布教程，介绍如何在单张 AMD GPU 上通过 ROCm 运行 13B 参数的 Vicuna 聊天机器人。Vicuna 由 UC Berkeley、CMU、斯坦福和 UCSD 团队基于 LLaMA 微调，使用约 70K 条 ShareGPT 对话数据，训练成本约 300 美元，据 GPT-4 评估质量达 ChatGPT 的 90% 以上。