Hugging Face Blog·· 2023-11-07AI 评分22
RoBERTa、Llama 2 与 Mistral 7B 灾难推文分类性能对比:基于 LoRA 微调
Comparing the Performance of LLMs: A Deep Dive into Roberta, Llama 2, and Mistral for Disaster Tweets Analysis with Lora
AI 导读
一项对比实验用 LoRA 微调 RoBERTa-large、Llama-2-7b 和 Mistral-7B-v0.1 三个模型,在灾难推文分类任务上评测性能。实验在单张 48GB A6000 GPU 上进行,统一将最大序列长度设为 512 以保证公平比较,其中 RoBERTa-large 为 355M 参数基线,另两个模型均为 7B 参数规模。
来源:Hugging Face Blog · huggingface.co