Dongxi 东锡 NLP· @dongxi_nlp · X·· 2 小时前AI 评分33
AI 导读
东锡NLP发布后训练文章系列第三篇，主题为LoRA和QLoRA。文章围绕rank秩、low-rank approximation低秩近似、quantization量化三个基本概念展开，并用矩阵中的pattern模式这一概念将三者串联起来。
正文
后训练文章系列第三篇，关于 LoRA 和 QLoRA
三个重要的基本概念：
rank 秩
low-rank approximation 低秩近似
quantization 量化
它们可以用同一个概念串起来，即矩阵中的 pattern模式。
https://x.com/i/article/2113912265061593088在 X 查看被引用的帖子
来源：Dongxi 东锡 NLP · x.com