大模型微调进阶:LoRA/QLoRA 的权衡与排坑
大模型微调进阶:LoRA/QLoRA 的权衡与排坑
1. 什么时候该微调
微调更适合解决“行为稳定性”问题:例如结构化输出、风格一致、特定任务指令遵循。
如果你的问题是“知识缺失”,通常优先考虑 RAG。
2. LoRA vs QLoRA:选择建议
- LoRA:更稳,资源需求更高
- QLoRA:更省显存,但训练更敏感,参数不合适更容易发散
实用建议:资源够用优先 LoRA;资源受限再上 QLoRA。
3. 数据准备的三条红线
- 去重与清洗:重复样本会让模型记忆化
- 输出规范统一:字段名、单位、格式一致
- 明确“不知道就说不知道”:减少胡编
4. 上线前回归清单
- 结构化输出通过率
- 关键事实正确率
- 延迟与成本(输出长度是否飙升)
微调要配合评测闭环,否则很容易“这次好了,下次又坏”。
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 咻咻咻小陈的空间!