RAG 基础:向量检索、Chunking 与评估的实战笔记
RAG 基础:向量检索、Chunking 与评估的实战笔记
先别急着换模型
很多 RAG 效果差,根因不在模型,而在:
- 切分方式(chunking)不合理
- 召回策略单一(只向量召回)
- 没有评估闭环(调参全靠感觉)
Chunking:最容易被低估的环节
建议:
- 优先按语义/标题层级切分,而不是固定长度硬切
- 做适度 overlap,避免跨段信息断裂
- 给 chunk 带上 metadata(标题、来源、章节)
检索:从“召回”到“可用”
一个常见组合:
- 向量召回 TopK
- 关键词/规则补召回(对专有名词很有用)
- rerank(提升相关性)
评估闭环:至少要有三类题
- 事实型:答案是否正确
- 步骤型:是否漏步骤/顺序错
- 对比型:是否能讲清差异与取舍
防止胡编的两条措施
- 检索不到就明确返回“不确定/无证据”
- 让模型引用检索片段(或至少给出来源标题)
RAG 的工程化关键不是“做出来”,而是“持续可改进”。
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 咻咻咻小陈的空间!