RAG 基础:向量检索、Chunking 与评估的实战笔记

先别急着换模型

很多 RAG 效果差,根因不在模型,而在:

  • 切分方式(chunking)不合理
  • 召回策略单一(只向量召回)
  • 没有评估闭环(调参全靠感觉)

Chunking:最容易被低估的环节

建议:

  • 优先按语义/标题层级切分,而不是固定长度硬切
  • 做适度 overlap,避免跨段信息断裂
  • 给 chunk 带上 metadata(标题、来源、章节)

检索:从“召回”到“可用”

一个常见组合:

  1. 向量召回 TopK
  2. 关键词/规则补召回(对专有名词很有用)
  3. rerank(提升相关性)

评估闭环:至少要有三类题

  • 事实型:答案是否正确
  • 步骤型:是否漏步骤/顺序错
  • 对比型:是否能讲清差异与取舍

防止胡编的两条措施

  • 检索不到就明确返回“不确定/无证据”
  • 让模型引用检索片段(或至少给出来源标题)

RAG 的工程化关键不是“做出来”,而是“持续可改进”。