个人站点
Agent

主线 · 第 8 / 12 篇

· 约 9 分钟

检索增强生成:先找依据,再带着来源回答

模型参数里没有的知识,可以在回答前从外部资料里找出来放进上下文。这条链路分两段:事先加载、切分、建索引,回答时检索、带来源生成,找不到依据就拒答。答错的时候,先分清是没检索到,还是检索到了却没照着说,两种问题的修法不同。

本文目录 7 节
  1. 为什么要先检索
  2. 准备:加载、切分、建索引
  3. 回答:带来源生成,没依据就拒答
  4. 检索失败和生成失败分开看
  5. 知识库本身也会出错
  6. 容易误解的地方
  7. 参考资料

第 3 篇说过,模型一次调用里能用的只有两样东西:训练时学到的,和这次放进上下文的。值班手册、配置说明、变更记录都在模型之外,而且经常改。检索增强生成(Retrieval-Augmented Generation,RAG)做的事情是:回答之前先从这些资料里找出相关片段,放进上下文,再要求模型依据它们回答,并标出来源。

先约定几个词。chunk 是切分后用来检索的文本片段。索引(index)是为检索预先建好的数据结构。top-k 指按相关度取前 k 个 chunk。recall@k 指需要的 chunk 出现在前 k 个结果里的比例,是衡量检索的常用指标。

为什么要先检索

RAG 论文区分两种记忆:参数化记忆是训练进权重的知识,非参数化记忆是放在外部、可以检索的资料。资料放在外面,文档改了重建索引就行,回答时也能指回原文。

值班手册是团队自己写的,训练数据里没有;配置昨天刚改过,模型记住的只能是旧样子。这类知识检索出来放进上下文,比指望模型记得可靠。

也不是都要检索。Anthropic 介绍 contextual retrieval 的文章提到,知识库小到整个放得进上下文时,直接全部放进提示即可。上下文预算是下一篇的话题。

检索可以写死在流程里,每次回答前固定检索一次,这是工作流;也可以做成工具,由模型决定搜不搜、搜什么、搜几次,这就成了 Agent 循环里的一步。下面的步骤两种用法都一样。

准备:加载、切分、建索引

加载是把各种格式的文档读成文本,同时留下元数据:路径、标题、更新时间、谁能看。元数据后面用来标来源、过滤和控制权限,加载时丢了就补不回来。

切分要权衡大小。chunk 太大,相关的那句被稀释,也占上下文;太小,一句话离开原文就看不懂。Anthropic 那篇文章的例子是一个只写着“公司收入比上一季度增长 3%”的 chunk,看不出是哪家公司、哪个季度。它的做法是建索引前给每个 chunk 补一段说明出处的上下文。相邻 chunk 留一点重叠,也是常见做法。

索引常见两类。关键词索引以 BM25 为代表:一个词在 chunk 里出现越多分越高但会饱和,在语料里越常见权重越低,chunk 越长分数越打折扣。查询里带着错误码、服务名这类专有字符串时,它尤其有效。向量索引用嵌入模型把每段文本换成一串数字(向量),意思相近的文本,向量也相近,OpenAI 的检索文档强调它能找到和问题几乎没有共同词的结果。两类可以各自检索,再合并去重。

演示只用 BM25,语料是几份虚构的值班资料。每份文档第一行是标题,正文按句切成 chunk;建索引时可以把标题加进每个 chunk,算是补上下文的简化版。

回答:带来源生成,没依据就拒答

检索按分数取 top-k,并设一条分数下限。候选多时可以先多取一些,再用重排(rerank)模型重新打分,只把相关度高的几段交给模型。

放进上下文的每个 chunk 都带编号和出处。提示里写明:只依据这些资料回答,每个结论标出编号,资料里没有就说没有。Anthropic 减少幻觉的文档给的也是这几条:允许说不知道,先摘原文再下结论,找不到引用就收回。

拒答有两道关。检索这一关,没有 chunk 过下限,直接回答“没找到”,不必调用模型。生成这一关,检索到了却不够回答,要靠模型自己判断,不保证守得住,输出之后还要检查。Anthropic 的 citations 功能保证引用指向所给文档里真实存在的段落,但那段是否支持结论,是另一回事。

演示里的替身模型是一段固定规则,代替真实模型:只看检索排第一的那段资料,没有就拒答,有就复述并标出编号。q4 故意做坏,替身模型凭“记忆”作答,引用照样标排第一的那段。判分函数把检索和生成分开打分:

def judge(item, hits, out, chunks):
    refs = [c["ref"] for _, c in hits]
    retrieval = refs == [] if item["expect"] is None else item["expect"] in refs
    if out["cite"] is None:  # a refusal is right only when the docs have no answer
        generation = item["expect"] is None
    else:
        text = next(c["text"] for c in chunks if c["ref"] == out["cite"])
        generation = out["cite"] in refs and set(NUMBER.findall(out["answer"])) <= set(NUMBER.findall(text))
    return retrieval, generation

检索看需要的 chunk 在不在前 k 个里,没有答案的问题要求什么都不返回。生成看两点:引用的编号是这次检索到的;回答里的数字在被引用的原文里都找得到。只核对数字是很粗的近似,实际系统一般用人工标注或模型辅助判断。

检索失败和生成失败分开看

回答错了,先问两个问题:需要的资料检索到了没有;检索到了,回答有没有照着说。两种失败的修法不同。Ragas 的论文也把 RAG 的评估拆开:检索能否找出相关的段落,模型能否忠实地使用它们,以及生成本身的质量。

做法是准备一个小评测集,每个问题标好答案应当来自哪个 chunk,没有答案的也标出来。检索用 recall@k 衡量。生成用忠实度衡量:回答里的说法能否在引用的原文里找到。

演示的四个问题,第一次建索引时 chunk 不带标题:

== chunks without heading: 8 chunks, top_k=2, min_score=2.0
q1 retrieved: payment-api.md#0 8.36, payment-api.md#1 3.08
   answer: When the db pool is exhausted, check whether all 50 connections are busy. [payment-api.md#0]
   retrieval ok | generation ok
q2 retrieved: (nothing above min_score)
   answer: Not found in the runbooks. [None]
   retrieval ok | generation ok
q3 retrieved: changelog.md#0 5.29, report-api.md#0 5.03
   answer: 09:12 login-api upstream timeout set to 200ms. [changelog.md#0]
   retrieval MISS | generation ok
q4 retrieved: payment-api.md#0 4.18, payment-api.md#1 3.08
   answer: The payment-api pool has 100 connections. [payment-api.md#0]
   retrieval ok | generation UNSUPPORTED
retrieval ok 3/4, generation ok 3/4

q1 两项都对。q2 问的 search-api 资料里没有,没有 chunk 过下限,直接拒答,算对。

q3 是检索失败。login-api 手册写着上游超时应为 2000ms,但切分后标题和正文分开,这个 chunk 里没有 login 这个词,排在前面的是变更记录和 report-api 的手册。回答对排第一的变更记录是忠实的,答的却是另一个问题:问的是应该是多少,答的是改成了多少,而 200ms 正是那次出问题的改动。

q4 是生成失败。需要的 chunk 检索到了,回答里的 100 却不在原文里,原文写的是 50。

回答忠实于资料回答不忠实于资料
需要的资料检索到了正常改提示,加引用核对
需要的资料没检索到改切分、索引或查询两边都要查

q3 落在左下格,修检索。第二次建索引时,把文档标题加进每个 chunk:

q3 retrieved: login-api.md#0 5.03, report-api.md#0 4.23
   answer: The upstream timeout should be 2000ms, as set in the base config. [login-api.md#0]
   retrieval ok | generation ok

q3 检索和回答都对了。q4 没变,合计成了检索 4/4、生成 3/4。修好检索,不会顺带修好生成,所以两个指标要分开记。

知识库本身也会出错

资料会过期,也会互相矛盾。变更记录写的是发生过什么,手册写的是应该是什么;再有一份没下线的旧手册,同一个问题就有第三个答案。OWASP 十大风险里的 LLM08 把多来源互相矛盾列为一类风险,也提到模型可能用训练时学到的旧知识压过检索来的新资料。与其指望模型调和,不如先按更新时间、状态这些元数据把过期文档滤掉。OpenAI 的检索文档也支持先按文件属性筛选,再做向量检索。

权限也要在检索这一步处理:按提问的人过滤后再放进上下文,不能放进去再交代模型别说。LLM08 列出越权访问和多租户之间的信息泄露,防护的第一条就是带权限的向量库和数据分区。

进了知识库的内容,也就进了上下文。第 5 篇说过工具结果里可能夹带指令,检索结果一样。LLM08 把混进来的坏数据叫数据投毒,对策是校验来源。检索结果和工具结果一样,是不可信的输入。

容易误解的地方

“有了 RAG 就不会幻觉。”检索只让正确资料有机会进入上下文,模型仍可能不照着说,q4 就是这样。Anthropic 的文档也说,这些办法能减少幻觉,不能消除。

“有引用就说明回答对。”引用可以保证指向真实存在的原文,不保证原文支持结论。q3 的引用是真的,回答仍然答偏了。

“向量检索总比关键词检索好。”向量检索擅长换了说法的问题,关键词检索擅长精确字符串。DPR 论文的向量检索在开放域问答上明显好过 BM25,Anthropic 的实验里两者合用又比只用向量检索好。选哪种,用自己的评测集量过再定。

“检索越多越好。”多放的 chunk 要占上下文和费用,也可能把真正相关的那段挤到不显眼的位置。长上下文里的位置效应,放到下一篇讲。

日常用的编码 Agent 动手改代码之前,先在仓库里搜索、打开相关文件,也是先检索再生成,只是搜什么、搜几次由它自己决定。

参考资料

本文涉及的知识点

7 个

名称打开知识图谱中的对应条目;「另见」只计已发布文章。