本文通过图解方式详细介绍了RAG（检索增强生成）技术，解释了大模型为何需要外接知识库来提升回答的准确性和时效性。文章从业务场景出发，逐步深入到RAG的七步实现流程，包括文档切分、向量化、召回、重排、上下文拼接、生成回答和效果评估，并探讨了高阶RAG形态如Hybrid RAG、Multi-hop RAG、GraphRAG和Agentic RAG。最后，文章总结了RAG的常见坑点和应用价值，强调了RAG在处理复杂业务知识查询中的重要作用。

你在公司里接了一个需求：

做一个智能问答助手，让它能回答这些问题：

差旅报销标准是多少？
某个产品接口怎么调用？
这份合同模板该走哪个审批流程？
内部系统报错该找谁处理？

很多人的第一反应是：

把这些资料都拿去训练一个大模型。

但真到业务里，这条路往往很重。

公司制度会更新，产品文档会改，接口会迭代，内部知识还可能有权限边界。

你总不能每改一份文档，就重新训练一次大模型。

更常见的做法是：

「不把所有知识塞进模型参数，而是在回答时先去知识库里查资料。」

这就是 RAG。

RAG 的全称是 Retrieval-Augmented Generation，通常翻译成“检索增强生成”。

一句话解释：

先检索相关资料，再让大模型基于资料生成回答。

---

01 为什么大模型还需要外接知识库？

大模型很强，但它不是实时资料库。

它的参数里确实压缩了大量知识，但这些知识有几个天然限制：

• 训练后才出现的新信息，它不一定知道
• 公司内部资料，它训练时大概率没见过
• 长文档里的细节，它不一定记得准确
• 不确定的问题，它可能也会给出很像真的回答

所以在企业知识问答、客服、法务、运维、产品文档助手这类场景里，只靠模型本身往往不够。

RAG 的思路更像一个会读资料的人：

用户问问题时，先去资料库里找相关内容。

找到后，把相关片段放到模型面前。

模型再基于这些资料组织答案。

这样做有几个好处：

• 知识更新更轻，不需要每次重新训练模型
• 可以接入私有文档、内部制度、产品手册
• 回答可以带来源，方便用户核对
• 能减少模型凭空补内容的概率

RAG 不是让模型“突然知道一切”。

它是让模型回答前，先拿到应该参考的资料。

---

02 RAG 不是一个功能点，而是一条流水线

很多人以为 RAG 就是“接一个向量数据库”。

其实没这么简单。

一套能跑起来的 RAG，通常至少包含这几步：

文档
  -> 切分
  -> 向量化
  -> 召回
  -> 重排
  -> 上下文拼接
  -> 生成回答
  -> 效果评估

每一步都可能影响最终效果。

文档切得太碎，模型拿不到完整语义。

向量化效果差，相关资料找不回来。

召回片段太多，上下文变得很吵。

重排不好，真正有用的资料排在后面。

拼接太长，模型抓不住重点。

生成时不约束来源，答案可能看起来流畅但依据不清。

所以 RAG 调优不能只盯着大模型本身。

它更像一条检索增强生成流水线。

---

03 第一步：文档切分

业务资料通常不是一小段文本。

它可能是一份几十页的 PDF，一篇很长的产品文档，或者一堆内部 FAQ。

如果把整篇文档直接塞给模型，会遇到几个问题：

• 上下文窗口有限，塞不下
• 长文档里只有一小段和问题相关
• 检索时粒度太粗，很难命中准确位置

所以第一步通常是切分。

切分不是随便按字数切。

切得太长，召回不精准。

切得太短，语义容易断。

比如一条制度原本是：

差旅报销标准包括交通、住宿、餐补三部分，其中住宿标准按城市等级区分。

如果切分时把“住宿标准”和“城市等级”切散，后面用户问“二线城市住宿能报多少”，模型可能拿不到完整依据。

比较好的切分方式，通常会考虑：

• 标题层级
• 段落结构
• 表格和列表
• 片段长度
• 相邻片段重叠
• 原文来源信息

RAG 的第一道质量线，就在文档切分这里。

---

04 第二步：向量化并建立索引

文档切好以后，每个片段还只是普通文本。

机器要快速找到“语义相关”的片段，需要先把文本变成向量。

这个过程通常叫向量化。

比如一个片段是：

员工出差住宿标准按城市等级分为一线、二线和其他城市。

向量化模型会把它转换成一串数字：

[0.12, -0.38, 0.76, ...]

这串向量会和原文片段、标题、来源链接、权限信息一起存进索引里。

为什么要存向量？

因为用户问的问题不一定和文档原文一模一样。

用户可能问：

二线城市住酒店最多能报多少？

文档里写的是：

住宿标准按城市等级区分。

关键词不完全一致，但语义相关。

向量检索就是为了处理这种“说法不同，但意思接近”的问题。

---

05 第三步：召回相关片段

当用户提出问题后，RAG 不会直接把问题丢给大模型回答。

它会先把用户问题也向量化。

然后拿这个“问题向量”去知识库里找相近的文档片段。

这一步叫召回。

召回的目标不是一步到位选出最完美答案，而是先把可能相关的资料找出来。

常见做法是取 top-k：

top-5
top-10
top-20

也就是先拿回若干个候选片段。

召回阶段最怕两件事：

第一，关键资料没找回来。

如果正确依据根本没进入候选集，后面重排和生成再强也很难补救。

第二，召回太宽。

如果拿回来一堆不相关片段，后面的上下文会变得很吵，模型容易被干扰。

所以召回要在“别漏”和“别太乱”之间找平衡。

---

06 第四步：重排候选片段

召回拿到的是候选片段。

但候选片段的顺序不一定最适合生成回答。

这时候就需要重排。

可以这样理解：

召回像粗筛。

先把可能相关的资料都捞上来。

重排像复核。

再仔细判断这些片段和用户问题到底有多匹配。

比如用户问：

试用期员工能报销差旅吗？

召回可能找回来这些片段：

差旅报销标准
试用期员工管理制度
交通费报销流程
正式员工福利说明

它们都可能相关。

但真正能回答问题的，可能是“试用期员工管理制度”和“差旅报销标准”的组合。

重排要做的，就是把更能回答问题的片段排到前面。

---

07 第五步：上下文拼接

检索到资料以后，还不能直接结束。

RAG 还要把这些资料组织成一次大模型输入。

这一步叫上下文拼接。

一次输入里通常会包含：

• 用户问题
• 检索到的相关片段
• 回答要求
• 引用来源
• 限制条件

比如可以组织成：

请根据以下资料回答用户问题。
如果资料中没有答案，请说明无法从资料中确定。

用户问题：
二线城市住宿最多能报多少？

相关资料：
片段 1：……
片段 2：……
片段 3：……

拼接不是越长越好。

上下文窗口是有限的。

资料太少，模型可能缺依据。

资料太多，模型可能抓不住重点，还会增加成本和延迟。

好的拼接，是把最相关、最完整、最有依据的片段放进去。

---

08 第六步：生成回答

到了这一步，大模型才真正开始生成回答。

它拿到的不只是用户原始问题，还有前面检索出来的资料片段。

所以 RAG 里的生成，和普通聊天不太一样。

普通聊天更像：

用户问 -> 模型直接答

RAG 更像：

用户问 -> 先查资料 -> 带着资料答

一个好的 RAG 回答，通常要做到：

• 直接回答问题
• 不随意扩展没有依据的内容
• 说明关键依据
• 必要时给出来源
• 资料不足时明确说不确定

比如用户问：

试用期员工能不能报销差旅？

如果检索资料里只写了“正式员工差旅报销规则”，没有提试用期员工，就不应该硬编一个答案。

更合适的回答是：

根据当前资料，只能确认正式员工的差旅报销规则；试用期员工是否适用，资料中没有明确说明。

这才是业务系统里更需要的回答方式。

---

09 第七步：效果评估

RAG 的评估不能只看回答是否流畅。

因为回答流畅，不代表资料找对了。

它至少要看三层：

第一，召回质量。

要看相关资料有没有被找回来。

如果关键片段没进候选集，后面的回答大概率不稳。

第二，回答质量。

要看答案是否真正回答了问题，是否忠于资料，是否存在编造，来源是否对应。

第三，业务结果。

比如用户是否采纳，人工复核通过率，问题解决率，平均处理时长是否下降。

很多 RAG 项目失败，不是因为模型不会写句子。

而是检索没找对、上下文没拼好、评估只看了表面流畅度。

---

10 高阶 RAG：不止“向量检索 + 生成”

前面讲的是最常见的基础 RAG：

文档切分 -> 向量化 -> 召回 -> 重排 -> 拼接 -> 生成

真实业务里，问题经常会更复杂。

比如：

• 用户的问题既需要语义理解，也需要精确关键词命中
• 答案分散在多份文档里，查一次不够
• 文档之间有复杂实体关系，比如系统、部门、流程、负责人
• 任务不只是问答，还要多轮查证、调用工具、检查答案

这时候，就会出现一些更高阶的 RAG 形态。

下面挑 4 种最常见的讲一下。

10.1 Hybrid RAG：向量检索 + 关键词检索

Hybrid RAG 的思路是：

「不要只靠一种检索方式。」

向量检索擅长找语义相近的内容。

关键词检索擅长找精确命中的内容。

结构化过滤可以处理权限、时间、文档类型、业务线等约束。

比如用户问：

接口 E1007 报错怎么处理？

这里的 E1007是一个精确错误码。

如果只做向量检索，可能会找回一堆“接口报错处理”的泛化文档。

但关键词检索能直接命中 E1007。

再比如用户问：

新员工差旅报销标准是什么？

这时候向量检索能找语义相关制度，关键词检索能命中“新员工”“差旅报销”，结构化过滤还能限制到当前公司、当前地区、当前生效版本。

Hybrid RAG 适合这种场景：

既要语义匹配
也要精确命中
还要业务字段过滤

10.2 Multi-hop RAG：一个问题分多步查

基础 RAG 通常是：

问一次 -> 查一次 -> 答一次

但有些问题的答案不在一份文档里。

它需要多跳检索。

比如用户问：

某产品上线后，如果客户投诉，应该找谁审批？

这个问题可能要拆成几步：

第 1 跳：先查这个产品属于哪个业务线
第 2 跳：再查客户投诉流程
第 3 跳：再查这个业务线对应的审批负责人

最后再把多份资料合起来回答。

Multi-hop RAG 适合：

• 答案分散在多份文档里
• 问题需要跨文档关联
• 中间结论会影响下一步检索

它比普通 RAG 更像“顺着线索查资料”。

10.3 GraphRAG：把知识组织成图

GraphRAG 更进一步。

它不只把文档切成片段，还会把文档里的实体和关系抽出来，组织成图。

比如：

产品 A -> 依赖 -> 系统 B
系统 B -> 归属 -> 部门 C
部门 C -> 负责 -> 流程 D

这样检索时，就不只是找“相似片段”。

还可以沿着图上的关系查：

• 某个实体的邻居是谁？
• 两个实体之间有什么路径？
• 某个部门关联了哪些系统？
• 某个流程涉及哪些产品？

GraphRAG 适合实体关系复杂的知识场景。

比如企业组织架构、产品依赖、供应链、金融风控、法律条款关系、科研论文关系等。

它的优势是能更好处理跨文档关联。

但代价也更高：

图谱构建、实体抽取、关系质量、图上检索策略，都需要额外设计。

10.4 Agentic RAG：让智能体自己规划检索

Agentic RAG 里的重点是 Agent。

它不是固定走一条检索链路，而是让智能体根据任务动态决定：

要不要检索？
检索哪里？
要不要换关键词？
要不要调用工具？
资料够不够？
要不要继续查？

比如用户问：

帮我比较这两个版本的合同模板，指出风险点，并给出修改建议。

这不是简单查一个片段就能回答的问题。

Agent 可能需要：

先读取两份合同
再检索公司模板规范
再查历史风险条款
再对比差异
最后生成结论

Agentic RAG 适合任务不确定、步骤不固定、需要多轮查证和工具协作的场景。

但它也更难控：

• 调用链路更长
• 延迟更高
• 成本更高
• 每一步都可能出错
• 需要更强的日志、权限和结果校验

所以不是所有场景都要上 Agentic RAG。

如果基础 RAG 已经能稳定回答，就先把基础链路做好。

高阶 RAG 不是为了显得复杂，而是为了解决基础 RAG 处理不了的问题。

---

11 RAG 常见坑

RAG 看起来流程清楚，但落地时坑不少。

「坑一：文档切分太随意。」

片段太短，语义断掉。

片段太长，召回不准。

标题、表格、来源丢失，后面很难恢复。

「坑二：只看向量相似度。」

向量召回很有用，但不代表所有问题都适合只靠向量。

有些场景还需要关键词、结构化字段、权限过滤一起配合。

「坑三：召回结果不重排。」

候选片段里混入很多噪声，模型就可能被带偏。

「坑四：上下文拼接太贪心。」

把一堆资料都塞进去，模型不一定更准，反而可能更慢、更贵、更容易抓错重点。

「坑五：没有评估闭环。」

用户说“有时候答得不准”，但系统不知道是召回错、重排错、拼接错，还是生成阶段没约束好。

RAG 调优要沿着流水线定位。

不能只盯着最后的大模型。

---

12 一张图总结

最后把 RAG 再压缩成一句话：

RAG = 检索相关资料 + 基于资料生成回答

它解决的核心问题是：

大模型不一定知道最新、私有、细节化的业务知识。

但知识库知道。

所以先让系统从知识库里检索相关资料，再把资料交给大模型组织答案。

完整链路可以记成：

文档切分
向量化建索引
问题召回
候选重排
上下文拼接
生成回答
效果评估

如果基础链路已经不够用，再考虑 Hybrid RAG、Multi-hop RAG、GraphRAG、Agentic RAG 这些增强形态。

它们解决的不是同一个问题：

• Hybrid RAG 解决“语义匹配 + 精确命中”的问题
• Multi-hop RAG 解决“答案分散在多份文档里”的问题
• GraphRAG 解决“实体关系复杂、跨文档关联强”的问题
• Agentic RAG 解决“任务步骤不固定、需要多轮查证”的问题

RAG 比重新训练模型更贴近很多真实业务场景。

因为业务需要的往往不是让模型把所有资料背下来，而是让它在回答时能查到正确资料、引用正确依据、给出稳定答案。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套 AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2026 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要 《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？