很多人做 RAG 时都会遇到一个问题：为什么明明已经用了 Embedding，检索结果却依旧“不够准”？为什么用户问“苹果营收”，系统却检索不到“Apple Inc.”相关内容？真正的问题，往往不在大模型，而在 RAG 的检索架构本身。

本文将深入拆解工业级 RAG 背后最核心的“两阶段索引”机制：双塔（Embedding）为什么适合海量召回？单塔（Rerank）为什么能大幅提升精度？以及为什么几乎所有高质量 RAG 系统都会采用“Embedding + Rerank”的组合方案。看完以后，你会真正理解：双塔负责“找到”，单塔负责“找对”。

4.5 RAG 中的两阶段索引

在上一节内容中，我们详细介绍了如何基于在第3章中构建的语义检索引擎来搭建一个完整的 RAG Agent，让它根据用户的提问自主分拆解、回答并总结得到完整的答案。尽管整个流程看似已经搭建完毕，但是依旧有很多地方需要继续优化，例如从向量库检索内容的精度、模型输出结果的后处理等。

在本节内容中，我们将从检索精度这一角度来介绍如何让 RAG Agent 在回答问题时检索到的参考内容更精准，也就是重排序（Rerank）模型的使用。

很多人第一次搭建 RAG 系统时，都会有一个疑问，既然 Embedding 模型能把文本变成向量，为什么还要再加一个 Rerank 模型？

刚开始你可能觉得有它没它区别应该不大，但真正用过之后你会发现加了 Rerank 模型后检索结果可能有质的飞跃，而这背后涉及到的就是 RAG 检索架构中一个非常核心的设计。

4.5.1 双塔结构思想原理

双塔（Bi-Encoder）是 RAG 系统中最常用的检索架构，也是几乎所有向量数据库的底层基础。双塔的核心思想可以用一句话概括：Query 和 Doc 分开编码，最后在向量空间中计算相似度。

图 4-6. 双塔检索流程图

例如，在 RAG 应用开发中，我们会先通过 Embedding 模型（也就是 Encoder）将所有的离线文档都转换成向量存入到向量库中。当用户提问时，我们再将 Query 通过 Embedding 模型将其转换成向量，然后同向量库中的向量进行相似度比较，最后取向量库中前 K 个最相似的文本块作为参考源。你可以把整个过程想象成图书馆的图书检索系统，每本书都有一个编号（向量），读者查询时先拿到查询词的编号，然后在书架上找编号最接近的书。

4.5.2 双塔结构的优势与不足

说完了工作原理，我们自然要问：为什么双塔结构能支撑百万级甚至更大规模的数据检索？

这得益于它的一个关键设计：文档向量可以提前离线计算好并存入向量数据库，查询时只需计算一次 Query 向量，然后在向量索引中做近似最近邻搜索（Approximate Nearest Neighbor, ANN）。这意味着时间复杂度可以从线性的 降低到接近 。

举个例子，如果你有 100 万篇文档，使用双塔结构时系统可以在对数级别的时间内找到最相关的文档，而不用逐一比较 100 万次。这也是为什么 RAG 系统能够秒级响应，而不是等待几分钟。

不过，双塔结构也有明显的局限性，这也是为什么它不能单独使用的原因。

由于 Query 和 Doc 在编码时彼此不知道对方的存在，模型只能把整段文本压缩成一个固定长度的向量，然而，一旦压缩完成细粒度的匹配信息就会丢失。换句话说，我们希望在编码 Query 的时候它是能够看到 Doc 的，这样检索得到的参考内容也将更加准确。

举个例子，假设你的知识库中有一篇文档讲的是苹果公司 2024 年的财报数据，当用户搜索“苹果营收”时，双塔结构可能会把这篇文档排在后面，因为它在编码“苹果营收”时无法捕捉到“苹果”和“苹果公司”的细粒度对应关系，它只能基于整体语义的粗略匹配。

所以你会发现，只用双塔检索时，结果往往是看起来相关，但不够精准。

4.5.3 单塔结构思想原理

说完了双塔结构，我们再来看单塔结构是怎么解决精度问题的。

单塔（Cross-Encoder）是另一种常见的架构，通常用于排序场景中，它的做法与双塔完全不同。双塔是分开编码，而单塔则是将 Query 和 Doc 拼接在一起输入模型进行联合编码。

具体来说，我们会把 Query 和 Doc 的文本拼接成一个序列，例如 [CLS] Query [SEP] Doc，然后再通过 Embedding 模型对整个序列进行编码并输出一个0 到1之间相关性分数，最后取相关性分数最高的前 K 的文本块作为参考源。

图 4-7. 单塔检索流程图

此时，我们可以把单塔理解成一个专业的审稿人，它会仔细阅读问题和文档的每一个字，然后判断这篇文档是否真的回答了问题。

4.5.4 单塔结构的优势与不足

可以发现，单塔结构最大的优势在于表达能力强，能够捕捉细粒度的语义匹配。在 Cross-Encoder 中，Query 里的每个 token 都可以关注 Doc 的每个 token，也就是完整的交叉注意力机制。因此，这意味着模型可以进行精确的语义对齐以及上下文补全和逻辑关系的判断。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】