你有没有遇到过这种情况：问AI一个专业问题，它回答得头头是道、逻辑清晰，结果你一看参考文献——全是瞎编的。

出版社、期刊、页码，全是它现场发挥的。

这种现象叫"幻觉"（Hallucination）。不是AI故意整你，而是大模型天生的问题——训练数据再全也囊括不了全世界，而且它有时候会把自己记串了。

那怎么办？

答案就是今天要讲的RAG。

RAG到底是什么？

RAG，全称Retrieval-Augmented Generation，翻译过来是"检索增强生成"。

听起来很技术是吧？别怕，我来用人话解释。

你可以把RAG理解成开卷考试。

传统大模型就像闭卷考试的学生，回答问题全靠脑子里记住的东西。一旦问到训练数据里没有的、或者记模糊的，它就只能现编。

而RAG呢？相当于老师允许你带参考书进考场。每回答一个问题之前，先去参考资料里查一查，找到准确的信息，然后再组织答案。

为什么要用RAG？

你可能会想，AI都这么厉害了，还整这么复杂干啥？

这就涉及大模型的一个根本局限：知识是有截止日期的。

比如ChatGPT的训练数据到某个时间点就停了，2024年之后发生的事它压根不知道。你问它今天股市怎么样，它要么老实说不知道，要么——更讨厌的是——编一个假数据给你。

除了时效性问题，还有两个场景特别需要RAG：

企业知识库。每家公司都有大量私有文档：产品手册、内部流程、财务报表、会议纪要。这些东西不可能出现在公开的AI训练数据里。通过RAG，AI可以翻阅你上传的PDF、Word文件、网页，然后基于真实内容回答问题。

专业领域的精确问答。假设你是个律师，要AI帮你审查合同。合同条款必须准确，容不得半点瞎编。这时候RAG能让AI只基于你提供的合同内容回答，不靠它记忆里那些可能不准确的知识。

RAG是怎么工作的？

我把它拆成四个步骤来讲：

第一步：建库

这一步叫Embedding，就是"向量化"。

简单说，就是把文档拆成一小段一小段（比如每500字一段），每段转换成一个"数字指纹"——一长串数字（向量）。这些数字不是随机的，而是包含了这段文字的语义信息。

为什么搞得这么麻烦？

因为计算机靠传统关键词匹配找相关内容，效率很低、效果也差。向量化之后，只要把问题也转换成向量，计算"哪个向量和问题最相似"，就能快速找到最相关的参考资料。

存放这些"数字指纹"的地方，叫向量数据库。

第二步：提问

你向AI提一个问题。问题本身也会被转换成向量，进入向量数据库搜索。

第三步：检索

系统在向量数据库里，找到和你的问题最"接近"的几个段落，一般取Top 3或Top 5。

这就是RAG的关键——不是凭空生成答案，而是先找到真实可靠的参考资料。

第四步：生成

最后，AI把问题加检索到的相关段落，一起传给大模型，让模型基于这些真实内容来回答。就像老师让你先查资料再答题，而不是闭眼现编。

RAG的局限性

RAG好用，但不是万能的。

首先，它的效果依赖参考资料库的质量。文档本身要是写得一塌糊涂、AI读不懂，检索出来的内容也好不到哪去。

其次，向量检索找到的是"语义相似"的内容，不一定是"完全精确匹配"的内容。有时候它会找到一些"差不多"但"差点意思"的段落，回答就可能跑偏。

第三，RAG会增加延迟和成本。每次提问都要先检索再生成，比直接让AI回答要慢，也更费资源。

RAG是把趁手的工具，但不是银弹。用对场景才能发挥价值。

RAG用在哪？

现在RAG已经被广泛应用：

• 法律：AI阅读上千页判例和法规，基于真实条文回答法律问题

• 医疗：结合医学文献和病历记录，辅助医生做诊断

• 金融：整合研报、财务报表、市场数据，让AI成为分析师助手

• 客服：AI只基于企业产品文档和FAQ回答问题，不会瞎承诺

简单说，只要你想让AI学会特定领域的知识，RAG就值得考虑。

总结

RAG的核心思想很直接：别让AI只靠记忆回答问题，让它先查资料，再基于真实信息组织答案。

它解决的是大模型"幻觉"和"知识过时"这两个实际痛点，让AI的回答更可靠、更有据可查。

RAG不是完美的，依赖资料库质量，向量检索也有局限。但在企业知识管理、专业问答这些场景里，它已经是标准方案了。

下次看到AI引用了准确文档、给出了有出处的回答——背后大概率就是RAG在起作用。

本文是「人话版AI词典」第9期，旨在用最通俗的人话，让每个人都能听懂AI。关注我，一起了解一些AI相关的有意思的东西。

下期预告：第10期——什么是Embedding？AI是怎么"理解"人类语言的？

Embedding是RAG和几乎所有AI应用的基础。AI看到"苹果"两个字，它脑子里想的到底是什么？答案就在Embedding里。