适合岗位：AI 大模型开发 / NLP 算法工程师
关键词：RAG、检索增强生成、大模型幻觉、Embedding、混合检索、Chunk 优化

---

一、RAG 是什么？（必问）

RAG = Retrieval + Augmented + Generation

阶段	做什么
检索 Retrieval	从知识库中查找与用户问题相关的文档片段
增强 Augmented	把检索到的内容拼接到 Prompt 中
生成 Generation	大模型基于“问题 + 检索内容”生成答案

一句话回答

RAG 是一种让大模型不依赖内部知识、而是实时从外部知识库检索信息来回答问题的方法。

为什么需要 RAG？

方案	是否需要训练	算力消耗	数据实时性
提示词工程	❌	低	❌ 不更新
微调 (LoRA/QLoRA)	✅	高	❌ 不实时
RAG	❌	低	✅ 实时更新
Agent	❌	中	✅ 实时

面试回答要点：

• RAG 解决了大模型知识过时和幻觉问题

• 不需要重新训练，成本低

• 知识库可随时更新

---

二、RAG 核心流程（在线 + 离线）

离线环节（建库）

原始文档 (PDF/Word/PPT/CSV/md)
    ↓
文本加载器 Load (OCR)
    ↓
文本分割器 Splitter
    ├── Chunk size（块大小）
    └── Chunk overlap（重叠率）
    ↓
向量化 Embedding（Qwen3-Embedding / bge-m3）
    ↓
向量数据库 VectorStore（Milvus / Faiss / ES / Chroma）

在线环节（检索 + 生成）

用户 Query
    ↓
Query 改写（优化用户表达不清晰的问题）
    ↓
检索 Retrieval
    ├── 粗排：余弦相似度 / BM25，取 TopK（如 TopK=5）
    └── 精排：ReRank（混合检索优化相关性）
    ↓
Contexts（检索到的上下文）
    ↓
Prompt（拼接：问题 + 上下文）
    ↓
Generate (LLM)
    ↓
Answer

---

三、RAG 优化方案（面试高频）

当大模型回复 “我没有找到答案” 时，按以下顺序排查优化：

1.先思考query在rag知识库中有没有

1.1没有的话那就对rag系统进行知识补充
1.2有的话那就是检索出现的问题, 针对性进行:query改写,检索策略优化

1. Query 改写

问题：用户表达不明确，关键词不匹配

解法：

• 用大模型对原始 Query 进行改写/扩写

• 生成多个相似问题去检索

2. 检索策略优化

优化点	说明
混合检索	向量检索（语义）+ 关键词检索（BM25），取两者交集/加权
ReRank	粗排后，用更精细的模型（如 bge-reranker）重新排序
父子块索引	父块存粗粒度信息，子块存细粒度，检索时粗召回 + 细精排

3. Chunk 优化

参数	说明	经验值
Chunk size	每个文本块的大小（按 token 或字符）	256-512 tokens
Chunk overlap	块之间的重叠长度，防止语义断裂	10-20%

建议:子块看文档中的段落字数大小,父块看一个父级标题下有几个段落存在

面试回答：

• size 太小：上下文不完整，信息缺失

• size 太大：引入噪声，检索精度下降

• overlap 太小：关键信息被切分到两个块中

4. 提示词工程

在 Prompt 中明确：

• 如果检索到的内容不足以回答问题，回复“根据现有资料无法回答”,对大模型幻觉进行压制

• 强制模型只基于检索内容回答，不编造

5. 补充知识库

如果原始文档中确实没有答案：

• 增量更新向量数据库

• 清洗文档质量

---

四、大模型幻觉问题与 RAG 的关系

幻觉来源

• 大模型为了“强行回答”而编造信息

• 训练数据中没有相关内容

缓解幻觉的四种方案

方案	说明	适用场景
提示词工程	强制模型“不知道就说不知道”	快速兜底
RAG	从知识库检索事实依据	知识密集型任务
微调	用特定领域数据训练模型	领域适配
Agent	让模型调用外部工具验证	复杂推理

面试加分回答

RAG 是目前缓解幻觉最实用的方案，因为它不需要重新训练，且知识库可实时更新。但如果检索到的内容是错误的，RAG 反而会放大错误，所以检索质量是关键。

---

五、RAG vs 微调 vs Agent（对比表）

维度	RAG	微调	Agent
是否需要训练	❌	✅	❌
算力消耗	低	高	中
数据实时性	✅ 实时	❌ 静态	✅ 实时
可解释性	✅ 可溯源	❌ 黑盒	✅ 可追踪
适用场景	知识问答、客服	风格迁移、领域适配	工具调用、多步推理

---

六、常见面试题 & 参考答案

Q1：RAG 的检索阶段有哪些优化手段？

参考答案：

1. Query 改写：用户问题→多个检索问题

2. 混合检索：向量 + BM25

3. ReRank：粗排后精排

4. 父子块索引

5. 调整 Chunk size 和 overlap

Q2：Chunk size 怎么选？

参考答案：

• 256-512 tokens 是比较常见的区间

• 太小会导致信息不完整，太大引入噪声

• 需要根据文档类型和任务实验确定

Q3：RAG 和微调怎么选？

参考答案：

• 需要实时更新的知识（如新闻、FAQ）→ RAG

• 需要改变模型风格/行为（如客服语气、代码生成）→ 微调

• 两者可以结合：微调让模型学会“如何使用检索到的信息”，RAG 提供实时知识

Q4：RAG 中向量数据库有哪些选型？

参考答案：

• 开源：Milvus、Faiss（Facebook）、Chroma、ES（Elasticsearch）

• 选型考虑：数据规模、查询延迟、是否支持混合检索、部署成本

Q5：Embedding 模型有哪些？

参考答案：

• bge-m3（BAAI）

• Qwen3-Embedding（阿里）

• OpenAI text-embedding-3

• Cohere Embed

---

七、一张图总结 RAG 优化路径

用户说“没找到答案”
        ↓
1. 原始文档中真的有答案吗？
   ├── 没有 → 补充知识库
   └── 有 → 往下排查
        ↓
2. 用户表达清晰吗？
   ├── 不清晰 → Query 改写
   └── 清晰 → 往下排查
        ↓
3. 检索策略是否最优？
   ├── 混合检索？
   ├── ReRank？
   └── 父子块索引？
        ↓
4. Chunk 参数是否合适？
   ├── size 太大/太小？
   └── overlap 足够？
        ↓
5. Prompt 是否正确约束模型？
   └── “只基于检索内容回答”

---

八、面试速记卡

概念	一句话解释
RAG	检索 + 增强 + 生成
Chunk size	文本块大小，影响检索精度
Chunk overlap	块重叠，防止语义断裂
混合检索	向量 + 关键词
ReRank	粗排后精排
Query 改写	优化用户输入
幻觉	模型编造答案
Embedding	文本→向量