老板说，把公司那堆产品文档做成一个AI问答机器人。我当时觉得这事简单，不就是文档切一切，扔进向量库，接个大模型么。GitHub上一堆RAG框架，随便挑一个两天搞定。

我错了。两个月后我才明白，RAG系统里最关键的环节根本不是RAG本身。

踩的第一个坑：文档预处理。

我一开始的做法很粗暴——把二十几个Word文档和PDF直接扔给解析器，按段落切分。结果呢？客户问"产品A的退货政策是什么"，AI返回了一段包含"发货时间"+“退货政策”+"售后电话"的混合段落。因为这三个信息在源文档里被写在了同一个段落里。

后来我花了一周写预处理脚本。表格要单独提取，列表要保留层级，代码示例要跟上下文分离。一个12页的PDF产品手册，预处理后的结构化JSON有300多行。麻烦，但这一步省不了。

第二个坑：Chunk策略。

我试了四种切分策略。

固定字符切分最简单，512字符一段，128字符重叠。召回率大概60%。问题是你永远不知道一个完整的概念会被切成两段还是三段。

语义切分听起来高级，用embedding模型算段落边界。召回率70%左右，但慢。我那二十份文档跑了快半小时，中间还超时了一次。

递归切分是LangChain推荐的方式，按\n\n→\n→句号→感叹号逐级切。效果中等，召回率65%左右。胜在稳定。

最后我选了按文档结构切分——按章节标题、子标题、段落层级来。召回率直接飙到85%。代价是每个文档的解析规则需要微调，不能一套模板通吃。

你看，这几个框架都给你封装好了，一键split_documents()就能跑。但你要是不理解底层在做什么，出了问题你连问题在哪都找不到。

第三个坑：召回测试。

一开始我连召回测试是什么都不知道。文档扔进去，问个问题，答案好像还行，收工。

直到有个同事问了一个冷门问题，AI完全答非所问。我才知道，你需要一个测试集——预先准备好问答对，批量跑召回，算命中率。

我手动写了50个问答对，涵盖了产品介绍、价格、售后、技术参数四个维度。然后跑了三轮测试，每次召回率不同，调了chunk大小、overlap、top_k，反复试了大概十来次。

最后定下来的参数组合是：chunk_size=800，overlap=150，top_k=5。召回率从最初的60%提到了89%。

这些参数没有标准答案。你用的是中文还是英文，文档是长文本还是表格居多，用户问的是事实型问题还是推理型问题——每个场景都有自己的最优组合。

那RAG框架到底选哪个？

我的建议是：前期别纠结框架。LangChain、LlamaIndex、Haystack，随便选一个你最熟的。先用最简单的流程把端到端跑通，再逐步优化。

我一开始想在LangChain和LlamaIndex之间选一个，花了两天看对比文章，写了一堆Hello World。后悔了。不如随便选一个，先出结果。等到你发现某个功能框架不支持，再切换也不迟。

我现在用的是LlamaIndex。不是因为它比LangChain好，只是因为它的文档按场景组织，我找起例子来更快。

最让我意外的结论

整个项目做完，最耗时的环节不是RAG选型，不是embedding模型选择，不是大模型调参——而是数据清洗和预处理。占了差不多60%的时间。

所以如果有人问我搭RAG最难的是什么，我现在的答案是：先把你那堆文档理清楚。框架只是一个壳子，里子是你的数据质量。

我见过有人用三百行代码搭了一个RAG demo跑得挺好，也见过有人花了两周研究框架一行代码没写。选什么框架不重要，重要的是你什么时候开始动手。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】