上篇文章大模型5大硬核真相：读懂即懂行
介绍了大模型领域的五个知识点，这篇文章想说说大模型背后的其他五个核心技术：Token、MoE（混合专家模型）、RAG（检索增强生成）、强化学习和智能体。我尽量用生活里的例子来解释，希望能让这些概念明白一点。

---

Token：大模型的文字积木

你和大模型说话时，输入的是完整句子，它回复的也是连贯的话。但在大模型内部，它处理的不是整个词，而是更小的单位，叫Token。

Token可以理解成大模型的文字积木。它可能是一个完整的词，也可能是词的一部分，甚至是标点符号或数字。比如英文单词"unhappiness"可能被拆成"un"、"happi"和"ness"三个Token。中文的 Token 划分没有固定规则，可能是单个字、多个字的组合，甚至可能是偏旁部首，这取决于训练时使用的分词算法（如 BPE、SentencePiece）。同一个词在不同模型里，也可能被切成不同的Token。

拿拼图游戏来打个比方。一幅完整的画被切成成百上千个小碎片，每个碎片就是一个Token。你拼的时候先准备好所有碎片，然后按正确的顺序组合，最后还原出完整的图像。

大模型处理文字的过程也是这样。你输入一句话，大模型先把这句话"切"成一个个Token。然后根据这些Token的顺序和含义，预测下一个最可能出现的Token是什么。就像你拼拼图时想下一片该放哪块。通过不断预测下一个Token，大模型最终生成完整的回答。

Token是大模型理解和生成语言的基础。每个Token在大模型内部都有一个数学表示，包含了这个词的含义、语法功能，以及和其他Token的关系。处理这些Token，大模型才能理解文本意思，生成连贯的内容。

另外，Token的数量也决定了大模型处理文字的成本和复杂程度。通常大模型对输入输出的Token数量有限制，这就是为什么有时你会遇到"上下文长度超限"提示的原因。

实际用的时候，你用大模型写文章，输入的每一个字、每一个标点都会被转换成Token。大模型根据这些Token理解你的需求，然后生成相应的内容，再把Token转换回人能读的文字。这个过程在一瞬间完成，但每一步都离不了Token的参与。

---

MoE：大模型的专家团队

大模型越来越强大，规模也在不断变大。但一个模型不可能在所有方面都做得同样好。于是就有了MoE，混合专家模型。

简单说，MoE就是把一个巨大的模型拆成多个小的专家模型，每个专家专门处理某一类特定任务或数据。有新任务进来时，系统根据任务的特点，选最合适的几个专家来处理，不是让整个大模型都参与。

这个有点像医院的专家门诊。你想，一家大医院如果只有一个全能医生，所有病都要他看，从感冒发烧到心脏手术，效率肯定不高，效果也未必好。

现实中医院分不同科室，有内科医生、外科医生、眼科医生、皮肤科医生等等，每个医生都是自己领域的专家。你去看病时，护士根据你的症状，把你分到相应科室，让最合适的医生给你诊断。

MoE工作原理就像这家医院。整个大模型是医院，那些小的专家模型就是各个科室的医生。有任务进来时，分诊系统分析任务特点，然后把它分给最适合处理这类任务的几个专家模型，最后把这些专家的结果综合起来，给出最终答案。

MoE技术主要有两个好处：

第一个是效率更高，不需要让整个大模型都参与每一个任务，只激活相关的几个专家，这样能大大减少计算量，提高处理速度，降低成本。

第二个是专业性更强，每个专家只专注自己的领域，在特定任务上能表现得更好，就像专科医生比全科医生在特定病症上更有经验一样。

实际用的时候也很明显。你让大模型翻译一段技术文档，系统激活擅长语言翻译和技术术语处理的专家；让它写首诗，激活擅长文学创作的专家；让它编代码，激活擅长编程的专家。这样大模型在不同类型任务上都能表现出色，同时保持较高的效率。

---

RAG：大模型的图书馆

大模型虽然知识渊博，但它的知识基于训练数据，而训练数据有个截止日期。训练之后发生的事情，大模型通常不知道。另外对于一些专业领域的最新知识，大模型可能也了解得不够详细。RAG，检索增强生成技术就是为解决这个问题而设计的。

RAG核心思路是让大模型回答问题之前，先去查阅一些外部资料，然后结合这些资料来生成答案。这样大模型不仅能用自己已经学到的知识，还能获取最新的、专业的外部信息，从而给出更准确、更及时的回答。

可以用学生写论文来打个比方。一个学生要写一篇关于人工智能最新发展的论文。他虽然课堂上学过一些人工智能基础知识，但对最新研究进展不了解。于是他去图书馆查了最新的学术期刊和研究报告，又在网上搜了相关新闻和资料，然后结合这些资料和自己已有的知识，写出一篇内容详实、观点新颖的论文。

RAG工作过程就像这个学生写论文。你问大模型一个问题，它首先分析问题的主题，然后去图书馆，也就是外部数据库里查找相关资料。找到合适资料后，把这些资料和自己已有知识结合起来，最终生成一个既准确又有深度的答案。

RAG工作流程通常分三个步骤：

第一步是检索，根据用户的问题，从外部数据库中检索相关信息。这个外部数据库可以是文档库、知识库、网站等等。

第二步是增强，把检索到的信息和用户的问题一起输入给大模型，让大模型参考这些信息。

第三步是生成，大模型结合用户的问题和检索到的信息，生成最终的回答。

实际应用也挺有用的。比如你问大模型"2025年诺贝尔物理学奖得主是谁"，如果大模型训练数据截止到2024年，它本来不知道答案。但有了RAG技术，大模型可以先去检索2025年诺贝尔奖相关新闻，然后根据检索到的信息告诉你正确答案。

再比如你问大模型某个公司最新财务状况，大模型可以去检索该公司最近财报，然后结合财报数据给你一个准确分析。

---

强化学习：大模型的训练场

大模型最初训练完成后，虽然已经具备基本能力，但它的回答可能并不总是符合人的期望。比如它可能给出不准确的信息，或者回答得不够友好。强化学习技术就是用来进一步优化大模型，让它的表现更符合人的需求。

强化学习是一种让智能体通过与环境交互来学习的方法。简单说就是大模型做出一个回答时，我们给它一个奖励或惩罚，告诉它这个回答是好还是不好。大模型通过不断尝试，根据这些反馈调整自己的行为，最终学会做出更好的回答。

可以用训练宠物狗来打个比方。你训练一只小狗。它按你指令坐下时，你给它一块零食当奖励；它随地大小便时，你轻声责备它当惩罚。多次训练后，狗就知道什么行为是好的，什么行为是不好的，从而学会正确的行为方式。

强化学习训练大模型的过程类似。大模型给出一个准确、有用、友好的回答时，我们给它一个高的奖励分；它给出错误、无用、不友好的回答时，我们给它一个低的奖励分甚至惩罚分。大模型会根据这些分数调整自己的参数，不断优化自己的回答方式，最终学会如何给出让人满意的答案。

大模型训练中最常用的强化学习方法是RLHF，基于人类反馈的强化学习。这个过程通常包括几个步骤：首先收集人类反馈，让人评估者对大模型的回答进行评分，告诉大模型哪些回答是好的，哪些是不好的。然后训练奖励模型，根据人类的反馈，训练一个奖励模型，这个模型可以自动评估大模型回答的质量，给出相应的奖励分数。最后是强化学习训练，用奖励模型来指导大模型的训练，让大模型不断优化自己的回答，以获得更高的奖励分数。

实际应用的例子，比如最初的大模型可能会直接回答一些有争议的问题，或者给出不安全的建议。通过强化学习，我们可以让大模型学会拒绝回答这类问题，或者给出更谨慎、更安全的回答。

再比如大模型的回答可能最初比较生硬，不够自然。通过强化学习，我们可以让它学会用更友好、更符合人交流习惯的方式来回答问题。

---

智能体：大模型的手脚

大模型虽然很聪明，但它本质上只是一个大脑，只能处理和生成文本信息。它不能直接上网搜最新消息，不能帮你订机票，不能控制你家里的智能设备。智能体技术就是为了给大模型装上手脚，让它能够和现实世界交互，完成更复杂的任务。

智能体是一个以大模型为核心的系统，它不仅能理解和生成语言，还能感知环境、做出决策、执行行动。简单说智能体等于大模型加感知能力加行动能力加记忆能力。

可以用私人助理来打个比方。你有一个能干的私人助理。你告诉她"帮我安排一下下周去北京的行程，包括订机票、预订酒店，还要约一下我的客户见面"。

这个助理会怎么做呢？她首先查看你的日程表，看看你下周什么时候有空；然后上网查询航班信息，根据你的时间偏好订好机票；接着查找合适的酒店，根据你的预算和位置偏好预订；最后联系你的客户，确认见面的时间和地点。整个过程中，她会记录每一步的进展，如果遇到问题，比如没有合适的航班，她会及时向你汇报，并提出备选方案。

智能体工作方式就像这个私人助理。你给它一个任务，它会根据任务的需求，调用各种工具，比如搜索引擎、订票系统、日历应用等等，执行一系列的行动，最终完成任务。整个过程中，它会记住之前的行动和结果，根据情况调整策略，必要时还会向你询问更多的信息。

一个完整的智能体通常包括几个核心组件：

第一个是大模型也就是大脑，负责理解任务、制定计划、做出决策。

第二个是感知模块也就是眼睛和耳朵，负责获取环境信息，比如上网搜索、读取文件、接收用户反馈等等。

第三个是行动模块也就是手脚，负责执行具体的行动，比如调用API、发送邮件、控制设备等等。

第四个是记忆模块也就是记事本，负责记录任务的进展、之前的行动和结果，让智能体能够持续地完成任务。

智能体应用场景非常广泛。比如旅行规划，你告诉智能体你想去哪里旅游，它会帮你规划行程、预订机票酒店、推荐景点和餐厅。

办公助手也是，它可以帮你处理邮件、安排会议、整理文档、甚至帮你写报告。

智能家居控制也一样，你可以通过智能体控制家里的灯光、温度、电器，让它根据你的习惯自动调整家居环境。

购物助手也很实用，它可以帮你比价、查找优惠券、下单购买你需要的商品。

---

总结一下

说了这么多，这五个核心技术其实是相互配合的。Token是基础，处理文字的基本单位；MoE提高了效率和专业性，不同任务让不同专家处理；RAG补充了知识的时效性和深度，能查最新资料；强化学习优化了模型表现，通过反馈让它不断进步；智能体扩展了模型的应用范围，让它能和现实世界交互。

这五个技术加在一起，让大模型有了现在这样强大的能力。随着技术不断发展，这些技术还会不断进步，大模型也会变得越来越智能、越来越有用。

希望这篇文章能帮助你更好地理解大模型背后的技术。未来大模型会在更多领域发挥作用，改变我们的生活和工作方式。理解这些核心技术，能帮我们更好地适应这个变化的世界。