LLM、Token、Context等大模型核心概念全解析（博客版）

你刚接触大模型时，一定听过 LLM、Token、Context Window 这些高频词汇，但总觉得模糊不清、难以区分？除了这些基础概念，Tool、MCP、Agent 也是大模型应用进阶中常遇到的核心术语。这篇博客用最通俗的语言，避开复杂术语，帮你把这些核心概念彻底讲明白，看完就能理解大模型的基本工作逻辑，为后续学习提示词工程、大模型应用打下基础。

一、LLM（Large Language Model）：大语言模型

1. 什么是LLM？

LLM 是 Large Language Model 的缩写，也就是我们常说的“大模型”。简单来说，它是一个经过海量文本数据（书籍、文章、对话、网页等）训练而成的人工智能模型，核心能力是理解人类语言、生成符合逻辑的文本。

可以把它类比成一个“读过互联网上几乎所有公开文字”的超级学霸——它不会死记硬背所有内容，而是通过学习海量文本中的语言规律、逻辑关系、上下文关联，学会“听懂”你的需求，并“说出”符合场景、逻辑通顺的回答。

2. 核心特点（必记）

• 通用性强：不局限于单一任务，能处理问答、翻译、编程、写作、总结等多种场景；

• 上下文感知：能记住多轮对话的历史内容，理解“它”“这个”等指代关系（比如你问完“推荐一本书”，再问“它讲什么”，模型能知道“它”指的是推荐的书）；

• 生成式能力：不仅能“读懂”，还能主动生成文本，比如写文案、编故事、写代码片段。

二、Token：大模型处理数据的“最小单位”

1. 什么是Token？

Token 是大模型处理文本数据的最小单元，你可以把它理解成“文字碎片”。大模型不会直接处理完整的汉字、单词或句子，而是先把所有输入/输出的文本，拆分成一个个 Token，再进行计算和处理。

举个直观例子：

• 英文：“unhappiness”（不开心）会被拆成 “un” + “happiness” 两个 Token；“hello world” 拆成 “hello” + “ ”（空格） + “world” 三个 Token；

• 中文：一个汉字通常对应 1-2 个 Token（比如“你好”拆成两个 Token），标点符号、空格、换行也会被算作独立 Token；

• 短句拆分：“我喜欢大模型” 会拆成 “我”“喜”“欢”“大”“模”“型” 6 个 Token（不同模型拆分规则略有差异，但核心逻辑一致）。

2. 为什么Token很重要？

1. 费用计算基础：几乎所有大模型服务（比如ChatGPT、豆包等），都是按 Token 数量收费——输入的指令（Prompt）和输出的回答，都会计算 Token 数量，超出限额需额外付费；

2. 上下文窗口的限制单位：后面会讲的“上下文窗口”，其大小就是用“最多支持多少 Token”来衡量的；

3. 影响处理效率：文本拆成的 Token 数量越多，模型处理的时间越长，响应速度越慢。

三、Context：大模型的“当前信息总和”

1. 什么是Context？

Context 翻译为“上下文”，指的是大模型在处理你当前任务时，能获取到的所有相关信息的总和。它不是单一的一句话，而是一个“信息集合”。

2. Context 包含哪些内容？

• 你的当前指令（Prompt）：比如“帮我写一篇春天的散文”；

• 多轮对话历史：你和模型之前所有的提问、回答（比如你先问“推荐一本Python书”，再问“它的作者是谁”，前一轮的对话就属于 Context）；

• 系统提示词（可选）：你给模型设定的角色、规则（比如“你是一名语文老师，回答要简洁易懂”）；

• 参考材料（可选）：你上传给模型的文档、知识库内容（比如上传一篇文章，让模型总结，这篇文章就属于 Context）。

3. 通俗例子理解

你和模型的对话：

你：推荐一本适合新手的Java书。 模型：推荐《Java编程思想》，适合新手入门，讲解通俗易懂。 你：它的出版社是什么？

模型能理解“它”指的是《Java编程思想》，核心原因就是“推荐书籍”和“模型的回答”都在 Context 里，模型能通过上下文关联，找到指代对象——这就是 Context 的核心作用。

四、Context Window（上下文窗口）：大模型的“记忆上限”

1. 什么是Context Window？

Context Window 翻译为“上下文窗口”，本质是大模型的“记忆上限”——它规定了模型一次能处理的 Context 的最大 Token 数量。

可以把它类比成人类的“短期记忆”：我们人类短期记忆只能记住几件事，超过上限就会忘记前面的内容；大模型的 Context Window 也是如此，一旦 Context 的总 Token 数量超过窗口上限，模型就会“忘记”最早的对话内容，只保留最近的信息。

2. 核心关键（必懂）

• 窗口大小差异：不同大模型的上下文窗口大小不同，主流模型从 4K（4096个Token）到 1M（100万个Token）不等；

• 影响任务能力：窗口越大，模型能处理的文本越长——比如 128K 窗口的模型可以直接处理一整本书，而 4K 窗口的模型只能处理几页内容、十几轮短对话；

• 注意超限问题：如果对话过长、上传的文档过大，导致 Token 总量超过窗口上限，模型会出现“失忆”（忘记前面的内容）、回答逻辑断裂的问题。

五、Prompt：你给大模型的“指令/问题”

1. 什么是Prompt？

Prompt 就是你发给大模型的输入内容，包括你的问题、指令、要求，甚至是参考材料——它是你和大模型沟通的“桥梁”，模型所有的输出，都是基于 Prompt 生成的。

举个例子：

• 简单Prompt：“什么是LLM？”“帮我翻译一句英文”；

• 详细Prompt：“帮我写一篇关于春天的散文，要求300字左右，用比喻、拟人手法，语言优美，适合中学生阅读”。

2. 关键提醒

Prompt 的质量，直接决定模型的输出效果：指令越清晰、要求越具体，模型生成的结果越符合你的预期；反之，模糊的Prompt（比如“写一篇文章”），模型可能会生成不符合需求的内容——这就是我们常说的“提示词工程”的核心：通过优化Prompt，让模型更好地理解需求。

六、Tool：大模型的“外部能力扩展器”

1. 什么是Tool？

Tool 即“工具”，是大模型自身能力之外的外部辅助工具，核心作用是弥补大模型的固有局限，让模型从“被动回答”变成“主动行动”。大模型本身无法直接执行代码、查询实时数据、调用API，而 Tool 就是连接模型与现实世界、外部系统的“手脚”。

简单来说，Tool 就是大模型可以“调用”的功能模块，比如：搜索工具（获取实时信息）、代码解释器（执行数学计算、编写代码）、数据库查询工具（操作数据库）、邮件发送工具、地图查询工具等。

2. 核心作用与原理

大模型的 Tool 调用，本质是“大脑（LLM）+ 手脚（Tool）”的协作模式，核心流程的是：模型理解用户需求后，判断需要调用哪种 Tool、传入什么参数，由外部系统执行 Tool 并返回结果，模型再结合结果生成最终回答。

举个例子：你问“今天北京的天气怎么样？”，大模型本身没有实时天气数据（训练数据有时间限制），此时它会调用“天气查询 Tool”，传入“北京”作为参数，Tool 返回实时天气信息后，模型再把信息整理成自然语言回复你。

关键提醒：大模型只负责“决策调用哪个 Tool、怎么传参”，不直接执行 Tool，Tool 的实际运行由外部系统完成，避免模型直接操作带来的安全风险。

七、MCP（Model Context Protocol）：大模型与工具的“通用接口”

1. 什么是MCP？

MCP 是 Model Context Protocol（模型上下文协议）的缩写，是由 Anthropic（Claude 开发公司）开源的一个标准，核心作用是为大模型连接外部数据源、工具提供统一的标准化方式，相当于 AI 应用的“USB-C 端口”——就像 USB-C 能统一连接各种设备，MCP 能让不同的大模型和不同的工具、数据源，不用定制开发就能实现互通[4]。

2. 核心组件与运作逻辑

MCP 遵循“客户端-服务器”架构，主要包含三个核心组件，协同完成模型与工具的连接[4]：

• 主机（Host）：提供 AI 交互环境的应用（比如 Claude 桌面版、代码编辑器 Cursor），能访问工具和数据，运行 MCP 客户端；

• MCP 客户端：运行在主机内，负责与 MCP 服务器通信，相当于“连接器”；

• MCP 服务器：暴露具体功能和数据访问权限，包含多个 MCP Tool（工具）、资源（数据）和提示模板，供客户端调用。

通俗理解：MCP 解决了“不同模型、不同工具无法通用连接”的问题，比如有了 MCP，你开发的工具既能被 Claude 调用，也能被其他大模型调用，不用为每个模型单独适配，大幅降低开发成本。

八、Agent：大模型的“自主智能体”

1. 什么是Agent？

Agent 即“智能体”，是基于大模型（LLM）驱动的自主智能系统，核心是具备“感知-思考-行动-反馈”的闭环能力——不同于传统聊天机器人“你问我答”的被动模式，Agent 就像一个有独立思考和行动能力的伙伴，你只需告诉它最终目标，它就能自己拆解任务、选择 Tool、处理异常，直到完成目标[5]。

2. 核心组件与能力

Agent 的核心是“LLM（大脑）+ 记忆 + 规划器 + Tool（行动工具）”，主要具备三大能力[5]：

• 自主规划：能将复杂目标拆分成多个简单步骤（比如“帮我订一张明天去上海的机票并安排住宿”，Agent 会拆成“查询机票→预订机票→查询酒店→预订酒店”）；

• 工具调用：能根据任务需求，自动选择并调用合适的 Tool（比如查询机票调用“机票查询 Tool”，预订酒店调用“酒店预订 Tool”）；

• 记忆与迭代：能记住任务过程中的信息（短期记忆）和历史交互（长期记忆），遇到问题能自我修正（比如机票预订失败，会自动换一个航班查询）。

举个例子：你让 Agent“帮我写一篇关于大模型 Tool 调用的总结，并生成PPT”，Agent 会先调用“文档搜索 Tool”获取相关资料，再调用“文本总结 Tool”整理核心内容，最后调用“PPT生成 Tool”制作PPT，全程无需你手动干预。

九、总结：8个核心概念的逻辑关系

用一个简单的流程，把所有概念串起来，彻底理解它们的关联：

1. 你编写一个 Prompt（指令/问题），发送给 Agent（智能体）；

2. Agent 依托 LLM（大模型）的推理能力，拆解任务、规划步骤，判断需要调用的 Tool（工具）；

3. 通过 MCP（模型上下文协议）这个标准化接口，Agent 调用对应的 Tool，获取工具执行结果；

4. LLM 把你的 Prompt、对话历史、Tool 执行结果，拆分成一个个 Token；

5. 这些 Token 共同组成了当前任务的 Context（信息总和）；

6. LLM 会检查 Context 的 Token 总量，确保不超过 Context Window（记忆上限）；

7. 最后，LLM 根据 Context 整理结果，由 Agent 向你返回最终回答（回答也会拆成 Token 输出）。

理解这8个概念，是你入门大模型、学习提示词工程、熟练使用大模型应用的第一步——后续无论学习哪种大模型进阶技术，都离不开这些基础逻辑。