本文深入解析AI Agent的核心架构，包括规划、记忆、执行与工具使用四大能力。文章详细介绍了LLM如何作为Agent的“大脑”，提供推理和规划能力，并通过经典案例“Smallville”虚拟小镇展示了AI Agent在复杂社交场景中的潜力。此外，文章还探讨了思维链、思维树、ReAct、Reflexion等关键技术，以及向量数据库在长期记忆中的作用。通过这些内容，读者可以全面理解AI Agent的工作原理及其在人工智能领域的重要性。

---

AI Agent 作为当前人工智能领域最热门的方向之一，其核心架构由哪些部分组成？本文深入解析 Agent 的四大能力架构：规划、记忆、执行与工具使用，帮助你全面理解 AI Agent 的工作原理。

Agent = LLM + 规划技能 + 记忆 + 工具使用

  2023 年 6 月，OpenAI 的应用研究主管 Lilian Weng 撰写了一篇博客，认为**AI Agent 可能会成为新时代的开端**。她提出了 Agent 的基础架构公式。在这个系统中，**LLM 扮演了 Agent 的"大脑"**，提供推理、规划等核心能力。一个基于大模型的 AI Agent 系统可以拆分为四个组件部分：大模型、规划、记忆与工具使用。 

---

经典案例：AI 虚拟小镇

 在斯坦福大学的研究中，一个名为"Smallville"的虚拟小镇展示了 Agent 的强大能力。这个小镇由**25 名 AI 角色**组成，包括咖啡店长伊莎贝拉、她的闺蜜玛利亚、暗恋对象克劳斯，以及对政治感兴趣的汤姆等。 这些 AI 角色之间的互动、对话和事件都是**通过 AI 自主生成的**，小镇已经井井有条地运转了数天。这个实验证明了 Agent 系统在复杂社交场景中的潜力。 

---

01

Agent架构之规划能力设计****

    大模型具备逻辑推理能力，Agent 可以将 LLM 的逻辑推理能力激发出来。通常情况下，一项复杂的任务往往涉及许多步骤。AI Agent需要首先拆解这些步骤，并提前做好计划。任务的分解的环节可以由三种方式完成:

• 在大模型输入简单的提示，比如“XYZ的步骤”，或者“实现XYZ的子目标是什么?”;
• 使用特定任务的指令，比如在需要写小说的时候要求大模型“写一个故事大纲”;
• 通过人工提供信息。当下普遍的技术模式包括思维链和思维树:

---

1. 思维链（Chain of Thoughts）

思维链已成为一种标准的提示技术，用于提高模型在复杂任务中的表现。模型被要求"一步一步地思考"，将艰巨的任务分解为更小更简单的步骤。 

问：罗杰有5个网球，他又买了两盒网球，每盒有3个网球。他现在有多少网球？答：答案是11问：食堂有23个苹果，如果他们用掉20个后又买了6个。他们现在有多少个苹果？模型输出：答：答案是27

可以看到模型无法做出正确的回答。但如果说，我们给模型一些关于解题的思路，就像我们数学考试，都会把解题过程写出来再最终得出答案，不然无法得分。CoT 做的就是这件事，示例如下：CoT Prompting，模型输入：

问：罗杰有5个网球，他又买了两盒网球，每盒有3个网球。他现在有多少网球？答：罗杰一开始有5个网球，2盒3个网球，一共就是2*3=6个网球，5+6=11。答案是11.问：食堂有23个苹果，如果他们用掉20个后又买了6个。他们现在有多少个苹果？模型输出：答：食堂原来有23个苹果，他们用掉20个，所以还有23-20=3个。他们又买了6个，所以现在有6+3=9。答案是9

可以看到，类似的算术题，思维链提示会在给出答案之前，还会自动给出推理步骤。思维链提示，就是把一个多步骤推理问题，分解成很多个中间步骤，分配给更多的计算量，生成更多的 token，再把这些答案拼接在一起进行求解。

---

2. 思维树（Tree of Thoughts）

思维树通过在任务的每一步探索多种推理可能性来扩展思维链。它首先将问题分解为多个思考步骤，并在每个步骤中生成多个想法，从而创建一个树状结构。搜索过程可以是 BFS（广度优先搜索）或 DFS（深度优先搜索）。 ToT 做 4 件事：**思想分解、思想生成器、状态评估器和搜索算法**。 

思维树（Tree of Thoughts）通过在任务的每一步探索多种推理可能性来扩展思维链。它首先将问题分解为多个思考步骤，并在每个步骤中生成多个想法，从而创建一个树状结构。搜索过程可以是 BFS（广度优先搜索）或 DFS（深度优先搜索）。ToT 做 4 件事：思想分解、思想生成器、状态评估器和搜索算法。ToT Prompt 的例子如下:

假设三位不同的专家来回答这个问题。所有专家都写下他们思考这个问题的第一个步骤，然后与大家分享。然后，所有专家都写下他们思考的下一个步骤并分享。以此类推，直到所有专家写完他们思考的所有步骤。只要大家发现有专家的步骤出错了，就让这位专家离开。请问...复制

另一方面，试错和纠错在现实世界的任务决策中是不可避免且至关重要的步骤。自我反思帮助 AI Agent 完善过去的行动决策、纠正以前的错误、从而不断改进。当下的技术包括 ReAct、Reflexion、后见链（Chain of Hindsight）等

3. ReAct：推理 + 行动

    ReAct 将任务中单独的行为和语言空间组合在一起，从而使大模型的推理和行动融为一体。该模式帮助大模型与环境互动（例如使用维基百科搜索 API），并以自然语言留下推理的痕迹。 

**经典案例：**回答"除了 Apple 遥控器，还有什么其他设备可以控制相关软件？"

传统方法直接问 LLM 得到错误答案"iPod"，但使用 ReAct 方法后，LLM Agent 通过4 次搜索和推理，最终找到正确答案：键盘功能键。

4. Reflexion：自我反思

Reflexion 是一个让 AI Agent 具备动态记忆和自我反思能力以提高推理能力的框架。每次行动后，AI Agent 都会计算一个启发式函数，并根据自我反思的结果决定是否重置环境以开始新的试验。 

02

Agent架构之记忆能力设计****

   记忆模块负责存储信息，包括过去的交互、学习到的知识，甚至是临时的任务信息。对于一个智能体来说，有效的记忆机制能够保障它在面对新的或复杂的情况时，调用以往的经验和知识。 

向量数据库：长期记忆的核心

为了解决有限记忆时间的限制，通常会用到外部存储器。常见的做法是将信息的嵌入表示保存到可支持快速的最大内积搜索（MIPS）的向量存储数据库中。

向量数据库的优势：

• 存储成本比存到神经网络的成本要低2 到 4 个数量级
• 利用 Embedding 技术将非结构化数据转化为向量，实现快速检索
• 支持模糊匹配检索，针对相似的问题找出近似匹配的结果

---

03

Agent架构之工具能力设计

  懂得使用工具是人类最显著和最独特的地方，同样地，也可以为大模型配备外部工具来让模型完成原本无法完成的工作。 工具使用是其手脚，通过精准调用外部 API 与环境交互，打破了模型仅能预测文本的局限，使其具备了联网、计算和操作软件的实战能力；

---

04

Agent架构之执行能力设计

  行动模块负责将代理的决策转化为具体的结果。该模块位于最下游位置，直接与环境交互。行动模块受到角色、记忆和规划模块的影响。执行是其闭环，将前三者的输入转化为最终交付的动作或结果，并在错误中不断迭代。

行动目标

• **任务完成：**代理的行动旨在完成特定任务（如 Voyager 和 ChatDev）
• **沟通：**代理的行动旨在与其他代理或真实人类沟通
• **环境探索：**代理的行动旨在探索不熟悉的环境

行动生成方式

• **通过记忆回忆行动：**行动是根据当前任务从代理记忆中提取信息生成的
• **通过计划跟随行动：**代理按照其预先生成的计划采取行动

行动空间

• **外部工具：**利用外部 API、数据库和外部模型扩展行动空间
• **内部知识：**依赖 LLMs 的内部知识指导行动

最近两年大模型发展很迅速，在理论研究方面得到很大的拓展，基础模型的能力也取得重大突破，大模型现在正在积极探索落地的方向，如果与各行各业结合起来是未来落地的一个重大研究方向

大模型应用工程师年包50w+属于中等水平，如果想要入门大模型，那现在正是最佳时机

2025年Agent的元年，2026年将会百花齐放，相应的应用将覆盖文本，视频，语音，图像等全模态

如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！

扫描下方csdn官方合作二维码获取哦！

给大家推荐一个大模型应用学习路线

这个学习路线的具体内容如下：

第一节：提示词工程

提示词是用于与AI模型沟通交流的，这一部分主要介绍基本概念和相应的实践，高级的提示词工程来实现模型最佳效果，以现实案例为基础进行案例讲解，在企业中除了微调之外，最喜欢的就是用提示词工程技术来实现模型性能的提升

第二节：检索增强生成（RAG）

可能大家经常会看见RAG这个名词，这个就是将向量数据库与大模型结合的技术，通过外部知识来增强改进提升大模型的回答结果，这一部分主要介绍RAG架构与组件，从零开始搭建RAG系统，生成部署RAG，性能优化等

第三节：微调

预训练之后的模型想要在具体任务上进行适配，那就需要通过微调来提升模型的性能，能满足定制化的需求，这一部分主要介绍微调的基础，模型适配技术，最佳实践的案例，以及资源优化等内容

第四节：模型部署

想要把预训练或者微调之后的模型应用于生产实践，那就需要部署，模型部署分为云端部署和本地部署，部署的过程中需要考虑硬件支持，服务器性能，以及对性能进行优化，使用过程中的监控维护等

第五节：人工智能系统和项目

这一部分主要介绍自主人工智能系统，包括代理框架，决策框架，多智能体系统，以及实际应用，然后通过实践项目应用前面学习到的知识，包括端到端的实现，行业相关情景等

学完上面的大模型应用技术，就可以去做一些开源的项目，大模型领域现在非常注重项目的落地，后续可以学习一些Agent框架等内容

上面的资料做了一些整理，有需要的同学可以下方添加二维码获取（仅供学习使用）