本文深入分析了当前流行的 LLM 推理框架，强调了上下文工程在 Agent 性能中的重要性。文章从底层直接操作到顶层垂直场景，详细介绍了六层架构框架选型，并提供了多个学习资源和决策树，帮助读者根据实际需求选择合适的框架，避免走弯路。对于希望快速入门大模型的小白和程序员来说，本文提供了实用的指导和参考。

你选的不是框架，是上下文工程方案

有个概念这两年被提得越来越多：Context Engineering（上下文工程）。

Agent 能不能好好干活，核心不在于用哪个框架，而在于你给它的上下文够不够好。对话历史怎么管、工具调用结果怎么传、记忆怎么存、任务怎么分解——这些才是关键。

ninehills（https://github.com/ninehills/blog/issues/150） 在 GitHub 上维护了一份「自主 Agent / 上下文工程资料索引」，重要论文和文章都整理在一起。目前中文圈做得最系统的资料汇总，值得收藏。

框架只是实现上下文工程的工具。搞清楚这个，选框架就不会那么焦虑了。

上下文工程四大要素：对话历史管理、工具调用路由、记忆存储、任务分解，中心是 Agent 输出质量

---

先去哪里看？

几个值得花时间的资源：

Agent 指南（https://agent-guidance.manus.space/）：22 篇文章组成知识图谱，从"什么是 Agent"讲到"生产级系统设计"，互动式教程，免费，中英文都有。

Hello Agents（Datawhale）（https://datawhalechina.github.io/hello-agents）：「从零开始构建智能体」，国内社区做的，适合刚入门把概念搞清楚。

Nader 的完整构建指南（https://nader.substack.com/p/the-complete-guide-to-building-agents）：用 Claude Agent SDK 构建 Agent 的全流程，Claude Code 的底层原理讲得很透。

Nazha.co的文章（https://www.nazha.co/posts/how-to-build-agents）：实操向，重点讲 Claude Agent SDK 怎么用，以及怎么兼容 Minimax、GLM、DeepSeek 这些国产模型。

---

框架全景

我把主流框架和工具分成六层，从简单到复杂。找到自己在哪一层，往下看就行。

Agent 框架六层架构图：从底层直接开干到顶层垂直场景，复杂度逐层递增

---

第一层：直接开干

Claude Agent SDK

本质是把 Claude Code 的能力包成库。spawn 一个 node 进程跑 cli.js，工具调用、长上下文、复杂推理原生支持。

几乎所有实践者都先推这个，理由只有一个：快。早上有想法，下午就能跑通。

踩坑：Electron 打包要加 asar.unpack: '**/node_modules/@anthropic-ai/**'，不然 cli.js 解包失败，App 起不来。另外通过 ANTHROPIC_BASE_URL + ANTHROPIC_API_KEY 可以对接 Minimax、GLM、DeepSeek，不是只能用 Claude。

---

pi-mono（https://github.com/badlogic/pi-mono，★17,938）

容易被忽视，但接近 18k star 不是假的。

这是一套工具包：coding agent CLI + 统一 LLM API（多家模型）+ TUI/Web UI + Slack bot + vLLM pods，不是单一框架。

配套有 awesome-pi-agent（https://github.com/qualisero/awesome-pi-agent）——社区维护的扩展列表，hooks、tools、skills 各种都有，生态挺完整了。

---

craft-agents（https://github.com/lukilabs/craft-agents-oss）

基于 Claude SDK 和 Pi SDK 构建，文档中心化 Agent 框架，自带 GUI。

核心思路是把「文档」作为 Agent 的工作对象，不是代码不是命令行。内容类、文档处理类的场景用这个。

---

OpenAI Agents SDK（2025 年 3 月发布）

OpenAI 自家的轻量框架，专为多 Agent 协作设计。比 LangChain 轻，比 LangGraph 好上手。用 OpenAI 模型、又不想搞那么重的，这是合理的中间选项。

---

第二层：前端交互

Vercel AI SDK（https://ai-sdk.dev/docs/introduction，v6 最新）

这不是完整的 Agent 框架。它是给 Next.js / React / Svelte / Vue 用的前端交互层，提供 useChat、useCompletion 等 hooks，流式渲染丝滑。v6 加了 Expo 和 React Native 支持，同时上了 Coding Agent 相关功能。

后端 Agent 逻辑还是要用别的框架来做，Vercel AI SDK 负责「把结果好看地展示出来」。

---

CopilotKit（https://github.com/CopilotKit/CopilotKit，★29,078）

定位是「Frontend for Agents & Generative UI」，React + Angular 都支持。

跟 Vercel AI SDK 的区别：Vercel AI SDK 是流式渲染层，CopilotKit 是 Copilot 嵌入层。要让 Agent 直接操作已有 Web 应用的 UI、跟页面元素交互，CopilotKit 才是对的工具，Vercel AI SDK 做不到这个。

---

第三层：类型安全

PydanticAI

Pydantic 团队做的，类型安全 + 模型无关性。定义好输出 Schema，框架保证 AI 返回符合格式的结果，换模型不用大改代码。

两句社区原话：「看了 LangGraph 和 Agno，最后选了 PydanticAI，更可控。」「只是需要工具调用 + 结构化输出的话，没必要用 LangGraph，PydanticAI 够了。」

输出要入库、要校验——解析合同、生成结构化报告、对接下游系统——选这个。

---

第四层：多 Agent 编排

LangChain / LangGraph（https://langchain-doc.cn/）

LangChain（★127,733）这两年从「模型接口封装」转成了「智能体工程平台」，官方定位现在是 “The platform for reliable agents.”。核心是 LangGraph（★25,248），状态机式编排，把 Agent 执行过程建模成节点和边，支持循环、分支、回滚。生产部署走 LangSmith Deployment（今年把 LangGraph Platform 改名了，但功能一样）。

学习曲线最高，控制力也最强。流程复杂、需要 HITL（人工在某个节点介入审核）、Agent 出错了要回到上一步重来——这种场景 LangGraph 才值得学。

deepagents（https://github.com/langchain-ai/deepagents，★9,705）是 LangChain 官方基于 LangGraph 做的 Agent harness，内置 planning tool、filesystem backend、子 Agent 生成。想快速理解 LangGraph 怎么用，看这个仓库比看文档直接多了。

---

CrewAI

角色扮演式。定义「研究员」「撰稿人」「编辑」，分配任务，协作完成。

逻辑清晰，调试时知道是哪个 Agent 出了问题——这是它比 AutoGen 好调的地方。内容生产、市场调研用这个。

---

AutoGen（微软）

对话协商式。Agent 之间通过对话解决问题，不是固定角色。

灵活，但也因为太灵活，有时候两个 Agent 会无限对话收不了场。代码 Review + 修复这种需要自由协商的技术问题用这个。

---

第五层：企业级基础设施

Mastra：TypeScript 企业级框架，工作流编排 + 知识库管理 + 工具集成打包在一起。TS 技术栈的首选。

Agno（前 Phidata）：Python 版企业级 Agent，自带记忆模块、知识库、工具调用。做公司内部 AI 助理这类应用合适。有用户反映会遇到循环调用、难以调试的问题，选型时注意。

Temporal（https://github.com/temporalio/temporal，★18,561）：不是 AI 框架，是任务持久化引擎。断网重连、自动重试、流程不丢失。做公司级应用，从架构初期就把它纳入，别等出问题了再补。

---

第六层：垂直场景

场景对得上能省大量时间：

opencode（https://github.com/anomalyco/opencode，★112,765）：「The open source coding agent.」star 数跟 LangChain 差不多量级，是目前开源 Coding Agent 里最大的项目。如果你要做 AI 编程助手类工具、或者想基于开源 Coding Agent 做二次开发，从这里开始。

TradingAgents-CN（https://github.com/hsliuping/TradingAgents-CN，★17,954）：中文化的多 Agent 金融交易框架，基于 LLM 做量化分析。场景在金融领域的可以直接用。

RD-Agent（https://github.com/microsoft/RD-Agent，★11,421）：微软出品，自动化工业级研发流程。Agent 要跑实验、分析数据、输出研究报告的，参考这个的设计思路。

---

测试和架构

上生产前不能漏的两个：

scenario（https://github.com/langwatch/scenario）：专门针对 Agentic 系统的测试框架。Agent 写完了怎么保证它在各种场景下行为符合预期？scenario 帮你写测试用例，跑自动化测试。上线前一定要过这一步。

DeepChat Agent 架构解析（https://github.com/ThinkInAIXYZ/deepchat/wiki/Agent-系统架构详解）：不是框架，是 DeepChat 项目的架构文档。对 AgentPresenter、agentLoopHandler 等核心组件有详细说明。自己设计 Agent 系统前读一遍，少走弯路。

---

上下文工程的实操

Agent-Skills-for-Context-Engineering（https://github.com/muratcankoylan/Agent-Skills-for-Context-Engineering，★12,619）：专门收集 Agent Skills 的仓库，覆盖上下文工程、多 Agent 架构、生产系统实践。用 Claude Agent SDK 写 Skills 的时候，来这里找参考，不用从零想。

---

最后

对于正在迷茫择业、想转行提升，或是刚入门的程序员、编程小白来说，有一个问题几乎人人都在问：未来10年，什么领域的职业发展潜力最大？

答案只有一个：人工智能（尤其是大模型方向）

当下，人工智能行业正处于爆发式增长期，其中大模型相关岗位更是供不应求，薪资待遇直接拉满——字节跳动作为AI领域的头部玩家，给硕士毕业的优质AI人才（含大模型相关方向）开出的月基础工资高达5万—6万元；即便是非“人才计划”的普通应聘者，月基础工资也能稳定在4万元左右。

再看阿里、腾讯两大互联网大厂，非“人才计划”的AI相关岗位应聘者，月基础工资也约有3万元，远超其他行业同资历岗位的薪资水平，对于程序员、小白来说，无疑是绝佳的转型和提升赛道。


对于想入局大模型、抢占未来10年行业红利的程序员和小白来说，现在正是最好的学习时机：行业缺口大、大厂需求旺、薪资天花板高，只要找准学习方向，稳步提升技能，就能轻松摆脱“低薪困境”，抓住AI时代的职业机遇。

如果你还不知道从何开始，我自己整理一套全网最全最细的大模型零基础教程，我也是一路自学走过来的，很清楚小白前期学习的痛楚，你要是没有方向还没有好的资源，根本学不到东西！

下面是我整理的大模型学习资源，希望能帮到你。

👇👇扫码免费领取全部内容👇👇

最后

1、大模型学习路线

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

3、 入门必看大模型学习书籍&文档.pdf（书面上的技术书籍确实太多了，这些是我精选出来的，还有很多不在图里）

4、 AI大模型最新行业报告

2026最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5、面试试题/经验

【大厂 AI 岗位面经分享（107 道）】

【AI 大模型面试真题（102 道）】

【LLMs 面试真题（97 道）】

6、大模型项目实战&配套源码

适用人群

四阶段学习规划（共90天，可落地执行）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型

• 带你了解全球大模型

• 使用国产大模型服务

• 搭建 OpenAI 代理

• 热身：基于阿里云 PAI 部署 Stable Diffusion

• 在本地计算机运行大模型

• 大模型的私有化部署

• 基于 vLLM 部署大模型

• 案例：如何优雅地在阿里云私有部署开源大模型

• 部署一套开源 LLM 项目

• 内容安全

• 互联网信息服务算法备案

• …

  👇👇扫码免费领取全部内容👇👇

  

3、这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】