本文详细介绍了如何使用大模型编程Agent,包括Agent的基本概念、三要素(模型、工具、上下文)、上下文管理、窗口容量限制、Token计算、记忆机制、WWH沟通原则、知识管理、读写机制、规则设计、AI味儿去除、函数映射、技能Skill应用以及多Agent协作等关键知识点。文章强调了上下文管理的重要性,并提供了实用的技巧和方法,帮助读者更好地理解和应用大模型编程Agent,避免常见陷阱。

说起来用AI编程Agent这事,我用Claude Code和OpenClaw大半年了,中间踩的坑能写本书,真的能写,我笔记本里记了六十多条。

(更没想到的是,这两个工具还没用热乎呢,就已经有新的在冒头了。。。。)

但说实话,工具会换,底下那些东西不会换。Token怎么算、上下文怎么管、规则怎么写、技能怎么搭,这些搞明白了,换个啥工具都不慌,

好了不废话了,不管你之前有没有接触过Agent,看完这篇,入门这件事就算交代清楚了。

❶ Agent≠ChatBot

图片

好了说正事,先从最基础的说起——Agent是啥——你把活儿丢给它,它自己去干,能改文件,能跑命令,不用你手动一步步操作,一杯茶一包烟,看着它干就完了。

这跟以前用网页版AI聊天完全不一样,以前是你问它你觉得我该怎么办,它给你一堆建议,然后你自己动手去弄。

Agent呢,直接帮你动手。

我自己的感受是,用了Agent之后回不去了,让ChatBot给我列个待办清单我都嫌慢,直接让Agent帮我把文件改了不好吗。

❷ 三要素

好,知道Agent是啥了,那它脑子怎么运转的呢,三样东西凑一块儿就那么回事。

模型,工具,上下文。

模型是脑子,工具是手,上下文呢,脑子里装的那些个东西,就这么简单粗暴,模型你选不了太多,就那么几家的几个档位,工具大家能装的也差不多,拉开差距的——上下文,我反复说这个真不是废话。。

Claude Code团队那个Boris也反复强调这个,上下文是我们唯一能控制的输入变量,优化好上下文,比换个模型管用多了。

❸ 上下文

很多人觉得上下文就是聊天记录,

不是的,塞进窗口的都算上下文。

记忆、知识库、规则、技能,名字不同,塞进窗口之后效果一样,都会影响它怎么想、怎么做,所以统称叫上下文,

更准确地说,上下文包括你发的那条消息,但也包括系统提示、元数据、历史对话、模型自己的思考过程、工具调用和响应,全算。

知道这个之后你会发现,很多东西都在偷偷吃你的上下文空间,你以为是"我就发了一句话",其实背后有一大堆东西跟着一起去了。

图片

❹ 窗口容量

好了Agent有了脑子,脑子里也装了东西,但有个残酷的事实——

脑子装不下太多东西。

窗口上下文有上限的,Claude是200K。

项目 占比 说明
预留空间 22.5% 系统保留
系统提示 10.2% 规则、配置
MCP/子Agent 不定 工具注册
实际可用 60% 约12万Token

这个数据不是我瞎编的,在Claude Code里跑一下/context命令就能看到,22.5%预留,10.2%系统提示,加上MCP服务器、子代理、规则文件,真正留给你用的就12万Token左右。

满了就处理不了新消息了,要么换新窗口,要么压缩。压缩呢,前面的对话内容做个摘要,腾空间装新东西,但摘要完了细节就丢了。

窗口满→压缩→细节丢,这条链路跟后面好多问题都有关。

而且有一点很多人忽略了——不是窗口快满了质量才下降,是从一开始,上下文越多,模型质量就越差,所以上下文管理不是窗口快满才做的事,是从第一条消息就该开始操心的事。

❺ Token

对了插播一下Token——你发一条消息它回一条消息,

消耗的可不只是这两条的Token,是整个窗口里所有内容的Token!!

窗口越满每条消息越贵。

Token跟文件大小也不是一回事,文件大小用KB,Token用K,一个有B一个没有B。。。。200KB的中文文档要100K到200K的Token,同样大小的英文只要50K左右,中文Token消耗是英文的两三倍,这个坑我踩过,上来就塞了个大文件,窗口直接爆了。

所以用Agent处理中文内容的时候,得比英文场景更注意Token预算。

❻ 记忆靠文件

好了知道脑子多大了,也知道怎么计量了,下一个问题——记忆靠什么?

靠读写文件。不是靠脑子记。

窗口一压缩或者一关,脑子里的东西全没了,想让它记住什么,写文件里,下次用再去读。

这跟人的记忆机制有点像——人有工作记忆、情节记忆、语义记忆、程序性记忆,Agent的工作记忆就是上下文窗口,情节记忆是对话摘要,语义记忆是知识库和用户画像文件,程序性记忆是规则和技能文档。

很多工具有自动记忆功能,比如每天存一个memory文件,启动时自动加载最近的,但这个自动记忆不完全靠谱,有些东西它压根没存,自己觉得要紧的就手动让它记下来。

我的做法是在CLAUDE.md里指定一个memory目录,遇到重要的东西就说"记下来",它就往那个目录写文件,下次启动自动加载。

图片

❼ WWH原则

说到跟Agent沟通,

有个原则叫WWH——做什么(What),为什么做(Why),怎么做(How)。

不管是你给Agent提需求,还是让它跟你汇报,都把这三件事说清楚,省得来回扯好几轮才搞明白在说啥。

尤其是Why。不说为什么,Agent就容易按自己理解瞎猜,猜偏了方向就歪了。

Claude Code那个团队也是这么建议的,CLAUDE.md里要包含四样东西——目标(Why),地图(Map),规则(Rules),工作流(Workflows),本质上跟WWH是一回事,先告诉它为什么,再告诉它在哪,最后告诉它怎么干。

❽ 上下文少即是多

好了基础概念过完了,好了管理这块——

上下文少即是多,聊得越多反而越差。

这个真的要反复说,很多人觉得跟Agent聊得越多,它越了解你,干活越好,不是的。。。。上下文太多它反而注意力分散,简单的事都能给你搞砸。

Anthropic自己说的,目标是"找到最小的高信号Token集合",往窗口里塞太多MCP数据和规则文件,只是用低信号填满窗口,同时烧钱。

新任务开新窗口,别舍不得关,清爽的脑子比熟悉你的脑子好使。

❾ 渐进加载

默认上下文怎么管。Agent每次启动会自动读一些文件,一般分三类:CLAUDE.md放基础信息,RULE.md放规则,SKILL.md放技能相关的。

但是!!什么都往里塞的话,Agent还没开始干活脑子就满了,

渐进加载,启动时只加载最少的东西,需要时再读。

一层一层往下,

这个Claude Code里有个做法挺聪明的,在.claude/rules/目录下按路径放规则文件,比如api.md只在处理src/api目录时加载,frontend.md只在组件目录生效,做后端的时候不读前端规范,做API的时候不加载数据库约定,省下来的Token很可观。

技能文件也是这样,Agent启动时只读每个技能开头的几行摘要,知道有哪些技能可用,等到真的要用某个技能了,才把完整内容读进来,不用的技能完全不占上下文。

还有一个更进阶的做法是context:fork,让某个技能在完全隔离的子代理中运行,有自己的上下文窗口,干完活返回摘要给主对话,主对话还是干干净净的。

❿ 知识管理

知识管理,一听"知识库"三个字是不是觉得要搞个大工程,

不用,就是文本文件,分好类放好目录就行了。

数据放数据目录,工作文件放工作目录,设计稿放设计目录,然后在默认上下文里告诉Agent,什么文件放哪个目录,不说清楚它就随地大小便。。。。

(真事,我第一个Agent的文件全是乱的,找了半天才理顺)

时间长了这些文件越来越多,就变成你自己的知识库了,还可以给文档分段打标记建索引,Agent查东西的时候看索引就知道去哪找,不用把整个文件都读进来,省Token。

进阶一点的话,可以像Claude Code那样用@语法导入其他文件,团队把编码规范放到中央仓库,所有人的CLAUDE.md都导入同一份标准,个人偏好放本地不提交,项目文档按需引用,这个导入支持递归,最深五层。

⓫ 读写机制

读写机制。这个是冷知识——

Agent想在一个文件末尾加个句号,也得先把整个文件完整读一遍!!!

千万别把所有东西存在一个大文件里,不然Agent光读文件上下文就满了,然后压缩,然后又要重新读。。。。跟最开头说的那个死循环一样。

所以文件拆分不只是整理习惯的问题,是直接影响Agent能不能正常干活的事。我自己现在一个文件超过500行就觉得太长了,拆成几个小的,按功能分,Agent读起来也快,Token也省。

图片

⓬ 规则设计

好了管理讲完了,规则。Agent有时候会偷懒,会耍小聪明,会走捷径,你写了操作手册它不看,觉得自己能行,需要规则,每次启动自动加载的那种,开机就生效的,

但写规则这件事,比养娃还难。。。。)你写个"禁止xx",Agent看完心想,这规则不太合理啊,算了我按自己的来吧,知错,认错,不改错,主打一个热情礼貌气死人。

一条有效的规则得有四样东西:具体要求、原因说明、反合理化条款、历史证据。

规则类型 示例 写法
禁止项 禁止删文件不确认 ❌ 禁止…
必须项 必须用write_file.py写文件 ✅ 必须…
建议项 代码注释用中文 尽量…

反合理化呢,提前把Agent可能找的借口堵死,"时间不够?"时间多的很!"成本太高?"一点都不高!"方案太复杂?"复杂也得做!

堵完借口呢,还不够,有时候告诉它应该怎么做,做了有什么好处,比一堆禁止管用,堵不如疏,

还有一个实用的做法–用钩子系统(Hook)来强制执行规则,Claude Code里能配PreToolUse和PostToolUse,在每次文件编辑后自动跑格式化,在执行bash命令前做安全检查,匹配到rm -rf或者DROP TABLE这种危险操作直接拦截,Agent收到阻止信息会重新规划,这比写一百条"禁止"规则管用。

⓭ AI味儿+函数映射

对了说到AI的行为问题,得聊聊AI味儿。AI默认给的答案,是统计出来的最安全的那个,不求有功,但求无过,你什么都不管让它自己干,出来的东西呢,就是一股子AI味儿。

去味儿没有捷径,就是反复犯错反复改规则。

Agent再犯,再改规则,第一次写了规则它不一定听,第二次不一定听,第三次。。。。可能还是不听,但你得坚持改,

(我自己身上的AI味儿到现在还在去。。。。)

大模型不是在思考,它就是在做映射,训练数据里见过的东西它就会,没见过的它就蒙,有个公式,Y = 2X + 3,大模型呢,这玩意儿的超大号版本,输入一组数字,算出一个结果,看着像在想,其实是在算。

遇到冷门问题或者最新信息,光靠它直觉蒙出来的答案,质量好不了呢,用规则逼它先去调研再回答。

这里有个进阶技巧–用子代理(Sub-Agent)做调研,主代理负责实现,子代理负责研究,子代理有自己的上下文窗口,跑完返回摘要给主代理,主代理的窗口不被污染,还能用更便宜的模型跑子代理。我常用一个"图书管理员"子代理,让它去扫开源仓库和文档,回来给我一个精炼摘要,既省Token又不会搞乱主对话。

⓮ 技能Skill

技能呢,Skill,说白了就是写给Agent看的操作手册,大白话告诉它什么场景该怎么干,里面还能带脚本工具,

物理结构就是一个文件夹加一个说明文档,复制粘贴即安装。

安装?把文件夹拷贝到技能目录就行,没有安装向导,没有下一步下一步,没有重启,就是拷贝粘贴,

但Skill里有个东西要注意——脚本。Agent聪明的时候是真聪明,但偶尔它会即兴发挥。。。。)搞创作可以,搞业务不行,需要100%稳定的环节,让Agent写个脚本处理,代码没有灵感,没有即兴发挥,1+1跑一万次还是2,稳定。

脚本写好了配一个说明文档,放同一个文件夹,丢进技能目录,你就做出了一个自己的Skill。

Skill里面还有个好玩的功能–可以用感叹号语法注入实时数据,技能文件里写个!加反引号执行shell命令,输出会在发给Agent之前替换占位符,比如写个PR审查技能,用git diff拿当前改动,用gh pr view拉PR描述,Agent收到的是真实数据不是空的,这在自动化场景里特别好用。

⓯ 多Agent协作

最后讲多Agent协作。一个窗口装不下的活儿,就得多开几个Agent,最常见的是接力模式,一个做完交给下一个,但这里有个大坑——

新Agent天然倾向于觉得前面做的不对,想推翻重来。

得保留一个主窗口从头到尾不关,负责方案讨论和最终验收。进阶一点是Sub-Agent模式,让主Agent自己拆活儿派给临时工,用户只跟主Agent打交道。

Claude Code团队的做法更极致——并行开5个worktree,每个跑独立的Claude会话,设shell别名在不同任务间秒切,甚至准备专门的分析worktree只负责读日志跑查询,效率拉满。

还有一种场景是独立评审——让写代码的Agent自己评自己的代码,那就是王婆卖瓜,新建一个独立Agent来审。

还有个做法是,让一个Agent写计划,另一个Agent像主任工程师一样审阅计划,两个Agent互相挑毛病,出来的方案质量比单Agent高不少。

好了说完了,踩过的坑整理出来就这么几条,工具会换,底下那些东西不会换。

最后

2026年技术圈的分化愈发明显:降薪裁员潮持续蔓延,传统开发、测试等岗位大批缩水,不少从业者陷入职业焦虑;与之形成鲜明对比的是,AI大模型相关岗位迎来疯狂扩招,薪资逆势飙升150%,大厂更是直接开出70-100W年薪,疯抢具备实战能力的大模型人才,甚至放宽年龄限制,只求能快速落地技术、创造价值!

很多程序员、职场新人纷纷入局大模型领域,绝非盲目跟风,而是实实在在看到了不可替代的价值优势,这也是2026年最值得抓住的职业风口:

1、窗口期红利,入门门槛友好:不同于成熟赛道的“内卷式招聘”,2026年大模型人才缺口巨大,简历只要达标(掌握基础AI应用+具备简单项目经验),年龄、学历均非硬性要求,小白可快速入门,转行程序员也能无缝衔接;

2、技术可复用,上手速度翻倍:如果你有前后端开发、测试、数据分析等基础,在大模型落地、系统部署、Prompt工程等环节会更具优势,无需从零开始,复用原有技术能力就能快速进阶;

3、懂业务更吃香,竞争力翻倍:单纯懂技术已不够,2026年大厂更看重“技术+业务”的复合型人才,有垂直领域(金融、医疗、工业等)经验者,能精准定位模型落地痛点,薪资比纯技术岗高出30%以上;

更重要的是,即便没有转型需求,用AI大模型工具为工作赋能、提升效率,也已经成为80%企业的硬性要求——不会用大模型提效,未来很可能被行业淘汰!

图片

那么2026年,小白/程序员该如何高效学习大模型?

很多人想入门大模型,却陷入两大困境:要么到处搜集零散资料,不成体系,越学越懵;要么被收费高昂的课程割韭菜,花了钱却学不到实战技能,白白浪费时间走弯路。

今天就给大家精心整理了一份2026年最新、免费、系统化的AI大模型学习资源包,覆盖从零基础入门到商业实战、从理论沉淀到面试通关的全流程,所有资料均已整理归档,无需拼凑,直接领取就能上手学习,小白可照做,程序员可进阶!

请添加图片描述

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

1、大模型系统化学习路线

这份学习路线结合2026年行业趋势和新手学习规律,由行业专家精心设计,从零基础到精通,每一步都有明确指引,帮你节省80%的无效学习时间,少走弯路、高效进阶,避免踩坑。

请添加图片描述

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有,跟着老师学习事半功倍。

在这里插入图片描述

3、大模型学习书籍&电子文档

涵盖2026年最新技术要点,包括基础入门、Transformer核心原理、Prompt工程、RAG实战、模型微调与部署等内容

在这里插入图片描述

4、AI大模型最新行业报告

报告包含腾讯、阿里、甲子光年等权威机构发布的核心内容,还有2026年中文大模型基准测评报告、AI Agent行业研究报告等,帮你站在行业前沿,把握技术风口。

在这里插入图片描述

5、大模型项目实战&配套源码

项目包含Deepseek R1、GPT项目、MCP项目、RAG实战等热门方向,还有视频配套代码,手把手教你从0到1完成项目开发,既能练手提升技术,又能丰富简历,为求职和职业发展加分。

img

6、2026大模型大厂面试真题

2026年大模型面试已全面升级,不再单纯考察基础原理,而是转向侧重技术落地和业务结合的综合考察,很多程序员和新手因为缺乏针对性准备,明明技术不错,却在面试中失利。

img

适用人群

在这里插入图片描述

四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型

  • 带你了解全球大模型

  • 使用国产大模型服务

  • 搭建 OpenAI 代理

  • 热身:基于阿里云 PAI 部署 Stable Diffusion

  • 在本地计算机运行大模型

  • 大模型的私有化部署

  • 基于 vLLM 部署大模型

  • 案例:如何优雅地在阿里云私有部署开源大模型

  • 部署一套开源 LLM 项目

  • 内容安全

  • 互联网信息服务算法备案

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

7、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
在这里插入图片描述
在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐