在人工智能领域,尤其是与大型语言模型(LLM)相关的应用开发中,一个新兴的概念正在逐渐取代传统的提示工程(Prompt Engineering),那就是上下文工程(Context Engineering)。本文将深入探讨这一转变背后的原因、上下文工程的内涵以及它对AI应用开发的重要意义。

在这里插入图片描述

一、什么是上下文工程?

上下文工程是一种构建动态系统的过程,其目的是为 LLM 提供正确格式的信息和工具,助力 LLM 合理完成任务。

它与传统提示工程有本质区别:提示工程主要聚焦于如何巧妙措辞提示以获取更好答案;而随着应用复杂性增加,人们发现向 AI 提供完整且结构化的上下文比巧妙措辞更重要。

上下文工程是一个系统,并非简单字符串。它在主 LLM 调用前运行,能从应用开发者、用户、之前的交互、工具调用或其他外部数据等多个来源获取上下文。

-该系统具有动态性,可根据不同任务和情境动态构建最终提示。同时,它强调提供正确的信息和工具,若输入信息不准确或不完整,输出结果必然不可靠,且信息和工具的格式也很关键,清晰简洁的格式更易被理解和处理。

二、上下文工程的重要性

当基于 LLM 的智能体系统(Agent)出现问题时,多数情况并非模型本身问题,而是未向模型提供适当上下文。

随着模型技术进步,模型自身错误减少,上下文错误成为主要问题。其原因包括:缺少模型做出正确决策所需的关键上下文信息;上下文格式不佳,影响模型对数据的理解和处理。

举例来说,若 AI 助手仅依据用户请求的上下文安排会议,没有日历信息、过去邮件往来、联系人列表等相关信息,生成的回复可能无用且机械;反之,提供这些相关信息作为上下文,回复会更智能实用。

三、上下文工程与提示工程的关系

提示工程是上下文工程的一个子集,但上下文工程范围更广。

提示工程更多关注如何将上下文以最佳方式组织在提示中,以适应动态数据并正确格式化;而上下文工程不仅包括提示构建,还涉及从多个来源收集和整合上下文信息,以及确保这些信息和工具的格式适合 LLM 处理。

四、上下文工程的实践案例

一些基本的上下文工程实践如下:

  • 工具使用:保证代理在需要访问外部信息时,有相应工具可用,且工具返回信息格式便于 LLM 理解和处理。

  • 短期记忆:在长时间对话中,创建对话摘要并在后续对话中使用。

  • 长期记忆:能够获取用户在之前对话中表达的偏好。

  • 提示工程:在提示中清晰列举代理的行为指令。

  • 检索:动态检索信息,并在调用 LLM 前将其插入提示中。

五、LangGraph 和 LangSmith 如何助力上下文工程

  • LangGraph 是一个以可控性为目标构建的代理框架,允许开发者完全控制代理的运行步骤、输入 LLM 的内容以及输出的存储位置。这种高度可控性使开发者能进行各种复杂的上下文工程操作。

  • LangSmith 是 LLM 应用的可观测性和评估解决方案,其关键功能之一是能追踪代理调用。通过它,开发者可查看代理运行的所有步骤以及输入和输出 LLM 的确切内容,进而调试上下文是否包含完成任务所需的所有相关信息和工具。

六、结论

上下文工程的兴起反映了 AI 应用开发的重要转变,它强调为 LLM 提供高质量上下文的重要性,包括正确的信息和工具,以及这些信息和工具的格式和动态性。

随着模型技术发展,上下文工程将成为 AI 工程师必须掌握的关键技能。通过构建动态的上下文系统,能让 LLM 更好地完成各种复杂任务。

这里给大家精心整理了一份全面的AI大模型学习资源包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享

👇👇扫码免费领取全部内容👇👇

在这里插入图片描述

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。
在这里插入图片描述

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

在这里插入图片描述

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

在这里插入图片描述

4. 2026行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

在这里插入图片描述

6. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

在这里插入图片描述

7. 资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇
在这里插入图片描述

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐