带你轻松学习LangChain4j

Yilena

10人浏览 · 2026-03-28 11:46:53

Yilena · 2026-03-28 11:46:53 发布

一、什么是 LangChain4j？

二、LangChain4j 解决的核心问题

2. StreamingChatLanguageModel

3. AiServices

4. ChatMemory

5. MessageWindowChatMemory

6. TokenWindowChatMemory

7. ChatRequest & ChatResponse

十三、LangChain4j 的优势与局限

（一）优势

1. 非常符合 Java 开发习惯

2. 统一模型抽象

3. AiServices 很适合企业开发

一、什么是 LangChain4j？

在 Java 生态中，如果我们想把大语言模型能力接入业务系统，最直接的方式通常是：

手动拼接 prompt
自己封装 HTTP 请求
自己处理上下文消息
自己解析返回结果
自己写流式输出逻辑
自己做不同模型厂商的适配

这种方式在小项目的问题不大，但是一旦项目规模扩大，很快就会暴露问题：

模型调用代码分散
Prompt 难维护
模型供应商切换成本高
业务层和 AI 调用层耦合严重
多轮对话、流式输出、结构化结果很难统一处理

而LangChain4j的价值就在于它提供了一套围绕LLM调用的同意抽象和开发范式。

二、LangChain4j 解决的核心问题

1. 模型调用统一化

不同模型服务的 API 格式并不一致，LangChain4j 通过统一接口，把底层差异屏蔽起来，让业务层更少感知模型厂商差异。

2. Prompt 管理规范化

如果你的项目里全是下面这种代码：

String prompt = "下面是最近很火的奶龙圣经，请你分析一下其中的奶龙成分" + text;
String result = model.generate(prompt);

那么 Prompt 很快就会变得：

到处散落
难以复用
难以维护
难以做版本管理

LangChain4j 通过注解和模板化方式，把 Prompt 组织得更清晰。

3. Java 接口式 AI 开发

LangChain4j 很有特色的一点是它允许我们把AI能力定义成接口：

public interface Assistant {
    String chat(String message);
}

然后通过框架生成一个代理对象，像调用普通 service 一样调用它。

三、LangChain4j 的整体架构

先看一张整体结构图：

这张图可以帮助我们理解 LangChain4j 的几个核心层次：

第一层：业务调用层

这一层就是业务代码，比如Controller、Service...

第二层：LangChain4j使用层

这一层通常有两种使用方式：

方式一：直接使用ChatLanguageModel

适合简单场景、底层控制更强的场景。

方式二：使用AiServices

适合大多数业务开发场景，更符合 Java 风格。

第三层：消息与请求组装层

这一层会负责：

组装 system/user 消息
处理模板变量
组织消息列表
构建请求对象

第四层：模型实现层

这一层是真正连接模型提供商的地方，比如：

OpenAiChatModel
OllamaChatModel
AzureOpenAiChatModel

四、LangChain4j 的设计思想

1. 面向抽象编程

LangChain4j 非常强调接口抽象。

例如：

ChatLanguageModel
StreamingChatLanguageModel
EmbeddingModel
ChatMemory

其中最重要的是 ChatLanguageModel。

这意味着业务代码通常依赖接口，而不是直接依赖某个厂商实现。

这带来的好处是：

更容易替换底层模型
更方便测试
代码结构更清晰

2. 消息优先，而不是字符串优先

有同学经常把调用 LLM 理解成：

model.generate("你好");

但 LangChain4j 更完整的思路是：模型接收的是一组消息，而不是一个裸字符串。

例如：

SystemMessage：系统角色设定
UserMessage：用户输入
AiMessage：模型历史输出
ToolExecutionResultMessage：工具执行结果

3. 注解驱动开发

LangChain4j 提供了大量很有 Java 风格的注解能力，例如：

@SystemMessage
@UserMessage
@V
@MemoryId

这些注解可以降低手写 Prompt 代码量、让 AI 功能定义更接近声明式编程并提高代码可读性。

4. 动态代理生成 AI 服务

AiServices本质上非常像 Java 里的动态代理机制。

你定义一个接口，框架会读取接口上的注解并自动帮你实现这个接口。

也就是说，调用接口方法时，底层实际是在拼装 Prompt 并调用模型。

五、LangChain4j 的核心模块

本文后面主要就是围绕这几个模块进行展开。

六、ChatLanguageModel

如果你不想一开始就上 AiServices，最底层、最直接的用法就是 ChatLanguageModel。

import dev.langchain4j.model.chat.ChatLanguageModel;
import dev.langchain4j.model.openai.OpenAiChatModel;

public class Demo {
    public static void main(String[] args) {
        ChatLanguageModel model = OpenAiChatModel.builder()
                .apiKey(System.getenv("OPENAI_API_KEY"))
                .modelName("gpt-5.4")
                .build();

        String result = model.generate("请用一句话介绍 LangChain4j");
        System.out.println(result);
    }
}

优点：

简单直接
容易理解
适合写最小 Demo

缺点：

Prompt 分散
不利于大型项目组织
很难统一约束风格
不适合复杂业务功能抽象

这段代码背后本质流程如下：

也就是说，ChatLanguageModel 是最底层的统一抽象接口之一。

七、AiServices

如果说 ChatLanguageModel 是底层模型调用入口，那么 AiServices 就是 LangChain4j 最具代表性的高级能力。

它的核心思想很简单：用 Java 接口描述 AI 能力，用框架自动生成实现。

-- 定义

import dev.langchain4j.service.SystemMessage;
import dev.langchain4j.service.UserMessage;

public interface Assistant {

    @SystemMessage("你是一名资深Java技术专家，回答准确、专业、简洁。")
    String chat(@UserMessage String message);
}


-- 使用

import dev.langchain4j.service.AiServices;

Assistant assistant = AiServices.create(Assistant.class, model);
String result = assistant.chat("请解释什么是Java中的多态");

为什么这种写法很强？因为它把 AI 调用变成了“接口式开发”。

这意味着在项目里你可以这样组织代码：

CodeReviewAssistant
SqlAssistant
JavaTutorAssistant
ApiDocAssistant

每一个 AI 能力都像普通的 Java 服务接口一样清晰。

底层原理

AiServices 本质上是：基于接口 + 注解 + 动态代理的 AI 服务生成器。

它和 JDK 动态代理很像：定义了接口，但是接口本身没有实现类。

我们需要在业务代码中调用AiServices.create()，它会在运行时自动生成一个实现对象。

这个对象内部会拦截方法调用，然后做下面几件事：

找到当前调用的是哪个方法
读取方法上的注解
读取参数上的注解
生成 Prompt
调用模型
把结果转成返回值

八、常用注解

1. `@SystemMessage`

用于定义系统提示词。

@SystemMessage("你是一名专业的Java架构师，回答时请先给结论，再给原因。")

它告诉模型：你的角色是什么？你的回答风格是什么？你的行为规则是什么？

一般适合放：角色设定、语气要求、输出格式要求、约束规则。

不建议把动态业务输入写到这里，比如用户当前问题、临时参数等。

2. `@UserMessage`

用于声明用户消息。

-- 写法一
String chat(@UserMessage String message);

-- 写法二
@UserMessage("请解释下面这段代码：{code}")
String explain(@V("code") String code);

一个是直接将用户输入的文本作为参数，一个是将用户输入的文本注入到模板当中作为参数。

3. `@V`

@V 的作用是模板变量绑定。

@UserMessage("请把以下内容翻译成{language}：{text}")
String translate(@V("language") String language,
                 @V("text") String text);

就是把 Java 方法参数映射到 Prompt 模板占位符。

4. `@MemoryId`

如果启用了 Memory 机制，就需要一个 ID 来区分不同会话或不同用户。

String chat(@MemoryId String userId, @UserMessage String message);

它会告诉框架：这个调用属于哪个会话以及哪些历史消息应该被复用。

5. 注解配合使用示例

public interface JavaAssistant {

    @SystemMessage("""
            你是一名资深Java开发专家。
            回答时要求：
            1. 先给结论
            2. 再解释原理
            3. 最后给一个简短示例
            """)
    @UserMessage("请解释以下Java问题：{question}")
    String ask(@V("question") String question);
}