本文介绍Spring AI 1.0如何让Java开发者无需学习Python,通过添加几个依赖就能在现有项目中快速构建AI智能体。从5分钟快速上手到实现AI记忆功能、工具调用能力,再到企业级应用和实战案例,提供了完整指南,帮助Java开发者轻松进入AI时代,并分享了常见避坑技巧。


自从 Spring AI 1.0 发布后,Java 开发者也能用熟悉的 Spring Boot 生态搭建 AI 智能体了。不用学 Python,不用重写代码,就在你现有的项目里加几个依赖,就能跑起来。

上周我试了一下,从创建项目到跑通第一个能「记忆」的 AI 助手,真的只花了 5 分钟。

今天就把这个实战经验分享给大家。


一、快速开始:3 步跑起来

第一步:创建项目

用 Spring Initializr 创建一个 Spring Boot 项目(Java 17+),加上这几个依赖:

1
2
3
4
5
6
7
8
9
10
11
12
<!-- Spring Web -->


<dependency>


    <groupId>
org.springframework.boot
</groupId>


    <artifactId>
spring-boot-starter-web
</artifactId>


</dependency>


 


<!-- Spring AI OpenAI(国外用)或 Spring AI Alibaba(国内用) -->


<dependency>


    <groupId>
org.springframework.ai
</groupId>


    <artifactId>
spring-ai-openai-spring-boot-starter
</artifactId>


    <version>
1.0.0-M4
</version>


</dependency>

国内开发者推荐用 Spring AI Alibaba

1
2
3
4
5
<dependency>


    <groupId>
com.alibaba.cloud.ai
</groupId>


    <artifactId>
spring-ai-alibaba-starter
</artifactId>


    <version>
1.0.0-M3.2
</version>


</dependency>

第二步:配置 API Key

1
2
3
4
5
6
7
8
9
10
# application.yml


spring:


  ai:


    openai:


      api-key:
 ${OPENAI_API_KEY}
  # 你的 OpenAI API Key


    # 阿里云版本用这个


    # alibaba:


    #   qwen:


    #     api-key: ${QWEN_API_KEY}


    #     model: qwen-turbo

第三步:写个测试接口

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
@RestController


public
 class
 ChatController
 {


    private
 final
 ChatClient chatClient;




    public
 ChatController
(ChatClient.Builder builder)
 {


        this
.chatClient = builder.build();


    }




    @GetMapping("/chat")


    public
 String
 chat
(@RequestParam String msg)
 {


        return
 chatClient.prompt()


            .user(msg)


            .call()


            .content();


    }


}

启动项目,访问 http://localhost:8080/chat?msg=你好,就能看到 AI 的回复了。

是不是很简单?

3步快速开始


二、给 AI 加上「记忆」

现在的 AI 记性不好,你说第二句话它已经不记得第一句了。

给它加上 ChatMemory,就能记住之前的对话:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
@RestController


public
 class
 ChatController
 {


    private
 final
 ChatClient chatClient;


    private
 final
 ChatMemory
 chatMemory
 =
 new
 InMemoryChatMemory
();




    public
 ChatController
(ChatClient.Builder builder)
 {


        this
.chatClient = builder


            .defaultAdvisors(
new
 MessageChatMemoryAdvisor
(chatMemory))


            .build();


    }




    @GetMapping("/chat")


    public
 String
 chat
(


        @RequestParam
 String msg,


        @RequestParam(defaultValue = "default")
 String sessionId


    ) {


        return
 chatClient.prompt()


            .user(msg)


            .advisors(spec -> spec


                .param(CHAT_MEMORY_CONVERSATION_ID_KEY, sessionId))


            .call()


            .content();


    }


}

关键点

  • MessageChatMemoryAdvisor - 记忆功能的 Advisor
  • CHAT_MEMORY_CONVERSATION_ID_KEY - 每个用户一个独立的 sessionId

试一下:

1
2
/chat?msg=我叫小明&sessionId=user1


/chat?msg=我叫什么?&sessionId=user1

第二次调用它会回答「你叫小明」,因为它记住了。

ChatMemory 架构图


三、让 AI 会「用工具」

光聊天不够,还要让 AI 能执行操作。比如查询数据库、调用 API。

这就要用到 Tool Calling(以前叫 Function Calling,Spring AI 1.0 改名了)。

定义工具

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
@Component


public
 class
 UserTools
 {




    @Tool(description = "根据用户ID查询用户信息")


    public
 User
 getUserById
(String userId)
 {


        // 实际项目中这里查数据库


        return
 new
 User
(userId,
 "张三"
,
 "zhangsan@example.com"
);


    }




    @Tool(description = "获取当前时间")


    public
 String
 getCurrentTime
()
 {


        return
 LocalDateTime.now().toString();


    }


}




record
 User
(String id, String name, String email)
 {}

注册工具

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
@RestController


public
 class
 AgentController
 {


    private
 final
 ChatClient chatClient;




    public
 AgentController
(ChatClient.Builder builder, UserTools userTools)
 {


        this
.chatClient = builder


            .defaultTools(userTools)
  // 注册工具


            .build();


    }




    @GetMapping("/agent")


    public
 String
 agent
(@RequestParam String msg)
 {


        return
 chatClient.prompt()


            .user(msg)


            .call()


            .content();


    }


}

测试效果

1
2
3
4
5
/agent?msg=查询用户123的信息


// AI 会自动调用 getUserById("123") 返回结果


 


/agent?msg=现在几点了?


// AI 会自动调用 getCurrentTime() 返回结果

神奇吧?AI 会自己判断什么时候该调用什么工具。


四、避坑指南

坑 1:Function Calling 已废弃

老教程还在用 FunctionCallback.functions()别跟着学

Spring AI 1.0.0.M6 已经废弃了 Function Calling,改用 Tool Calling:

1
2
3
4
5
// ❌ 旧版(不要用)


.functions(
"myFunction"
)


 


// ✅ 新版(推荐)


.tools(
new
 MyTools
())

坑 2:ChatMemory 不生效

检查这两点:

  1. 是否添加了 MessageChatMemoryAdvisor
  2. 是否设置了 CHAT_MEMORY_CONVERSATION_ID_KEY 参数
1
2
3
// 容易漏掉这两行


.defaultAdvisors(
new
 MessageChatMemoryAdvisor
(chatMemory))


.param(CHAT_MEMORY_CONVERSATION_ID_KEY, sessionId)

坑 3:API Key 管理不当

千万别把 API Key 硬编码

正确姿势:

  • 使用环境变量
  • 或用配置中心(Nacos、Apollo)
  • 生产环境用密钥管理服务
1
2
3
4
5
6
// ❌ 错误


String
 apiKey
 =
 "sk-xxx"
;


 


// ✅ 正确


@Value("${spring.ai.openai.api-key}")


private
 String apiKey;

坑 4:超时设置不合理

AI 调用可能很慢,默认超时可能不够。

1
2
3
4
5
6
spring:


  ai:


    openai:


      chat:


        options:


          completion-timeout:
 60s
  # 根据实际情况调整

避坑清单


五、企业级应用:集成到现有项目

1. 模块化设计

建议单独建一个 ai-module 模块:

1
2
3
4
5
6
7
your-project/


├── business-module/      # 业务模块


├── ai-module/            # AI 能力模块


│   ├── agent/            # 智能体


│   ├── tools/            # 工具定义


│   └── config/           # AI 配置


└── api-module/           # API 接口

2. 统一异常处理

1
2
3
4
5
6
7
8
9
@ControllerAdvice


public
 class
 AIExceptionHandler
 {


 


    @ExceptionHandler(AIException.class)


    public
 ResponseEntity<String>
 handleAIException
(AIException e)
 {


        // 优雅降级:返回默认响应或提示用户稍后重试


        return
 ResponseEntity.ok(
"AI 服务暂时不可用,请稍后再试"
);


    }


}

3. 监控和日志

1
2
3
4
5
6
7
8
9
// 记录 Token 使用量


@Component


public
 class
 TokenLogger
 {


 


    @EventListener


    public
 void
 handleChatEvent
(ChatCompletionEvent event)
 {


        log.info(
"Token used: {}"
, event.getUsage());


    }


}

六、实战案例:智能客服助手

最后gei一个完整的实战案例 —— 一个能查订单、能改状态的智能客服:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
@RestController


@RequestMapping("/customer-service")


public
 class
 CustomerServiceAgent
 {




    private
 final
 ChatClient chatClient;




    public
 CustomerServiceAgent
(ChatClient.Builder builder, OrderTools orderTools)
 {


        this
.chatClient = builder


            .defaultSystem(
"你是一个智能客服助手,可以帮助用户查询订单、修改状态"
)


            .defaultTools(orderTools)


            .defaultAdvisors(
new
 MessageChatMemoryAdvisor
(
new
 InMemoryChatMemory
()))


            .build();


    }




    @GetMapping("/chat")


    public
 String
 chat
(


        @RequestParam
 String msg,


        @RequestParam
 String userId


    ) {


        return
 chatClient.prompt()


            .user(msg)


            .advisors(spec -> spec


                .param(CHAT_MEMORY_CONVERSATION_ID_KEY, userId))


            .call()


            .content();


    }


}




@Component


class
 OrderTools
 {


    @Tool(description = "查询订单状态")


    public
 String
 getOrderStatus
(String orderId)
 {


        // 查数据库返回订单状态


        return
 "订单"
 + orderId +
 "状态为:已发货"
;


    }




    @Tool(description = "修改订单收货地址")


    public
 String
 updateAddress
(String orderId, String newAddress)
 {


        // 更新数据库


        return
 "订单"
 + orderId +
 "地址已修改为:"
 + newAddress;


    }


}

效果

1
2
3
4
5
/chat?msg=我的订单123到哪了?&userId=user1


// AI 自动调用 getOrderStatus("123") 返回状态


 


/chat?msg=把订单123的地址改成北京市朝阳区&userId=user1


// AI 自动调用 updateAddress("123", "北京市朝阳区")

智能客服流程图


写在最后

Spring AI 让 Java 开发者进入 AI 时代变得超级简单。

不需要重写项目,不需要学 Python,就在你熟悉的 Spring Boot 里加几个依赖,就能跑起来。

我的建议是:

  • 先跑通 Demo - 5 分钟快速体验
  • 再加 Memory - 让 AI 记住对话
  • 最后加 Tools - 让 AI 能干活

记住

  • Function Calling 已废弃,用 Tool Calling
  • ChatMemory 要设置 Conversation ID
  • API Key 别硬编码

大家有没有在项目中用过 AI 智能体?评论区聊聊你的经验吧。


关联阅读:

深坑慎入!盘点Java开发中最隐蔽的8个内存泄漏场景

Spring Boot项目启动慢怎么办?3招教你优化启动速度(附代码)

if else泛滥的Java:我们为什么越写越乱?

Java 8 用了 5 年才发现:这些「优雅」代码其实很慢

关注我的公众号,看文不迷路👇👇


写在最后

Spring AI 让 Java 开发者进入 AI 时代变得超级简单。

不需要重写项目,不需要学 Python,就在你熟悉的 Spring Boot 里加几个依赖,就能跑起来。

我的建议是:

  • 先跑通 Demo - 5 分钟快速体验
  • 再加 Memory - 让 AI 记住对话
  • 最后加 Tools - 让 AI 能干活

记住

  • Function Calling 已废弃,用 Tool Calling
  • ChatMemory 要设置 Conversation ID
  • API Key 别硬编码

大模型入门学习教程 (附PDF文档,文末获取)

现在国内外关于大模型入门教程做的比较好的并不多,这其实也是一件好事,有难度和有门槛才能避免烂大街,现在大模型入门教程热度最高的包括李宏毅老师、吴恩达老师、Datawhale开源社区

选择合适的入门学习教程,能少走弯路,抓住核心内容,快速达到前沿的水平,甚至是发表大模型相关的论文都是可以的

这一期主要是给大家推荐李宏毅老师的最新课程大模型入门学习教程

这个教程的主要内容如下(总共11讲):

第1讲:总体介绍

这一讲主要介绍现在大模型作为生成式人工智能,其发展的历史过程,以及大模型落地的主要应用方向,了解大模型主要学习什么内容,难度不大,简单看一下就行

第2讲:提示词和AI代理人

首先介绍什么是提示词工程,提示词就是人类和大模型交互的语言,对于大模型的引导需要通过提示词来完成,然后介绍如何引导模型进行思考,比如COT是什么,在模型训练过程中提供额外信息

图片

第3讲:生成策略

同一个问题,多次询问大模型,大模型会给出不同的回答,如何提高回复的准确率以及稳定性,是一个重要的大模型生成策略。了解大模型的生成概率与什么有关,比如top_p, top_k,temperature

图片

第4讲:深度学习和Transformer

这一部分先介绍一些深度学习基础内容,大模型的模型都是深度学习模型,了解深度学习中基础内容是有必要的,比如损失函数,反向传播,梯度下降等,然后介绍大模型的基础框架transformer,transformer模型结构一定要非常熟悉,很重要

图片

第5讲:大模型评估和道德问题

这一部分先介绍大模型的评估标准,现在有很多benchmark从各个方面来评测大模型的不同能力,评估指标很多,开源的模型往往会选择有利于自己的指标进行展示,然后介绍大模型中存在的道德问题,因为大模型不能随意生成一些不符合道德社会文明的内容

图片

第6讲:AI的可解释性

给大模型一个输入,只能得到一个输出,但是我们并不清楚大模型的思考过程是怎么样的,这个问题,大模型是怎么思考的,提升大模型的可解释性有助于后续研究如何提升大模型的推理性能,像COT就是显式展示大模型的思考过程,然后还可以让语言模型来解释语言模型

图片

第7讲:视觉大模型

常说的大模型,都指的是文本大模型,输入是文本,输出也是文本,而现实世界中,可能我们的输入既有文本,又有图片和视频,输出也可能是多样化的,视觉大模型就是能解决文本和视觉两种模态的大模型

图片

第8讲:GPT-4o

前面都是关于大 模型的理论,这一部分是拆解一个完整的大模型是怎么样的,以GPT-4o为例进行说明,GPT**-4o是型**,是迈向AGI的一步,能够实现文本,音频和图片的多模态交互

图片

上面就是大模型的入门教程的所有内容,学完这些可以去看看关于大模型微调,大模型训练,大模型推理加速,RAG和Agent等相关的内容,后面最好整一两个项目来实践一下

上述资料获取:

1. 关注公众号【大模型应用开发LLM】领取即可获取

2. 这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐