Hi，我是阿昌，今天记录下几个 Java AI 开源项目。

以前提到 AI 开发，大家第一反应基本都是 Python。

但是现在不一样了，随着 Spring AI、LangChain4j、Spring AI Alibaba 等框架的发展，Java 开发者也可以比较自然地把大模型能力接到业务系统里。

一、Java 做 AI 主要解决什么问题？

Java 不是要去替代 Python 做模型训练。

对大部分 Java 后端开发来说，更常见的场景是：

• 接入大模型，做智能问答
• 基于企业知识库做 RAG 检索问答
• 让大模型调用本地方法、接口、数据库
• 做 AI 工作流编排
• 做多 Agent 协作
• 把 AI 能力集成到已有 Spring Boot 系统里

所以这里讨论的 Java AI 框架，重点不是“训练模型”，而是“开发 AI 应用”。

简单说就是：

大模型负责理解和生成
Java 系统负责业务、数据、权限、工具和工程落地

二、Spring AI：Spring 官方 AI 底座

Spring AI 是 Spring 官方推出的 AI 应用开发框架。

它的最大优势就是：

对 Spring Boot 开发者非常友好。

如果一个项目本身就是 Spring Boot 技术栈，那接入 Spring AI 会比较自然。

它主要抽象了这些能力：

• ChatClient：统一调用不同的大模型
• Prompt：管理提示词
• VectorStore：接入向量数据库，做 RAG
• Function Calling：让模型调用 Java 方法
• ChatMemory：保存多轮对话上下文
• 结构化输出、可观测等工程能力

可以把 Spring AI 理解成：

Spring Boot 项目接入大模型的一套标准开发方式

它比较适合企业内部系统 AI 化，比如客服助手、知识库问答、智能表单、代码助手、数据分析助手等。

三、Spring AI Alibaba：更偏 Agent 和工作流

Spring AI Alibaba 是阿里基于 Spring AI 生态做的一套增强项目。

它不只是简单封装大模型调用，而是更关注：

• Agent 开发
• 多 Agent 协作
• 工作流编排
• 可视化管理
• MCP 工具接入
• Agent 之间通信

文章里提到它大概分成三层：

• Agent Framework：负责 Agent 开发
• Graph：负责工作流和多 Agent 编排
• Augmented LLM：负责模型、工具、多模态、向量存储等基础能力

它还提供了 Admin 这种平台化能力，可以做可视化开发、观测、评估、MCP 管理等。

所以它更像是：

面向企业级 AI Agent 和工作流编排的一整套方案

如果只是简单调一个大模型，可能用不到这么重。

但如果要做复杂 AI 应用，比如多个智能体协同、流程节点编排、人机交互、可视化管理，那它就比较有价值。

四、LangChain4j：Java 版 LangChain

LangChain4j 可以理解成 LangChain 的 Java 版本。

它的特点是：

• 功能覆盖比较全
• 适配模型速度快
• 支持 RAG、工具调用、Agent、向量库等能力
• 对快速验证 AI 应用很友好
• 可以和 Spring、Quarkus、Helidon 等框架集成

如果说 Spring AI 更像 Spring 官方规范，那 LangChain4j 更像一个社区里非常活跃、功能推进很快的 AI 应用框架。

它适合这种场景：

想快速试模型、试 RAG、试工具调用、试 Agent

不过它也有一个问题：

如果要放到企业项目里长期维护，工程结构、治理、监控、平台化能力需要自己多设计一些。

所以我的理解是：

• 快速原型：LangChain4j 很合适
• Spring Boot 企业应用长期建设：Spring AI 更自然
• 复杂 Agent 平台：可以看 Spring AI Alibaba 或 AgentScope

五、AgentScope：专门做多智能体

AgentScope 是阿里开源的多智能体框架，同时提供 Python 和 Java 版本。

它更偏 Agentic 应用，也就是让智能体具备一定的自主推理和行动能力。

它包含这些能力：

• ReAct 推理
• 工具调用
• 记忆管理
• 多 Agent 协作
• MCP
• A2A 通信

可以把它理解成：

专门用来构建复杂智能体系统的框架

那它和 Spring AI Alibaba 有什么区别？

简单理解：

项目	更偏向
AgentScope	Agent 自主推理、多智能体协作
Spring AI Alibaba	Spring 生态、工作流编排、平台化治理

如果业务核心是“多个 Agent 自己协作完成任务”，AgentScope 会更贴近。

如果业务核心是“在 Spring 系统里编排 AI 流程”，Spring AI Alibaba 会更贴近。

六、其他 Java AI 项目

文章里还提到了一些其他项目：

项目	简单理解
Solon-AI	兼容 Java 8 到 Java 25，支持 LLM、RAG、MCP、Agent
Agent-Flex	轻量级 LLM 应用开发框架
Deeplearning4j	Java/Scala 深度学习库，更偏传统机器学习和深度学习
Smile	Java/Scala 机器学习库
GdxAI	面向 libGDX 游戏开发的 AI 框架

这里要注意区分两类东西：

• Spring AI、LangChain4j 这类：偏大模型应用开发
• Deeplearning4j、Smile 这类：偏传统机器学习、深度学习

现在我们平时说的“AI 应用开发”，大部分时候其实说的是前者。

七、怎么选？

可以简单按场景选：

场景	推荐优先看
Spring Boot 项目接入大模型	Spring AI
国内 Spring AI 生态、Agent、工作流	Spring AI Alibaba
快速验证 RAG、Agent、工具调用	LangChain4j
多 Agent 自主协作	AgentScope
老项目、需要 Java 8 兼容	Solon-AI
轻量封装 LLM 能力	Agent-Flex
传统机器学习算法	Smile、Deeplearning4j

八、总结

这个笔记想表达的很简单：

Java 开发者现在已经可以比较顺畅地参与 AI 应用开发了。

以前 AI 生态主要在 Python，但现在 Java 这边也有了不少成熟选择。

我的理解是：

• Spring AI：最适合 Spring Boot 项目做 AI 能力接入
• Spring AI Alibaba：适合企业级 Agent 和工作流编排
• LangChain4j：适合快速验证和灵活集成
• AgentScope：适合多智能体系统
• Solon-AI、Agent-Flex：适合轻量或兼容性场景
• Smile、Deeplearning4j：适合传统机器学习方向

如果本身是 Java 后端，不需要一上来就去研究模型训练。

更务实的切入点是：

先学会调用大模型
再学会 RAG
再学会工具调用
最后再看 Agent 和工作流

这样更贴近真实业务落地。