一、认识Spring AI Alibaba

Spring AI Alibaba 是由阿里巴巴基于 Spring AI 生态扩展的企业级 AI 应用开发框架，深度集成阿里云智能服务（如百炼平台），专注于简化复杂 AI 应用的开发与生产落地

框架定义与核心定位

总体框架如下：

1、基础架构
Spring AI Alibaba 继承 Spring AI 的核心抽象（如 Prompt、Memory、RAG 等），提供统一的 AI API 层，支持模型无关的开发模式。

2、企业级扩展
聚焦解决企业场景痛点，如多智能体协作、大模型评估、可观测性等，填补 Java 生态中企业级 AI 解决方案的空白。

关键特性

1、Graph 多智能体框架

基于 Spring AI Alibaba Graph 开发者可快速构建工作流、多智能体应用，无需关心流程编排、上下文记忆管理等底层实现。通过 Graph 与低代码、自规划智能体结合，为开发者提供从低代码、高代码到零代码构建智能体的更灵活选择。

相当于基于Langchain的langGraph框架

2、深度集成阿里云AI生态

无缝对接百炼平台，支持通义千问（Qwen）、DeepSeek 等国产大模型，提供一站式模型接入与 RAG 知识库方案。

集成 Nacos（动态配置）、ARMS（全链路监控）、Langfuse（可观测性）等企业级组件

3、打造下一代通用智能体平台

基于 Spring AI Alibaba ，已经发布了 JManus、DeepResearch 两款产品，为开发者提供从低代码、高代码到零代码构建智能体的更灵活选择。

与 Spring AI 的核心区别

维度	Spring AI	Spring AI Alibaba
定位	提供 AI 原子能力（模型通信、RAG 基础）	企业级智能体落地方案
核心能力	支持基础 ChatModel、Prompt 管理	扩展 Graph 多智能体框架、JManus 自主规划
生态集成	通用 Spring 生态	深度适配阿里云（百炼、ARMS、Nacos）
企业特性	基础可观测性	强化分布式部署、MCP 服务治理、生产监控
适用场景	单智能体应用（如 ChatBot）	工作流、多智能体协作、高可靠企业系统

二、使用Spring AI Alibaba搭建智能体

下面以一个简单的OA小助手智能体为例，介绍如何使用 Spring AI Alibaba 搭建智能体。

1、Maven依赖配置

<!-- 引入spring-ai和spring ai alibaba 依赖管理 bom，统一管理相关依赖的版本，确保依赖一致性，避免版本冲突。-->
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bom</artifactId>
<version>1.0.0</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<dependency>
<groupId>com.alibaba.cloud.ai</groupId>
<artifactId>spring-ai-alibaba-bom</artifactId>
<version>1.0.0.3-SNAPSHOT</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>

<!-- 按需要引入依赖包-->
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter</artifactId>
</dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-deepseek</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-advisors-vector-store</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-ollama</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud.ai</groupId>
<artifactId>spring-ai-alibaba-graph-core</artifactId>
</dependency>

        ···

2、application.yml配置

server:
port:9090
spring:
application:
name:ai-demo-java
# 配置大模型的key和参数
ai:
deepseek:
api-key:
chat:
options:
model:deepseek-chat
openai:
api-key:
base-url:
chat:
options:
model:gpt-4o
chat:
observations:
log-prompt:true
log-completion:true
include-error-logging:true

3、定义大模型客户端bean

@Configuration
publicclassChatClientConfig {
@Bean
public ChatClient openAiChatClient(OpenAiChatModel chatModel) {
return ChatClient.create(chatModel);
    }

@Bean
public ChatClient deepSeekChatClient(DeepSeekChatModel chatModel) {
return ChatClient.create(chatModel);
    }
}

4、工具调用函数

工具的函数模拟定义了员工信息和员工部门信息的查询方法

@Slf4j
publicclassOaTools {

@Tool(description = "Get user info")
public String getUserInfo(String userName){
return"User " + userName + " is a good guy";
    }

@Tool(description = "Get user department")
public String getUserDepartment(String userName){
return"User " + userName + " is in department 1";
    }
}

5、向量存储配置

向量存储主要用来存储员工手册的资料向量，用于RAG检索。这里简单使用spring ai自带的内存向量存储SimpleVectorStore，嵌入模型使用在本地ollama部署的bge-m3模型，如果不定义嵌入模型，则自动使用阿里云百炼平台的向量模型

@Configuration
@Slf4j
publicclassVectorStoreConfig {


// 初始化向量存储
@Bean
    CommandLineRunner ingestTermOfServiceToVectorStore(
            VectorStore vectorStore,
@Value("classpath:handbook.txt") Resource handbookDocs
    ) {

return args -> {
// Ingest the document into the vector store
/*
             * 1、文档读取TextReader 读取 resources/handbook.txt 文件内容
             * 2、TokenTextSplitter 按token长度切分文本（避免大文本超出模型限制）
             * 3、向量化存储 通过 VectorStore.write() 将文本向量存入内存（后续可用于RAG检索）
             */

            log.info("Ingesting handbook.txt into vector store...");
            vectorStore.write(newTokenTextSplitter().transform(newTextReader(handbookDocs).read()));


            log.info("Done.");
// 相似性搜索检测
            vectorStore.similaritySearch("工作时间").forEach(doc -> {
                log.info("Similar Document: {}", doc.getText());
            });
        };
    }

// 这里简单使用自带的内存向量SimpleVectorStore，正常使用需要替换成真正的向量数据库，如Milvus等
@Bean
public VectorStore vectorStore(EmbeddingModel embeddingModel) {
return SimpleVectorStore.builder(embeddingModel).build();
    }

// 嵌入模型，这里使用本地自带的ollama部署的bge-m3模型
// 如果没有显性定义，会自动使用Alibaba的嵌入模型
@Bean
public EmbeddingModel embeddingModel() {
OllamaApiollamaApi=newOllamaApi.Builder().build();
return OllamaEmbeddingModel.builder()
                .ollamaApi(ollamaApi)
                .defaultOptions(OllamaOptions.builder().model("bge-m3").build())
                .build();
    }
}

6、创建Graph

创建智能体的Graph，并注册到Spring容器中。用于编排智能体的工作流程。

spring ai alibaba提供了LlmNode方便定义大模型节点，这里使用LlmNode节点用于调用deepseek

使用toolCallbacks绑定了工具调用，会在调用大模型期间自动判断是否要调用工具

通过QuestionAnswerAdvisor向量数据库问答advisor，绑定了vectorStore, 会自动在调用大模型时，使用Rag检索增强大模型上下文

@Configuration
@Slf4j
publicclassOaAssistantGraph {

//大模型客户端,这里使用DeepSeek
@Qualifier("deepSeekChatClient")
@Resource
private ChatClient chatClient;

//向量存储
@Resource
private VectorStore vectorStore;

//系统提示词
privatestaticStringSYS_PROMPT="""
            You are an assistant of a company's OA system, and your task is to help users query the administrative and personnel information within the company.
            You need to use tools to query relevant information from the database and knowledge base based on the user's questions and return it to the user.
            It is not allowed to forge the relevant regulations of the company at will to avoid misleading users out of thin air.
            You need to answer the users' questions and ensure the accuracy and completeness of the answers.
            You need to pay attention to the users' questions and avoid answering questions that they don't care about.
    """;

@Bean
public StateGraph oaGraph(ToolCallbackResolver toolCallbackResolver)throws GraphStateException {

//定义大模型聊天过程中的上下文字段key
KeyStrategyFactorykeyStrategyFactory= () -> {
            HashMap<String, KeyStrategy> keyStrategyHashMap = newHashMap<>();
// 用户输入
            keyStrategyHashMap.put("user_input", newReplaceStrategy());
// 会话id
            keyStrategyHashMap.put("thread_id", newReplaceStrategy());
// 聊天记录
            keyStrategyHashMap.put("messages", newAppendStrategy());

return keyStrategyHashMap;
        };

// 工具列表
        ToolCallback[] oaTools = ToolCallbacks.from(newOaTools());

// 大模型调用节点
LlmNodellmNode= LlmNode.builder()
                .chatClient(chatClient)
                .systemPromptTemplate(SYS_PROMPT)
                .messagesKey("user_input")
                .stream(true)
// 绑定工具调用
                .toolCallbacks(Arrays.asList(oaTools))
                .advisors(List.of(
// 大模型日志advisor
newSimpleLoggerAdvisor(),
// 向量数据库问答advisor
newQuestionAnswerAdvisor(vectorStore)))
                .build();

// 状态图
StateGraphstateGraph=newStateGraph(keyStrategyFactory)
                .addNode("invokeLLM", node_async(llmNode))
                .addEdge(StateGraph.START, "invokeLLM")
// 添加工具调用路由，有工具调用后会进行大模型节点总结输出，否则结束
                .addConditionalEdges("invokeLLM", AsyncEdgeAction.edge_async((newLlmToolDispatcher())),
                        Map.of("continue", "invokeLLM", "end", StateGraph.END))
                ;

// 添加 PlantUML 打印
GraphRepresentationrepresentation= stateGraph.getGraph(GraphRepresentation.Type.PLANTUML,"OA flow");
        log.info("\n=== OA UML Flow ===");
        log.info(representation.content());
        log.info("==================================\n");

return stateGraph;

    }
}

LlmToolDispatcher类实现大模型路由条件处理，主要是获取最后一条消息，判断是否包含工具调用，如果包含则继续路由回LlmNode总结输出，否则结束

@Slf4j
publicclassLlmToolDispatcherimplementsEdgeAction {

@Override
public String apply(OverAllState state)throws Exception {
        List<Message> messages = (List)state.value("messages").orElseThrow();
AssistantMessagemessage= (AssistantMessage)messages.get(messages.size() - 1);
        log.debug("message.hasToolCalls(): {}", message.hasToolCalls());
return message.hasToolCalls() ? "continue" : "end";
    }
}

7、聊天RestFul接口

创建一个restFul接口，用于接收用户输入，并调用智能体的Graph进行推理，返回结果。支持聊天流式输出。

@RestController()
@RequestMapping("/chat")
@Slf4j
publicclassChatController {

privatefinal CompiledGraph compiledGraph;

// 注入智能体Graph
publicChatController(@Qualifier("oaGraph") StateGraph stateGraph)throws GraphStateException {
SaverConfigsaverConfig= SaverConfig.builder().register(SaverConstant.MEMORY, newMemorySaver()).build();
this.compiledGraph = stateGraph
                .compile(CompileConfig.builder().saverConfig(saverConfig).build());

    }

// 聊天接口
@GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<ServerSentEvent<String>> stream(@RequestParam(value = "query", required = true) String query,
@RequestParam(value = "thread_id", defaultValue = "t_001", required = false) String threadId)throws GraphRunnerException {
RunnableConfigrunnableConfig= RunnableConfig.builder().threadId(threadId).build();
        Map<String, Object> objectMap = newHashMap<>();
        objectMap.put("user_input", List.of(newUserMessage(query)));

GraphProcessgraphProcess=newGraphProcess();
        Sinks.Many<ServerSentEvent<String>> sink = Sinks.many().unicast().onBackpressureBuffer();
//调用智能体Graph，并返回异步生成器
        AsyncGenerator<NodeOutput> resultFuture = compiledGraph.stream(objectMap, runnableConfig);
//转换为SSE输出
        graphProcess.processStream(resultFuture, sink);

return sink.asFlux()
                .doOnCancel(() -> log.info("Client disconnected from stream"))
                .doOnError(e -> log.error("Error occurred during streaming", e));
    }

}

GraphProcess 类作用将异步生成器转换成SSE输出处理：

publicclassGraphProcess {

privatestaticfinalLoggerlogger= LoggerFactory.getLogger(GraphProcess.class);

privatefinalExecutorServiceexecutor= Executors.newSingleThreadExecutor();

publicvoidprocessStream(AsyncGenerator<NodeOutput> generator, Sinks.Many<ServerSentEvent<String>> sink) {
        executor.submit(() -> {
            generator.forEachAsync(output -> {
try {
                    logger.info("output = {}", output);
StringnodeName= output.node();
                    String content;
if (output instanceof StreamingOutput streamingOutput) {
                        content = JSON.toJSONString(Map.of(nodeName, streamingOutput.chunk()));
                    } else {
JSONObjectnodeOutput=newJSONObject();
                        nodeOutput.put("data", output.state().data());
                        nodeOutput.put("node", nodeName);
                        content = JSON.toJSONString(nodeOutput);
                    }
                    sink.tryEmitNext(ServerSentEvent.builder(content).build());
                } catch (Exception e) {
thrownewCompletionException(e);
                }
            }).thenAccept(v -> {
// 正常完成
                sink.tryEmitComplete();
            }).exceptionally(e -> {
                sink.tryEmitError(e);
returnnull;
            });
        });
    }
}

8、启动项目测试

调用工具测试

http://localhost:9090/chat/stream?query=请查询员工jack的信息

可以看到智能体Graph自动调用了工具方法查询员工信息，并以流式输出的方式返回结果。

RAG测试

http://localhost:9090/chat/stream?query=公司的年假有几天

测试结果表明，智能体Graph自动调用了向量搜索了员工手册知识库，查询公司年假天数，并总结返回结果。

三、总结

Spring AI Alibaba 是以 Spring AI 为基础，强化企业级多智能体协作与阿里云生态集成的生产级框架。其核心价值在于通过 Graph 编排、国产模型适配、企业工具链，解决复杂 AI 应用从开发到落地的全链路问题，尤其适合国内企业构建高可靠性智能系统。若项目依赖阿里云生态或需多智能体协同，Spring AI Alibaba 是更优选择；若仅需基础 AI 能力集成，Spring AI 更轻量。

但目前Spring AI 和 Spring AI Alibaba GA版本刚发布不久，体验后感觉还是很多Bug，特别是集成第三方工具，比如向量数据库过程中，还是会经常出现一些莫名其妙的问题，框架成熟度还需要不断进行提升。

如何学习大模型 AI ？

我国在AI大模型领域面临人才短缺，数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着Al技术飞速发展，预计到2025年，这一缺口将急剧扩大至400万，严重制约我国Al产业的创新步伐。加强人才培养，优化教育体系，国际合作并进，是破解困局、推动AI发展的关键。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛，没有明确的学习路线可能会导致新人感到迷茫，不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学，我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

针对以上大模型的学习路线我们也整理了对应的学习视频教程，和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路！

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等

博主介绍＋AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发，与智学优课联合孵化，培养适合未来发展需求的技术性人才和应用型领袖。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

为什么要学习大模型？

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

适合人群

• 在校学生：包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础，有志于深入AGI大模型行业，希望开展相关的研究和开发工作。
• IT行业从业人员：包括在职或失业者，涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验，至少1年以上的编程工作经验，对大模型技术感兴趣或有业务需求，希望通过课程提升自身在IT领域的竞争力。
• IT管理及技术研究领域人员：包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势，主导技术创新，推动大模型技术在企业业务中的应用与改造。
• 传统AI从业人员：包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作，现需要快速补充大模型技术能力，获得大模型训练微调的实操技能，以适应新的技术发展趋势。
  

课程精彩瞬间

大模型核心原理与Prompt：掌握大语言模型的核心知识，了解行业应用与趋势；熟练Python编程，提升提示工程技能，为Al应用开发打下坚实基础。

RAG应用开发工程：掌握RAG应用开发全流程，理解前沿技术，提升商业化分析与优化能力，通过实战项目加深理解与应用。

Agent应用架构进阶实践：掌握大模型Agent技术的核心原理与实践应用，能够独立完成Agent系统的设计与开发，提升多智能体协同与复杂任务处理的能力，为AI产品的创新与优化提供有力支持。

模型微调与私有化大模型：掌握大模型微调与私有化部署技能，提升模型优化与部署能力，为大模型项目落地打下坚实基础。

顶尖师资，深耕AI大模型前沿技术

实战专家亲授，让你少走弯路

一对一学习规划，职业生涯指导

• 真实商业项目实训
• 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准，具备真实大模型项目实践操作经验可写入简历，支持项目背调

大厂绿色直通车，冲击行业高薪岗位

文中涉及到的完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】