文 / 勇哥
原创文章，转载请联系授权

在前一篇文章中，我们探讨了《Java程序员该如何快速上手LLM应用开发呢?》。今天，让我们聚焦Spring AI——这个被称为"Spring开发者的AI赋能工具包"的框架，它为Java开发者打开了一扇通往AI世界的便捷之门。

作为一名在Java领域摸爬滚打快20年的"老码农"，我见过太多团队在集成AI能力时遇到的痛点：开发语言不一致、重复造轮子、供应商锁定、复杂的配置管理、陡峭的学习曲线…Spring AI的出现，就像给Java开发者提供了一套"AI集成的标准接口"，让AI功能的引入变得简单、统一、可扩展。

核心观点：Spring AI是Spring开发者做AI集成的"瑞士军刀"，它通过统一的API抽象和自动配置，让Spring应用能够轻松集成各类AI模型和服务，无需关心底层实现细节。

一、Spring AI：为什么它是Spring开发者的AI桥梁？

想象一下，你是一家使用Spring技术栈的企业技术负责人，现在需要在现有系统中集成AI能力：

开发团队熟悉Spring Boot、Spring Cloud的开发模式，希望保持一致的编程体验；架构师担心引入多个AI供应商会导致技术栈碎片化；运维团队关心配置管理和系统稳定性——大家都在为同一个目标努力，但面临的技术挑战各不相同。

Spring AI就像一座精心设计的"桥梁"，它提供了：

• 统一的API抽象：用一致的接口访问不同的AI服务，屏蔽底层差异；
• Spring风格的集成：充分利用自动配置、依赖注入等Spring特性；
• 丰富的模型支持：从大语言模型到嵌入模型，从图像生成到语音处理；
• 企业级的可靠性：支持安全配置、错误处理、可观测性等企业级特性。

一句话，Spring AI让AI集成变得"Spring化"，是Java开发者拥抱AI时代的最佳选择之一。

二、Spring AI的核心架构：5大核心概念的"AI工具箱"

Spring AI围绕几个核心概念构建，这些概念构成了它的基础架构：

2.1 模型抽象 (Model)：AI能力的统一入口

一句话概括：模型抽象是Spring AI的核心，它定义了与不同类型AI模型交互的统一方式。

核心类型：

• 语言模型 (Language Model)：处理文本理解和生成，是大语言模型的抽象；
• 嵌入模型 (Embedding Model)：将文本转换为向量表示，是语义搜索的基础；
• 图像模型 (Image Model)：处理图像生成和分析，支持多模态应用；
• 语音模型 (Speech Model)：处理语音识别和合成，构建语音交互应用。

实战要点：

• 优先使用接口而非具体实现，保持代码的灵活性；
• 合理选择模型类型，根据具体业务场景匹配最适合的AI能力。

适用场景：各种需要AI能力的Spring应用，特别是需要灵活切换AI供应商的场景。

2.2 提示模板 (Prompt Template)：提示工程的Spring实现

一句话概括：提示模板让提示工程变得结构化、可重用，是构建高质量AI交互的基础。

核心能力：

• 定义标准化的提示格式；
• 动态替换提示中的变量；
• 构建上下文相关的提示序列；
• 支持模板复用和版本管理。

实战要点：

• 将复杂提示抽象为模板，提高可维护性；
• 设计参数化的模板，增强灵活性；
• 为不同业务场景创建专用模板库。

适用场景：需要标准化AI交互、批量处理不同内容的应用。

2.3 聊天客户端 (Chat Client)：对话式AI的简化接口

一句话概括：聊天客户端封装了与聊天模型交互的复杂性，让构建对话应用变得简单。

核心功能：

• 提供简单的消息发送和接收接口；
• 管理对话上下文和历史记录；
• 处理模型参数和配置；
• 支持同步和异步调用方式。

实战要点：

• 使用依赖注入获取聊天客户端实例；
• 合理管理对话历史，避免上下文过长；
• 根据需要调整温度参数，平衡创造性和准确性。

适用场景：智能客服、聊天机器人、交互式AI助手等应用。

2.4 向量存储 (Vector Store)：语义搜索的基础设施

一句话概括：向量存储是实现检索增强生成(RAG)的关键组件，为AI应用提供外部知识。

核心特性：

• 存储和管理文本嵌入向量；
• 提供高效的相似性搜索功能；
• 支持元数据过滤和排序；
• 集成多种向量数据库后端。

实战要点：

• 选择合适的向量存储实现(Pinecone、Milvus等)；
• 优化嵌入模型和向量维度，平衡性能和准确性；
• 实现增量向量更新机制，保持知识库新鲜度。

适用场景：基于企业知识库的问答系统、智能文档检索、个性化推荐等应用。

2.5 检索增强生成 (RAG)：提升AI回答准确性的关键技术

一句话概括：RAG结合了外部知识检索和AI生成能力，解决了大模型知识时效性和准确性问题。

核心流程：

1. 将企业文档转换为向量并存储；
2. 根据用户查询检索相关文档片段；
3. 将检索内容和用户问题组合为增强提示；
4. 调用大模型生成基于检索内容的回答。

实战要点：

• 优化文档分块策略，平衡上下文完整性和相关性；
• 实现混合检索策略(关键词+语义)，提高检索准确性；
• 设计有效的提示模板，引导模型正确使用检索内容。

适用场景：企业知识问答、技术支持系统、智能文档助手等应用。

三、Spring AI实战：从环境准备到第一个AI应用

3.1 环境准备：构建AI应用的基础

核心要求：

• Java 17+：Spring AI要求Java 17或更高版本；
• Spring Boot 3.0+：需要与Spring Boot 3.0及以上版本兼容；
• Maven/Gradle：用于依赖管理和构建；
• AI服务API密钥：如Hunyuan、Deepseek、Doubao等服务的访问凭证。

实战步骤：

<!-- 在pom.xml中添加Spring AI依赖 -->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
    <version>0.8.0</version>
</dependency>

<!-- 如果需要向量存储 -->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-pinecone-store-spring-boot-starter</artifactId>
    <version>0.8.0</version>
</dependency>

<!-- 基本Spring Boot依赖 -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
</dependency>

在application.properties中配置API密钥：

# Deepseek配置
spring.ai.openai.api-key=your-api-key
spring.ai.openai.chat.model=gpt-3.5-turbo
spring.ai.openai.chat.temperature=0.7

# 可选：向量存储配置（使用Pinecone时需要）
# spring.ai.pinecone.api-key=your-pinecone-api-key
# spring.ai.pinecone.environment=your-pinecone-environment
# spring.ai.pinecone.index=your-index-name

重要说明：

1. 请确保使用有效的API密钥替换your-api-key
2. Spring AI的包名已从org.springframework.cloud更改为org.springframework.ai，示例中已更新
3. 完整运行示例需要Java 17+和Spring Boot 3.0+

3.2 Hello World：构建你的第一个AI应用

下面是一个简单的聊天应用示例，展示了Spring AI的基本用法：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@SpringBootApplication
public class SpringCloudAiDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(SpringCloudAiDemoApplication.class, args);
    }

    @RestController
    static class ChatController {

        private final ChatClient chatClient;

        public ChatController(ChatClient chatClient) {
            this.chatClient = chatClient;
        }

        @GetMapping("/chat")
        public String chat(@RequestParam String message) {
            return chatClient.call(message);
        }
    }
}

启动并测试：

1. 确保已在application.properties中配置了有效的OpenAI API密钥
2. 运行应用（使用mvn spring-boot:run或通过IDE运行）
3. 访问 http://localhost:8080/chat?message=什么是Spring AI？
4. 查看AI的回答

这个简单的例子展示了Spring AI的核心价值——只需几行代码，就能将强大的AI能力集成到Spring应用中。

代码优化说明：
所有代码示例都已添加必要的导入语句，并更新为使用Spring AI最新的API包结构。ModelRouter类已作为自定义实现添加，因为它可能不是Spring AI标准API的一部分。

四、Spring AI高级特性：打造企业级AI应用

4.1 流式响应：提升用户体验的交互方式

流式响应让AI生成的内容实时返回，就像人类对话一样自然，特别适合聊天界面和长文本生成场景。

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.http.MediaType;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import reactor.core.publisher.Flux;
import java.io.IOException;
import java.util.concurrent.CompletableFuture;

@RestController
@RequestMapping("/stream")
public class StreamingController {
    
    private final ChatClient chatClient;
    
    public StreamingController(ChatClient chatClient) {
        this.chatClient = chatClient;
    }
    
    @GetMapping(value = "/chat", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
    public SseEmitter streamChat(@RequestParam String message) {
        SseEmitter emitter = new SseEmitter();
        
        // 异步处理流式响应
        CompletableFuture.runAsync(() -> {
            try {
                // 获取流式响应
                chatClient.stream(message).subscribe(
                    chunk -> {
                        try {
                            emitter.send(SseEmitter.event().data(chunk));
                        } catch (IOException e) {
                            emitter.completeWithError(e);
                        }
                    },
                    error -> emitter.completeWithError(error),
                    () -> emitter.complete()
                );
            } catch (Exception e) {
                emitter.completeWithError(e);
            }
        });
        
        return emitter;
    }
}

实战要点：

• 使用SseEmitter处理服务器发送事件；
• 采用异步方式处理流式响应，避免阻塞；
• 在前端实现流式接收和渲染逻辑。

4.2 构建RAG应用：连接企业知识库

RAG是Spring AI最强大的应用场景之一，它让AI应用能够访问企业内部知识：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.document.Document;
import org.springframework.ai.vectorstore.VectorStore;
import org.springframework.stereotype.Service;
import java.util.List;

@Service
public class RagService {
    
    private final ChatClient chatClient;
    private final VectorStore vectorStore;
    
    public RagService(ChatClient chatClient, VectorStore vectorStore) {
        this.chatClient = chatClient;
        this.vectorStore = vectorStore;
    }
    
    public String answerWithRag(String question) {
        // 搜索相关文档
        List<Document> relevantDocs = vectorStore.similaritySearch(question, 3);
        
        // 构建包含相关文档的提示
        StringBuilder promptBuilder = new StringBuilder();
        promptBuilder.append("根据以下信息回答问题：\n");
        
        for (Document doc : relevantDocs) {
            promptBuilder.append("- ").append(doc.getContent()).append("\n");
        }
        
        promptBuilder.append("\n问题：").append(question);
        promptBuilder.append("\n请基于提供的信息回答，不要添加额外信息。");
        
        // 获取AI响应
        return chatClient.call(promptBuilder.toString());
    }
}

实战要点：

• 设计高效的文档加载和处理管道；
• 优化提示模板，引导模型正确使用检索内容；
• 实现文档更新机制，保持知识的时效性。

4.3 模型路由：智能选择最佳AI模型

模型路由允许根据不同的业务需求选择最适合的AI模型，实现资源优化和成本控制：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.stereotype.Service;
import java.util.Map;
import java.util.HashMap;

// 自定义模型路由器类
class ModelRouter {
    private final Map<String, ChatClient> clientMap = new HashMap<>();
    private ChatClient defaultModel;
    
    public void addRule(String key, ChatClient client) {
        clientMap.put(key, client);
    }
    
    public void setDefaultModel(ChatClient client) {
        this.defaultModel = client;
    }
    
    public ChatClient getClient(String type) {
        return clientMap.getOrDefault(type, defaultModel);
    }
}

@Configuration
public class ModelRoutingConfig {
    
    @Bean
    public ModelRouter modelRouter(ChatClient chatClient) {
        // 注意：在实际项目中，您可能需要配置多个不同的ChatClient实例
        ModelRouter router = new ModelRouter();
        
        // 配置路由规则 - 这里为简化示例，两个规则都使用同一个客户端
        router.addRule("simple-query", chatClient);
        router.addRule("complex-query", chatClient);
        
        // 设置默认模型
        router.setDefaultModel(chatClient);
        
        return router;
    }
}

@Service
public class RoutingService {
    
    private final ModelRouter modelRouter;
    
    public RoutingService(ModelRouter modelRouter) {
        this.modelRouter = modelRouter;
    }
    
    public String routeRequest(String type, String message) {
        // 根据请求类型选择合适的模型
        ChatClient client = modelRouter.getClient(type);
        return client.call(message);
    }
}

实战要点：

• 基于请求复杂度、成本、性能等因素设计路由策略；
• 实现A/B测试机制，持续优化模型选择；
• 监控不同模型的效果，动态调整路由规则。

五、Spring AI最佳实践：避免4个常见陷阱

在实际项目中应用Spring AI时，我总结了几个最容易踩的坑和对应的解决方案：

5.1 陷阱1：忽视安全性

表现： API密钥泄露、缺乏输入验证、生成内容未经审核。

解决方法：

• 使用Spring Cloud Config或环境变量管理API密钥；
• 对用户输入进行严格验证和过滤；
• 实现内容审核机制，过滤不安全或不当内容；
• 使用Spring Security实现访问控制。

5.2 陷阱2：性能优化不足

表现： 响应时间过长、资源消耗过大、API调用频率过高。

解决方法：

• 实现响应缓存，减少重复调用；
• 使用异步处理避免阻塞主线程；
• 批量处理多个请求，减少API调用次数；
• 合理选择模型大小，平衡性能和效果。

5.3 陷阱3：错误处理不当

表现： 服务不可用时应用崩溃、错误信息不友好、缺乏重试机制。

解决方法：

• 实现熔断和降级机制，确保系统弹性；
• 添加重试逻辑，处理临时故障；
• 设计友好的错误提示，改善用户体验；
• 详细记录错误日志，便于问题排查。

5.4 陷阱4：忽视可观测性

表现： 难以监控系统运行状态、无法追踪请求路径、缺乏性能指标。

解决方法：

• 集成Spring Boot Actuator，暴露关键指标；
• 使用Micrometer收集和记录指标数据；
• 集成分布式追踪系统，如Zipkin或Jaeger；
• 实现详细的日志记录，包括请求和响应信息。

六、Spring AI vs 其他框架：如何选择？

在选择AI集成框架时，了解不同框架的优缺点很重要：

框架	优点	缺点
Spring AI	- 与Spring生态系统无缝集成- 统一的API抽象- 自动配置和依赖注入- 企业级特性支持	- 相对较新，功能可能不如其他框架丰富- 支持的AI服务提供商相对有限
LangChain	- 丰富的组件和工具链- 强大的RAG支持- 广泛的模型兼容性- 活跃的社区	- Java支持相对有限- 与Spring生态系统集成不够紧密
Hugging Face Transformers	- 最广泛的模型支持- 强大的微调能力- 活跃的研究社区- 详细的文档	- 学习曲线较陡峭- 与Spring生态系统集成需要额外工作- 资源消耗较大
OpenAI SDK	- 直接访问OpenAI最新功能- 详细的OpenAI特定文档- 快速迭代更新	- 仅限于OpenAI服务- 与Spring生态系统集成需要额外工作

选择建议：

• 如果你是Spring开发者，优先考虑Spring AI；
• 如果需要最广泛的模型支持，考虑Hugging Face；
• 如果项目非Java技术栈，LangChain可能是更好的选择；
• 如果只使用OpenAI服务且需要最新功能，可考虑直接使用OpenAI SDK。

七、总结与行动建议

Spring AI为Spring开发者提供了一条通往AI世界的便捷路径，它让复杂的AI集成变得简单、统一、可扩展。在AI技术快速发展的今天，掌握Spring AI将成为Java开发者的重要竞争力。

给开发者的3个行动建议：

1. 从小项目开始实践：选择一个简单的功能（如智能客服、内容生成），尝试用Spring AI实现，在实践中学习和掌握；
2. 深入理解核心概念：重点掌握模型抽象、提示工程、向量存储等核心概念，这些是构建复杂AI应用的基础；
3. 关注企业级应用场景：思考如何将Spring AI应用到企业实际业务中，如知识管理、智能分析、自动化决策等，创造真正的业务价值。

记住Spring AI的核心理念：“让AI集成变得和使用Spring框架一样简单”——这也是它为什么如此受到Java开发者欢迎的原因。

可参考的资源：

• Spring AI官方文档
• Spring AI GitHub仓库

---

互动话题：你在使用Spring AI时，遇到过哪些有趣的应用场景或技术挑战？欢迎在评论区分享你的经验和想法。

关于作者：勇哥，10多年的开发和技术管理经验，从程序员做到企业技术高管。目前专注架构设计和人工智能应用实践，全网帐号统一名称"六边形架构"，有些不太合适发到公号的内容我会单独发到我的朋友圈，欢迎关注我，一起交流学习。

原创不易，如果觉得有帮助，请点赞、收藏、转发三连支持！