springAi接入本地部署deepseek
上一篇本地简单的部署了deepseek后,通过spring推出的spring ai进行代码实现一个快速入门。2.2注入ollamaChatModel。2.3简单的通过rest接口进行输出文本。勾选一下webspring AI。构建一个新的spring ai项目。2.4通过流试方式输出文本。
·
上一篇本地简单的部署了deepseek后,通过spring推出的spring ai进行代码实现一个快速入门
步骤一:
构建一个新的spring ai项目
勾选一下web spring AI
步骤二:
2.1配置模型:
spring:
ai:
ollama:
chat:
options:
model: deepseek-r1:7b
2.2注入ollamaChatModel
@Bean
public ChatClient chatClient(OllamaChatModel chatModel){
return ChatClient.builder(chatModel).build();
}
2.3简单的通过rest接口进行输出文本
return chatClient.prompt()
.user(prompt).call().content();
2.4通过流试方式输出文本
return chatClient.prompt()
.user(prompt).stream().content();
更多推荐
所有评论(0)