当前位置：首页 > news >正文

Spring Ai 从Demo到搭建套壳项目（一）初识与实现与deepseek对话模式

news 2025/6/3 22:40:49

前言

为什么说Java长青，主要是因为其生态圈完善，Spring又做了一款脚手架，把对接各个LLM厂商的sdk做了一遍，形成一系列的spring-ai-starter-** 的依赖。目前为止版本去到1.0.0.M6，golang跟不上了吧， Make Java Greate Again!!

我打算这个系列介绍这个spring-ai-starter和各个LLM的关系，介绍实际操作，演示一下官网的一些关键点和没讲到的细节，还有后续会讲如何使用spring-ai搭建一个套壳项目（啥是套壳项目下一章会讲），从后端，到spring-ai对接，到前端的制作。比较希望大家已经对LLM有些基础的理解。

一、技术框架

如果没有框架，你需要做什么？

你要自己写http调用代码，来分别对各个LLM模型接口（或者SDK，例如https://api-docs.deepseek.com/zh-cn/api/create-chat-completion/）的请求，等待他结果的返回，解析响应。spring-ai就同一个了接口。
还有支持Advisor，就像面向切面那样，发送请求前，检查文本有没有命中禁用词，就例如企业不允许把代码透露出去，也不允许使用某些黑词，就可以这里检查。
还有支持MCP调用能力，如果不对接spring-ai，你就要自己实现MCP协议的调用代码，来达到调用别的服务。例如：后续会实现的使用高德地图mcp，得到高德查看坐标工具，交通工具，路线规划工具，天气工具。
支持会话跟踪，如果你不接spring-ai，你还需要自己记录会话到表，或者让前端把说过的话，一次过传给后端，后端再告诉ai来做context上下文跟踪。
RAG检索增强，可以通过他告诉ai又额外的一套文本，让某个LLM分析这个文本，得到你想要的答案。我觉得这个点可以用于客服话术，先拟定好话术，通过RAG解析话术的文本，当用户跟ai对话的时候，附带这个解析后的spring-ai的Document类对象，得到话术的结果。例如：设定话术用户发送一串数字，就回复“这个订单有什么问题？”

那目前市面上有什么框架呢？

在这里插入图片描述

目前看到的java相关的有org.springframework.ai这个group下的

spring-ai-starter-**

这个前缀的依赖。其后缀包括open-ai, aliyun , deepseek, anthropic等，他就是整合了对多个LLM厂商的接口，统一封装，底层还是调用各个LLM厂商的SDK。

那为什么spring要封装呢？其实你看名字叫starter就知道了，一般叫starter的都是脚手架，就如springcloud，springboot那样，通过yml或者properties的配置，来实现自动装配，生成一个springbean，
方便你去调用。

spring:ai:openai:api-key: ${你的key}base-url: ${请求openai的地址}deepseek:api-key: ${你的key}base-url: "https://api.deepseek.com"chat:options:model: deepseek-chat

如这里就固定了层级格式，让你填写地址和key就可以了。

还有alibaba提供的框架，他基于上面这个依赖做的封装，这种就是套壳。

大家有没有发现上面代码需要对每个大预言模型都生成分别的api-key，所以就有人就想自己做一个统一的使用各个LLM地方，就如Cursor、Pandora，你看这些软件上，可以访问各个LLM的模型而不用对各个模型分别付费，这种统一地方的软件就是给钱包月或者按次数买1个apikey，就可以用各个LLM模型了

所以spring-ai-alibaba-stater-**系列，也是要去阿里百炼（旧名灵积）上生成一个key，就可以去使用不同的模型的一款套壳框架（https://bailian.console.aliyun.com/），现在也是免费的，但他可以给你免费使用这么多个LLM也是有成本的，以后还是得收费。

二、现在就演示一下，如何对接spring-ai，并使用deepseek模型进行对话

当前先了解spring-ai这个基础框架，第三章再来演示如何对接spring-ai-alibaba版的。因为spring-ai-alibaba现在免费，你当前可以基于这个套壳框架，再套壳后，给商用起来，但是当alibaba开始收费，你又要对接各个厂商了，而且某些公司还不能用alibaba的api-key，所以spring-ai这个基础框架还是要了解的。

建立maven 工程

引入依赖，一定要使用jdk 17 ，因为springboot已经3了

<properties><maven.compiler.source>17</maven.compiler.source><maven.compiler.target>17</maven.compiler.target><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
</properties><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId><version>3.3.4</version></dependency><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-starter-model-deepseek</artifactId><version>1.0.0</version></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-webflux</artifactId> <version>3.3.4</version></dependency></dependencies>

spring-boot-starter-webflux这个东西就是响应式接口的关键，没有他，就没有持续输出文字的效果 spring-ai-starter-model-deepseek 这个就是spring对deepseek的封装。

配置application.xml

server:port: 8081spring:application:name: spring-ai-deepseek-chat-model-exampleai:deepseek: ## 这一行是你选择的LLM模型，如果是openai，这里就填openai， base-url就是填对应厂商的地址api-key: ${你申请的apikey}base-url: "https://api.deepseek.com"chat:options:model: deepseek-chatembedding:enabled: false

创建主类

@SpringBootApplication
public class Application {public static void main(String[] args) {SpringApplication.run(Application.class,args);}
}

创建Controller

@RequestMapping("/openai")
@ResponseBody
@Controller
public class DeepSeekChatModelController {private final ChatModel deepSeekChatModel;// 主要就是这个地方，springboot已经把yml里的配置，生成好一个叫ChatModel的bean，注入进来controller里就可以直接使用了public DeepSeekChatModelController(ChatModel chatModel) {this.deepSeekChatModel = chatModel;}// 这个是同步等待LLM的结果，再回复给前端。@GetMapping("/simple/chat/{prompt}")public String simpleChat (@PathVariable(value = "prompt") String prompt) {return deepSeekChatModel.call(new Prompt(prompt)).getResult().getOutput().getText();}/*** Stream 流式调用。可以使大模型的输出信息实现打字机效果。* 这个就是sse方式回复内容给前端，就不用等所有的内容都收到才给前端* @return Flux<String> types.*/@GetMapping("/stream/chat/{prompt}")public Flux<String> streamChat (@PathVariable(value = "prompt") String prompt,HttpServletResponse response) {response.setCharacterEncoding("UTF-8");Flux<ChatResponse> stream = deepSeekChatModel.stream(new Prompt(prompt));return stream.map(resp -> resp.getResult().getOutput().getText());}
}