springAI 大模型应用开发

一  笔记总结

1.1 spring AI 实战

1.1.1 spring ai+deepseek整合

通过使用spring ai 调用大模型deepseek，实现对话聊天，文字转图片，文字转音频。

1.1.2 OLLAMA

Ollama 专为本地部署和运行大型语言模型（LLM）而设计的框架工具。

使用ollma进行本地部署deepseek等大模型，通过 Ollama，个人开发者能以极低成本构建本地 AI 助手

1.1.3 RAG

RAG，全称 Retrieval-Augmented Generation ，中文叫做检索增强生成。RAG是一种结合了检索系统和生成模型的新型技术框架。应用场景：构建企业内部知识问答系统。
在RAG工作时，其运行流程大致为：
1.用户输入问题
2.问题向量化
3.向量数据库检索
4.构建上下文（含系统提示词）：这一阶段需要组织提示词（Prompt），让LLM更好地理解背景信息。
5.携带检索内容，调用大模型进行回答
6.返回最终答案给用户

1.1.4 提示词

prompt：提示词是引导大模型生成特定输出的输入，提示词的设计和措辞会极大地影响模型的响应结果，Prompt 提示词是与模型交互的一种输入数据组织方式

1.1.5 综合案例

使用spring ai+RAG 实现智能简历筛选助手功能
1.构建RAG简历知识库
2.通过检索词，查询RAG向量库，返回的用户信息经过封装成用户向量词，和系统向量词组成完成向量词
3.调用deepseek大模型，返回响应数据。
 

19.课程总结_哔哩哔哩_bilibili