RAG（检索增强生成）

先通过信息 检索模块 从外部知识库（如数据库、文档、网页等）中获取相关的上下文信息，然后再将这些信息与原始输入一起传递给生成模型，生成更具上下文关联的回复。

作用：降低了大模型直接生成内容时容易出现 “幻觉”的问题。

一、关键阶段

RAG 的三个关键阶段：

1. 检索（Retrieval）

• 将用户问题转换为向量表示

• 在向量数据库中搜索相似内容

• 返回最相关的文档片段（top-n）

2. 增强（Augmentation）

• 将检索到的文档与原始问题组合

• 构建包含上下文的提示词（prompt）

3. 生成（Generation）

• 将增强后的提示输入生成模型

• 模型基于上下文生成最终回答

二、核心组成

1. 知识库（Knowledge Base）

• 作用：存储结构化/非结构化知识

• 形式：

  • 文档数据库（PDF、Word、HTML等）

  • 向量数据库（ChromaDB、FAISS、Milvus）

  • 关系型数据库（MySQL、PostgreSQL）

  • 图数据库（Neo4j）

知识库三种检索方式：

• 稀疏检索：基于关键词匹配（BM25、TF-IDF）

• 稠密检索：基于语义相似度（Embedding模型）

• 混合检索：结合稀疏和稠密方法

相似度计算：余弦相似度或欧氏距离

公式：similarity = cos(θ) = (A·B)/(||A||·||B||)

2. 嵌入模型（Embedding Model）

• 作用：将文本（问题、知识库片段）转换为向量表示，实现「语义层面的数值化」（向量距离越近，语义越相似）

• 示例：Sentence-BERT、bge-large-zh、text-embedding-ada-002 (OpenAI)

• 关键特性：

  • 语义相似度计算，

  • 支持长文本（可达8192 token）

3. 向量数据库（Vector Database）

• 定义：专门用于存储和检索 “向量” 的数据库，支持高效的 “相似性搜索”。

• 作用：提前将知识源中的文本（如文档段落）通过嵌入模型转换为向量，存储在向量数据库中（即 “构建知识库索引”）；当用户查询时，将查询转换为向量后，在数据库中快速找到与查询向量 “最相似” 的向量（即最相关的知识片段）。

• 示例：开源工具如 Chroma、Milvus、FAISS；云服务如 Pinecone、Weaviate 等。

4. 大语言模型（LLM）

• 作用：基于“用户问题”和“检索到的知识”，生成自然语言回答。

• 常用模型：GPT系列（GPT-3.5/4）、LLaMA、Claude、DeepSeek-R1、qwen、硅基流动

5. 提示词（Prompt）

由 用户问题 + 检索的上下文 组成

三、工作流程

1. 知识库构建

• 数据收集：收集领域内的结构化数据（如数据库表结构、Excel）、非结构化数据（如文档、PDF、网页、对话记录）等。
• 数据处理：对原始数据进行清洗、分割（如将长文档拆分为短片段，便于检索）、格式化（如提取关键词、生成向量）。
• 向量存储：将处理后的文本片段转换为向量（通过嵌入模型，如 bge-large-zh、text-embedding-ada-002、BERT、Sentence-BERT），存储到向量数据库（如 Chroma、Pinecone、Milvus）中，形成「可检索的知识库」。

2. 在线问答推理

• 问题解析：用户输入问题后，先将问题转换为向量（与知识库向量用同一嵌入模型）。
• 相似检索：通过向量数据库，计算问题向量与知识库中所有文本向量的相似度，检索出最相关的 top N 个文本片段（即「上下文信息」）。
• 增强生成：将「问题 + 检索到的上下文信息」一起作为提示词 输入大模型，让模型基于这些外部事实生成回答（而非仅依赖自身知识）。

四、关键技术

1. 检索优化技术

2. 提示工程技术

def build_rag_prompt(question, contexts) -> str:"""构建RAG提示模板"""prompt = """你是一位银行业务专家，请严格根据提供的上下文信息回答问题。上下文信息：{contexts}用户问题：{question}回答要求：1. 基于上下文回答，不要编造信息2. 如上下文未包含答案，请说明"根据现有资料未找到相关信息"3. 使用专业、简洁的语言4. 重要数据需标明来源""".format(contexts="\n\n".join([f"[来源：{c.metadata}] {c.content}" for c in contexts]),question=question)return prompt

五、RAG的局限和解决方案