大模型应用开发（PAFR）

Prompt问答

特征:利用大模型推理能力完成应用的核心功能

应用场景：

• 文本摘要分析

• 舆情分析

• 坐席检查

• AI对话

• 

Agent+Function Calling

特征：将应用端业务能力与AI大模型推理能力结合，简化复杂业务功能开发

应用场景:

• 旅行指南

• 数据提取

• 数据聚合分析

• 课程顾问

RAG Embeddings

特征：给大模型外挂一个知识库，让大模型基于知识库内容做推理和回答

离线步骤：

• 文档加载

• 文档切分

• 文档编码

• 写入知识库

在线步骤

• 获得用户问题

• 检索知识库中相关知识片段

• 将检索结果和用户问题填入Prompt模板

• 用最终获得的Prompt调用LLM

• 由LLM生成回复

应用场景：

• 个人知识库

• AI客服助手

Fine-tuning

特征：针对特有业务场景对基础大模型做数据训练和微调，以满足特定场景的需求