【阿里云大模型高级工程师ACP学习笔记】2.9 大模型应用生产实践 (下篇)
特别说明：由于这一章节是2025年3月官方重点更新的部分，新增内容非常多，因此我不得不整理成上、下两篇，方便大家参考。
学习目标
备考阿里云大模型高级工程师ACP认证的这部分内容，旨在深入理解大模型应用在安全合规方面的要求，掌握模型部署相关要点，提升实际操作和应对复杂情况的能力。具体目标如下：
- 掌握安全合规要点：深入学习RAG应用在内容安全合规和应用服务安全方面的具体要求与实现方案，包括输入输出合规检查、知识库访问控制、应用部署平台安全、数据传输安全和知识库数据存储安全等，确保大模型应用符合法规和安全标准。
- 熟悉模型部署知识：了解大模型应用备案的相关规定，掌握不同部署方式的安全要点，学会在实际场景中运用所学知识保障模型稳定、安全运行，避免出现安全漏洞和合规问题。
- 提升问题解决能力：通过学习容灾性设计、安全合规检查流程等内容，培养应对模型异常、安全风险等实际问题的解决能力，能够在遇到问题时迅速采取有效措施进行处理。
知识点汇总
| 知识点 | 知识内容 | 重要性 | 学习难易度 |
|---|---|---|---|
| 安全合规范围 | 1. 安全合规核心领域：RAG应用的安全合规主要聚焦两大核心领域，即内容安全合规和应用服务安全。 2. 内容安全合规范畴：针对输入输出内容进行合规性检查，同时对知识库访问实施控制。 3. 应用服务安全范畴：包含应用部署/访问安全、数据存储安全、数据传输安全等多个方面 | 高 | 中 |
| 内容安全合规 | 输入输出合规检查： - 支持内容类型：可对文本、图片、音频、视频等多种内容类型进行合规检查。 - 检查方法： 文本检查：采用规则匹配和文本分类两种方法，判断文本是否合规、评估风险点和等级，私域数据检查需额外导入规则。 图片检查：分为图片检测和文本检测两部分，图片检测涵盖图像内容合规性、敏感物体检测、版权检查等。 - 其他内容类型检查：音频可转换为文本后检测，视频可抽帧成图片或提取音频检测 。 知识库访问控制： - 权限匹配流程： |