基于本地知识库的政务问答智能体

1.项目背景：

近年来，国家大力推进 “数字政府”“智慧政务” 建设，《“十四五” 数字经济发展规划》《关于加强数字政府建设的指导意见》等政策文件明确提出，要运用新一代信息技术优化政务服务流程，推动政务服务从 “线下跑” 向 “网上办”、从 “分头办” 向 “协同办” 转变。在此背景下，各地政府积极探索数字化转型路径，期望通过智能化工具提升政务服务的便捷性、精准性和普惠性，满足人民群众对高效、透明政务服务的新期待。

传统政务咨询服务模式（如人工窗口、政务热线）面临诸多挑战。服务效率低，面对海量咨询需求，人工处理能力有限，导致群众等待时间长，问题解决效率低下；信息不统一，不同部门、不同工作人员对政策法规的解读存在差异，易造成群众困惑；人力成本高，持续投入大量人力用于重复性咨询解答，挤占了政务服务其他领域的资源；覆盖范围窄，受工作时间、地域限制，无法为群众提供 7×24 小时、跨区域的即时服务。

人工智能、大模型、自然语言处理等技术的成熟，为政务咨询服务升级提供了有力支撑。RAG技术能够将分散的政务知识结构化，实现高效检索与关联分析；智能问答系统通过机器学习不断优化算法，可精准理解用户意图并提供准确解答；多模态交互技术支持语音、文字、图像等多种咨询方式，极大提升了用户体验。

在数字化浪潮与政策推动下，政务服务转型需求迫切。政务咨询助手应运而生，旨在解决现存痛点，提升服务水平。

政务咨询系统通过精准解答、流程提效、数据驱动、安全可控四大核心能力，实现了从 “被动咨询” 到 “主动服务” 的升级，不仅降低了政务服务成本，更提升了公众满意度和政府公信力，是数字政府建设的重要基础设施。

2.目标：

政务咨询助手旨在通过整合政务知识库与先进AI大模型技术，精准解答政策解读、办事流程等高频政务问题，将解答准确率提升至95%以上，覆盖80%以上核心服务场景，实现问题响应≤5 秒，减少 30% 人工咨询压力；同时支持多模态交互，保障数据安全合规，统一政务服务标准，推动政务服务向高效化、智能化、透明化转型升级，最终达成用户满意度超90%，全面提升政务服务效能与公众体验。

3.实施内容：

3.1政务数据获取

政务数据来源于山西省人们政府官网（政策 - 山西省人民政府）。主要获取了规章、政策、行政性规范文件3类型的数据。其中规章数据172，行政性规范文件4994，政策3144，总计8310个政务数据文件。

3.2智能体搭建

3.2.1知识库搭建

基于dify平台的知识库进行政务咨询知识库的本地搭建。知识库同样是依据规章、政策、行政性规范搭建了3个知识库，同时为了提升知识检索的效果，还增加了3个知识库对应的QA知识库。

3.2.2应用搭建

基于dify平台的流程引擎，搭建政务咨询智能体助手。

首先判断用户的提问是否合规，对于合规的用户输入的问题进行分类，如果是非政务咨询类的问题，直接委婉回复咨询的问题不属于咨询范围。如果属于政务类问题，继续判断是否是历史高频问题，如果是直接基于历史高频问题构建知识库，实现标准化回答，减少重复咨询压力。如果不是直接进行上面3类知识库的检索，如果检索结果为空，直接委婉回复不知道。如果检索结果不为空，将检索结果输入qwen2.5大模型生成最终回复。如果检索结果为空，基于上面3类型的QA知识库进行2次检索，如果2次检索出相应内容，将内容输入qwen2.5大模型生成最终回复。如果2次检索没有检索出对应内容，直接委婉回复不知道。

3.2.3提示词工程

Qwen2.5LLM模型的提示词：

##角色定位
你是一名专业的政务服务智能助手，始终以严谨、准确、易懂的态度为群众解答政务问题。回答时需引用最新政策文件（注明文号）。如果是业务办理类型的问题，提供办理流程、所需材料、办理时限、线上线下办理渠道等信息。若问题超出职能范围，需礼貌说明，并引导至相关部门咨询电话或官方渠道。##山西省基本信息
山西省共有 11 个地级市，分别是太原市、大同市、阳泉市、长治市、晋城市、朔州市、晋中市、运城市、忻州市、临汾市、吕梁市。##中国基本信息
中国共有 34 个省级行政区，包括 23 个省（黑龙江省、吉林省、辽宁省、河北省、河南省、山东省、山西省、陕西省、甘肃省、青海省、四川省、云南省、贵州省、湖南省、湖北省、江西省、安徽省、江苏省、浙江省、福建省、台湾省、广东省、海南省）、5 个自治区（内蒙古自治区、广西壮族自治区、西藏自治区、宁夏回族自治区、新疆维吾尔自治区）、4 个直辖市（北京市、天津市、上海市、重庆市）和 2 个特别行政区（香港特别行政区、澳门特别行政区）。##注意事项
回答用户的问题时，如果在知识库中可以找到与问题最相关的
，最大保证输出原文原始内容。

非政务问题的提示词：

非常感谢您的提问！您反馈的内容暂不属于本政务服务平台的业务受理范围，为避免耽误您获取有效信息，建议您通过对应职能部门官网、政务服务热线或线下窗口进行咨询。若后续有其他政务相关问题，欢迎随时向我们提问，我们将竭诚为您服务！

未检索道相关政策的提示词：

感谢您的提问！目前暂未检索到相关内容，建议您通过 [政务服务网 / 服务热线 12345 / 线下办事大厅] 进一步咨询，工作人员将为您提供更专业的帮助～

内容审查的关键词：

诈骗
赌博
吸毒
走私
洗钱
暴力行为
非法集会
伪造证件
商业贿赂
垄断经营
偷税漏税
非法集资
恶意竞争
虚假政策
伪造政府文件
冒名顶替办理
泄露个人信息（如身份证号、银行卡号）

内容审查不合格的提示词：

您的提问涉及敏感或违反相关法律法规的内容，根据政务服务管理规定及信息安全要求，我们无法提供相关解答。政务服务旨在传递合法、合规的信息，若您有其他关于政策咨询、办事流程等方面的合理问题，欢迎随时提问。

3.3模型微调：

3.3.1训练数据制作

将8310个政务数据文件经过文档提取，基于qwen2.5:7b大模型生成QA问答对数据，再经过数据清洗、过滤，最终得到27036条QA问答对数据。

3.3.2模型训练微调

模型采用qwen3-4b模型，保证华为昇腾单卡就可以支持该模型。模型基于LLaMA-Factory框架进行训练。

3.4信创化部署

目前整个政务咨询助手的全生命周期都是支持信创化的，包括操作系统、cpu、NPU、应用、模型。

具体的dify平台的信创化部署、Embedding模型、Rerank模型、问答模型的信创化部署。其中dfiy平台在华为海思cpu、OpenEuler系统上部署成功。Embedding模型、Rerank模型基于xinference框架部署，目前在atlas300、atlas 800两种华为NPU上部署成功。问答模型（qwen2.5、qwen3）基于vllm-ascend在华为atasl800NPU上部署成功。

此外我们在华为自有的推理框架MindIE上也做了相关的部署尝试，目前还存在一些问题。

3.5迁移适配

在政务问答智能体项目中，知识库和中间件的数据持久化是确保服务稳定性、可靠性和数据一致性的关键环节。数据持久化可以保证数据不丢失、高可用性与一致性、可扩展性与性能、合规与安全。

政务咨询助手的本地知识库、PostgreSQL、Redis、Elasticsearch、nginx、weaviate、以及其他中间件的数据、配置信息等，全部做了持久化，可以直接基于持久化迁移。

在支持数据的迁移适配的基础上，可以做多节点的部署、节点到节点的迁移，通过这些操作，可以有效的解决真实场景的高并发问题、升级问题、用户租户问题，真正将应用向产品化迈进。相比于云原生k8s多节点部署的分布式解决方案，该方案会造成一定的运维工作量增加、机器资源的少量浪费，后续将探索基于k8s的最佳解决方案。

4.技术架构图

政务咨询助手的技术架构图，分为四层：基础算力层、服务层、应用层、展现层。

基础算力层依托政务云，提供 Atlas 800T、Atlas 300I 等计算、存储、网络、安全资源 ，是整个系统运行的硬件基础保障。

服务层包括中间件、应用服务、通用能力、部署能力。中间件包含 PostgreSQL、Redis 等多种组件，提供数据存储、缓存、搜索等功能。应用服务包含web、api、worker协同，处理业务逻辑与请求响应。通用能力具备对话、Embedding、ReRank 等模型能力。部署能力基于MindIE、vilm - ascend、xinference 支持模型部署。

应用层包括低代码、大模型。低代码借助流程引擎、前端可视化设计、可视化 API 编程，降低开发门槛，加速应用开发。大模型通过提示工程、调优训练提升模型表现，适配政务咨询场景。

展现层通过网站形式呈现政务咨询助手，供用户交互使用。

整个系统遵循统一部署、监控、运维，以及统一开发框架、服务管理、接口标准，确保整体的规范性与稳定性。

5.人工智能应用效果

6.创新点

（1）信创化支持

政务咨询智能体在支持信创化方面表现卓越。它依托政务云信创环境，深度融合本地政务数据要素，实现大模型的本地化部署。在技术架构上，采用国产软硬件设施，适配信创生态，保障信息安全与自主可控。功能层面，在政务咨询中实现政策解读咨询等功能，方便群众办事。通过持续优化训练，不断提升在信创环境下的性能与适用性，助力政务服务智能化、数智化转型，构建新型政务生态。

（2）模型高召回、高准确性

通过对基础模型qwe3-4b进行针对性微调，显著提升了政务问答智能体的性能。在微调过程中，我们汇聚了海量且精准的政务领域专属数据，涵盖各类政策法规、规章制度、行政规范等信息。运用先进的训练算法，让模型深度学习政务语境下的语义特征与逻辑关系。经过多轮迭代优化，模型能够更精准地理解用户提问意图，在庞大的知识库中快速、准确地检索相关信息，有效提升了召回率。同时，对于复杂问题的理解与解答更加精准，大幅提高了回答的准确性，为民众提供更可靠、更高效的政务咨询服务。