PPIO × GPT4All:构建本地知识库,让AI更懂你
使用AI协助工作,可以大幅提升效率,但是将公司文件、客户资料上传到平台时,又会担心信息泄露,存在合规风险。又或者是由于AI缺少行业内的专业知识,生成的内容准确度不高,很难作为参考。
如果通过将文档在本地电脑上分析整理,构建私有知识库,不仅能降低数据泄露风险,还能减少幻觉,让AI的回答更贴合实际业务场景。
下面我们就使用GPT4All,结合PPIO派欧云提供的高性能大模型 API 服务,手把手带你构建本地知识库,让AI成为最懂你业务的“私人顾问”。
PPIO × GPT4All 配置教程
第一步:获取 API key
1. 获取 API 密钥
注册登录派欧云,填写邀请码【JMZ5F8】得 15元代金券。
登录地址为:https://ppinfra.com/user/register?utm_source=official_csdn
打开 API 密钥管理页面,点击创建按钮,输入自定义密钥名称,生成API密钥。
2. 生成并保存 API 密钥
!!注意:秘钥在服务端是加密存储,请在生成时保存好秘钥;若遗失可以在控制台上删除并创建一个新的秘钥。
3. 获取 【模型ID】
需要使用的模型 ID
-
deepseek/deepseek-r1-turbo
-
deepseek/deepseek-v3-0324
-
qwen/qwen3-235b-a22b-fp8
-
qwen/qwen3-30b-a3b-fp8
其他模型ID、最大上下文及价格可参考:模型列表
第二步:下载并配置GPT4All
1. 下载GPT4All
前往GPT4All官网下载应用。
下载地址:https://www.nomic.ai/gpt4all
2. 配置API密钥
主页点击【查找模型】,选择【自定义】,填入对应内容。
① API密钥:从派欧云官网保存的API密钥;
② 基础URL:https://api.ppinfra.com/v3/openai
③ 添加你所需要的模型名称,例如:deepseek/deepseek-v3-0324
3. 选择所需模型
打开对话窗口,选择所需使用模型,此时已经可以进行对话,但想要模型根据本地文档生成内容,还需构建私有知识库。
第三步:构建私有知识库
1. 创建本地文档合集
点击【本地文档】,选择你的本地文档所在文件夹,并输入文档名称。
2. 配置Embedding模型
文档合集创建后,系统会自动下载所需Embedding模型,模型下载完成显示“准备”时,即代表已完成配置。
3. 开启本地知识库使用
回到对话页面,勾选此前创建本地文档合集,对话时就可以看到模型从本地知识库开始检索并生成回答。