当前位置: 首页 > backend >正文

Dify+Ollama搭建本地知识库

目录

一、前言

二、使用Ollama安装文本嵌入模型

​三、搭建本地知识库

一、前言

        前面我们安装好了Dify和Ollama之后,现在我们可以开始搭建自己的本地知识库了。没安装的可以看博主前面的文章:Dify+Ollama实现本地化部署DeepSeek-CSDN博客

二、使用Ollama安装文本嵌入模型

1.什么是文本嵌入模型
        文本嵌入是一种将文本转换成固定长度的数值向量的技术。这种表示方式有助于机器学习算法更好地理解和处理人类语言。文本嵌入的目标是将相似意义的词或句子映射到接近的空间位置上,以便于计算它们之间的相似度或其他关系。
2.文本嵌入模型的作用
        语义搜索:通过比较查询与文档的嵌入向量,找到最相关的文档。
        推荐系统:根据用户兴趣的嵌入向量推荐产品或内容。
        情感分析:通过分析文本嵌入向量中的模式识别正面、负面或中立的情感倾向。
        问答系统:帮助理解问题并从大量文本中找到最合适的答案。
        文本分类:自动对文本进行分类,如新闻文章的主题分类等。
3.如何高效选择RAG的Embedding模型
        打开Ollama官网:Ollama,点击上方的Models,选择Embedding

  • nomic-embed-text高精度检索,适合简短问题,
  • mxbai-embed-large快速处理大规模数据
  • snowflake-arctic-embed实用且平衡的选择
    根据自己的硬件配置选择一个合适的模型,这里我选择mxbai-embed-large来做演示。

4.部署mxbai-embed-large本地模型

        点击mxbai-embed-large,直接复制命令到终端执行,等待下载完成即可。

ollama pull mxbai-embed-large

 三、搭建本地知识库

        模型类型选择“Text Embedding”,模型名称填写“nomic-embed-large”,基础URL与添加deepseek模型的地址一样,然后点击保存即可。

 点击创建空白应用

 选择聊天助手,输入应用名称,点击创建

点击上方工具栏中的知识库,然后点击创建知识库

 选择准备好的知识库文件,支持多种格式,点击下一步,我这里简单的写了一点测试文本。

等待嵌入完成后,点击上方工具栏中的工作室,选择之前创建好的聊天助手,在上下文配置处点击添加按钮,选择上一步上传的知识库,点击添加即可。

现在按照我们上传的知识库中的内容,向deepseek本地模型发起提问,可以看到模型已完成了对知识库的学习,并准确的回答出了问题。

http://www.xdnf.cn/news/12593.html

相关文章:

  • C/C++ 中附加包含目录、附加库目录与附加依赖项详解
  • 高精度滚珠导轨在医疗设备中的多元应用场景
  • 江科大读写内部flash到hal库实现
  • STTT(IF:40.8) 清华大学常智杰团队完成雾化外泌体治疗肺纤维化的I期临床试验
  • python学习打卡day46
  • DRV8833 电机控制芯片
  • STM32定时器的种类作用
  • 惠斯通电桥温度补偿优化解决方案
  • 《架构即未来》笔记
  • Cesium等高线
  • 新版双紫擒龙、紫紫红黄、动能二号源码指标源码公式讲解
  • 基于SmartPlayer的超低延迟RTSP播放器全平台开发实录
  • 【GESP真题解析】第 14 集 GESP 三级 2024 年 9 月编程题 1:平衡序列
  • MajicTryOn(基于wanvideo的虚拟试穿项目)
  • 单图像生成3D动画模型TripoSR的部署过程
  • 局域网聊天室系统的设计与实现【源码+文档】
  • 储能方案设计:鹧鸪云模拟软件优势尽显
  • 文件对话框
  • daz3d + PBRSkin (MDL)+ SSS
  • 【国产8K 50P小型化广播级摄像机X2023央视总台春晚】多图预警
  • MySQL基础(五)事务、DCL权限控制、视图、同义词、索引及练习
  • 学习数字孪生,为你的职业发展开辟新赛道
  • 港股TRS交易系统开发:跨境资本的精密调度引擎
  • Beckhoff(倍福)PLC 顺控程序转换条件解读
  • MS8611运算放大器可pin对pin兼容AD8132
  • c++算法学习5——贪心算法
  • 新闻速递|Altair 与佐治亚理工学院签署合作备忘录,携手推动航空航天领域创新
  • SpringMVC执行流程
  • 前端关于position: sticky
  • 智能心理医疗助手开发实践:从技术架构到人文关怀——CangjieMagic情感医疗应用技术实践