当前位置: 首页 > ai >正文

window 系统 使用ollama + docker + deepseek R1+ Dify 搭建本地个人助手

1. 下载ollama ,官网 下载地址:Download Ollama on macOS,选择 Window

下载完成后,可在终端 使用 ollama --version

2. 下载 本地大模型,这里下载deepseek r1 7b

3.下载Embed模型

Embed模型 是文本工具向量化的核心工具

可在这里https://huggingface.co/spaces/mteb/leaderboard ,查看各个Embed 模型的排名


ollama  pull bge-m3

4.最难的就是配置docker

https://github.com/langgenius/dify

进入 github 下载源码

在项目根目录下,复制.env.example文件并重命名为.env

并修改以下配置

规定了每次上传大小限制

修改之后,

进入docker 文件夹下,使用cmd 命令,
然后
docker-compose down
docker-compose up -d

这个时候,可能会报错,具体可参考基于windows 使用 Docker 本地化部署Dify_windows docker dify-CSDN博客

如:

Error response from daemon: Get "https://registry-1.docker.io/v2/": dialing registry-1.docker.io:443 container via direct connection because static system has no HTTPS proxy: connecting to registry-1.docker.io:443: dial tcp 162.220.12.226:443: connectex: No connection could be made because the target machine actively refused it.

可在docker 配置中修改镜像源

5. 搭建RAG 知识库

分别添加大模型和向量化模型,

然后·上传本地知识库

检索方式可选择混合检索

但好像 Dify 不支持 Rerank 模型

然后就可以在工作室中创建自己的应用了

最后可正常使用

http://www.xdnf.cn/news/3985.html

相关文章:

  • C++笔记之接口`Interface`
  • 恶心的win11更新DIY 设置win11更新为100年
  • 《赤色世界》彩蛋
  • 数据封装的过程
  • 分析atoi(),atol()和atof()三个函数的功能
  • 【今日三题】小红的口罩(小堆) / 春游(模拟) / 数位染色(01背包)
  • 【Bootstrap V4系列】学习入门教程之 组件-卡片(Card)
  • Linux怎么更新已安装的软件
  • sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama解释这行代码的含义
  • 1.openharmony环境搭建
  • osquery在网络安全入侵场景中的应用实战(二)
  • 关于毕业论文,查重,AIGC
  • QT6 源(78):阅读与注释滑动条 QSlider 的源码,其是基类QAbstractSlider 的子类,及其刻度线的属性举例
  • 算法热题——等价多米诺骨牌对的数量
  • 【实战教程】React Native项目集成Google ML Kit实现离线水表OCR识别
  • 【云备份】服务端业务处理模块设计与实现
  • 2025-04-18-文本相似度-菜鸟
  • LLM(17):计算所有输入 token 的注意力权重
  • 【C语言练习】023. 编写条件编译代码
  • 高速互联技术:NVLink和PCIe有什么区别
  • 信息系统项目管理师-软考高级(软考高项)​​​​​​​​​​​2025最新(七)
  • 深度学习系统学习系列【4】之反向传播(BP)四个基本公式推导
  • Jogging(ABC249-A-竞赛题解)
  • 【QT】QT安装
  • ​亚马逊云服务器技术全景解析:从基础架构到行业赋能​
  • 42. 接雨水(相向双指针/前后缀分解),一篇文章讲透彻
  • 从代码学习深度学习 - 目标检测前置知识(二) PyTorch版
  • uniapp 云开发全集 云开发的概念
  • 什么是原码、反码与补码?
  • 数据管理能力成熟度评估模型(DCMM)全面解析:标准深度剖析与实践创新