当前位置: 首页 > news >正文

【DeepSeek】公司内网部署离线deepseek+docker+ragflow本地模型实战

企业内部可能有些数据比较敏感,不能连接互联网。本次实验操作是将deepseek完全离线后迁移至内网使用,实验基于Windows server 2022 datacenter系统安装deepseek、docker、ragflow。

目录

    • 使用VMware新建WIN2022虚拟机
    • 一、安装DeepSeek模型
    • 二.安装Docker

使用VMware新建WIN2022虚拟机

(本步骤省略)

一、安装DeepSeek模型

  1. 下载ollama
    官网https://ollama.com/下载自已电脑对应的ollama 版本。
    在这里插入图片描述

在这里插入图片描述
下载太慢的请看这里,我用移动的宽带下特别快
两个文件下到同一目录,用360解压缩
https://download.csdn.net/download/xzzteach/90571904
https://download.csdn.net/download/xzzteach/90571885

  1. 安装ollama

注意:
Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;
建议将Ollama安装包放到想要安装的路径下,本实验安装在 D:\ds\ollama

在安装文件目录中进入CMD

在这里插入图片描述
输入安装指令

OllamaSetup.exe /DIR=D:\ds\ollama

在这里插入图片描述
点击install进行安装
在这里插入图片描述
检查安装成功的版本号

ollama -v

在这里插入图片描述

  1. 本地离线部署DeepSeek
    选择模型并下载
    打开Ollama官网,点击顶部的Models链接,选择deepseek-r1模型,如下图所示:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

在这里插入图片描述
出现success就代表成功了,并且可以进行对话.
在这里插入图片描述

二.安装Docker

安装前先打开启用或关闭Windows功能界面 ,随后打开红框中的内容,如果第一个红框没有的话那么看看有没有一个叫做虚拟机平台 的进行打开

开始菜单搜索“控制面板”
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
执行

dism /online /enable-feature /all /featurename:Microsoft-Hyper-V

在这里插入图片描述
提示重启,输入Y重启服务器

下载docker
https://www.docker.com/

在这里插入图片描述

因为笔者服务器系统Windows server 2022 C盘空间特别小,这里把Docker安装到D盘
先创建两个文件夹

mkdir D:\ds\DockerDesktop
mkdir D:\ds\DockerDesktop\data

查看目录已成功创建
在这里插入图片描述

现在开始安装

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\ds\DockerDesktop" --wsl-default-data-root="D:\ds\DockerDesktop\data" --windows-containers-default-data-root="D:\\ds\\DockerDesktop"

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

wsl --update

在这里插入图片描述
这样更新一般会特别慢,下面链接可以点击下载直接更新
https://download.csdn.net/download/xzzteach/91804044

下载ragflow
https://github.com/infiniflow/ragflow
在这里插入图片描述
原来是这样的
在这里插入图片描述
修改成如下所示:也就是标红部分未注释的注释掉,已注释的取消(这样才能带Embedding模型)
在这里插入图片描述
docker端口与本地对应关系根据自己的情况修改,我这里保持了默认:
在这里插入图片描述
来到ragflow的docker目录执行命令如下:

docker compose -f docker-compose.yml up -d
http://www.xdnf.cn/news/1390357.html

相关文章:

  • 软考-系统架构设计师 办公自动化系统(OAS)详细讲解
  • 【C语言】深入理解指针(2)
  • [打包压缩] gzip压缩和解压缩介绍
  • webservice在进行run maven build中出现java.lang.ClassCastException错误
  • C++基础(⑤删除链表中的重复节点(链表 + 遍历))
  • 【C++闯关笔记】STL:vector的学习与使用
  • Spring Security 传统 web 开发场景下开启 CSRF 防御原理与源码解析
  • CorrectNav:用错误数据反哺训练的视觉语言导航新突破
  • Apache服务器IP 自动跳转域名教程​
  • electron-vite 配合python
  • UPDF for mac PDF编辑器
  • JAVA:Spring Boot 集成 Easy Rules 实现规则引擎
  • 来自火山引擎的 MCP 安全授权新范式
  • 嵌入式Linux驱动开发:i.MX6ULL按键中断驱动(非阻塞IO)
  • PostgreSQL15——子查询
  • 基于SQL大型数据库的智能问答系统优化
  • Emacs 多个方便查看函数列表的功能
  • QML QQuickImage: Cannot open: qrc:/images/shrink.png(已解决)
  • 前端-初识Vue实例
  • Spring Boot Redis序列化全解析(7种策略)
  • 2024年06月 Python(四级)真题解析#中国电子学会#全国青少年软件编程等级考试
  • leetcode 461 汉明距离
  • 如何在FastAPI中玩转全链路追踪,让分布式系统故障无处遁形?
  • 基于MCP工具的开发-部署-上线与维护全流程技术实现与应用研究
  • 北斗导航 | PPP-RTK算法核心原理与实现机制深度解析
  • AI助力PPT创作:秒出PPT与豆包AI谁更高效?
  • TypeScript:map和set函数
  • 【前端教程】从基础到专业:诗哩诗哩网HTML视频页面重构解析
  • Java试题-选择题(21)
  • new/delete 和 malloc/free 区别