当前位置: 首页 > news >正文

本地部署Ollama DeepSeek-R1:8B,接入Cherry Studio

本地部署Ollama DeepSeek-R1:8B,接入Cherry Studio

本教程为本地部署ollama 环境,运行deepseek-r1:8B 模型,并完成cherry studio接入调用。

实现无网环境也可提问模型

一、ollama 环境安装

通过网盘分享的文件:OllamaSetup.exe
链接: https://pan.baidu.com/s/1aVMyzZP78bNzI2hfU2EykQ?pwd=1234 提取码: 1234

给大家提供了安装包,双击即可安装
在这里插入图片描述

二、运行deepseek-r1:8B模型

1. 启动模型,打开终端、查看命令

在这里插入图片描述
命令介绍如下:

  1. serve:用于启动Ollama服务,启动后可用于后续调用模型等操作,是使用Ollama其他功能的基础前提。例如在需要利用Ollama提供的模型服务时,首先要用该命令开启服务。
  2. create:能从Modelfile创建一个模型。Modelfile可以定义模型的各种属性和配置信息,开发者可以依据这些自定义模型。
  3. show:此命令可查看特定模型的详细信息,如模型的版本、创建时间、配置参数等内容。
  4. run:运行指定的模型,与模型进行交互。输入提示信息,获取模型生成的结果,就像使用聊天机器人那样,是使用模型完成具体任务的关键命令。
  5. pull和push:
    pull 命令可以从模型注册中心拉取模型到本地;
    push 命令则相反,可将本地创建或修改后的模型推送到注册表分享或备份。
  6. list和ps :
    list 用于列出本地所有可用的模型;
    ps 用于列出当前正在运行的模型,可以帮助用户管理和监控模型的运行状态。
  7. rm:删除指定的模型,可以释放磁盘空间,如果模型不再使用或者想要更新等情况,可使用该命令删除。

2. 拉取运行模型

  1. 拉取模型

ollama pull deepseek-r1:8b

  1. 运行模型

ollama run deepseek-r1:8b

  1. 提问测试在这里插入图片描述

三、接入cherry studio

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/93024c9b509e4867a7f6951d65311013.png
在这里插入图片描述
在这里插入图片描述

四、测试

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/0381563ab5d24eeb9344eb8b90bedbe9.png

优缺点

  1. 优点:当然本地部署方便做一些测试、以及无网环境进行提问,比如信号屏蔽后考试,可以使用本地模型进行测试。
  2. 缺点:本地部署的8b模型,提问响应速度较慢,勉强使用

大家电脑配置较高的话,可以拉取更高配置模型,如32B

当然能花钱解决的问题都不是问题,下面我们接入硅基流动,现在注册赠送14元额度,约2000万tokens, 方便我们测试

接入硅基流动

硅基流动,提供了很多优秀的满配模型,登录即送14元额度,方便我们调用
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

http://www.xdnf.cn/news/737263.html

相关文章:

  • 优先队列用法
  • [正点原子]ESP32S3 RGB屏幕移植LVGL
  • 基本数据指针的解读-C++
  • 数据即资产:GEO如何重塑企业的信息价值链
  • 电子电路:D触发器的工作原理及应用详解
  • 在Mathematica中使用WhenEvent求解微分方程
  • java代码性能优化
  • MODIS火点数据下载
  • 人工智能时代Agent与MCP区别联系
  • 001在线拍卖系统技术揭秘:构建高效交互的竞拍平台
  • JS浮点数精度问题
  • WebFuture:网站部分图片突然无法显示的原因
  • 身份证发给别人怎么加水印?赛文奥特曼身份证添加水印教程
  • 大模型应用开发第九讲:RAG(检索增强生成)流程:用户查询→检索→生成响应
  • CQF预备知识:Python相关库 -- NumPy 基础知识 - 通用函数
  • xilinx位置约束
  • SAR ADC 比较器噪声分析(二)
  • gst_pad_query_default以及gst_pad_event_default
  • 2024PLM系统实施案例:天水天轲零部件
  • Sigma-Aldrich3D细胞培养支架有哪些类型?
  • LoRA:高效微调预训练模型的利器
  • DeepSeek-R1 重磅升级,智能体验再进化!
  • shell脚本的两种循环及状态返回值的区别及对比
  • 软件架构基础
  • ollama国内安装使用
  • 时间序列数据如何转化为动态图实践笔记
  • XSS跨站脚本攻击
  • 特伦斯 S75:重塑钢琴体验的数码钢琴之选
  • 基于教育数字化背景:人工智能技术支持下的教师专业发展路径
  • Baklib智能推荐赋能内容中台升级