当前位置: 首页 > news >正文

使用Ollama+open-webui搭建本地AI模型

本地搭建AI模型

  • 说明:
  • 1、下载Ollama
  • 2、下载模型
  • 3、pip安装open-webui(不推荐)
    • 1、Python版本不对应
    • 2、下载wheels失败
  • 4、docker安装open-webui

说明:

在windows上搭建本地AI,使用Ollama+open-webui的方式,可以直接在网页上访问
参考连接:
Ollama的github地址: https://github.com/ollama/ollama
Ollama官网地址: https://ollama.com/
open-webui地址: https://github.com/open-webui/open-webui
AI模型: https://ollama.com/library/
python仓库 https://pypi.org/
docker官网下载:https://www.docker.com/

1、下载Ollama

github地址: https://github.com/ollama/ollama
官网地址: https://ollama.com/
在这里插入图片描述
双击运行安装
在这里插入图片描述
打开http://localhost:11434/查看运行状态
在这里插入图片描述

2、下载模型

查看可下载的模型: https://ollama.com/library/
在这里插入图片描述
点击进入后,复制命令行
在这里插入图片描述
打开电脑的命令行工具,输入命令下载模型

win+r
cmd
输入命令行:例ollama run deepseek-r1

在这里插入图片描述

3、pip安装open-webui(不推荐)

地址: https://github.com/open-webui/open-webui
在这里插入图片描述可以直接使用电脑上的pip安装

pip install open-webui

在这里插入图片描述

1、Python版本不对应

在这里插入图片描述
需要3.11以上版本的python
进入官网下载:https://www.python.org/ftp/python/3.12.0/
选择对应版本下载并双击安装
在这里插入图片描述
设置环境变量
在这里插入图片描述
验证配置成功,再次下载–》成功
在这里插入图片描述
在这里插入图片描述

2、下载wheels失败

可以通过手动下载的方式,再用pip install安装。找到下载的wheels,点击下载
链接: https://www.cgohlke.com/
或者在 https://pypi.org/里搜索后下载
在这里插入图片描述

执行安装

pip install 下载的地址\pandas-2.2.3-cp312-cp312-win_amd64.whl

在这里插入图片描述

4、docker安装open-webui

官网下载docker:https://www.docker.com/
在这里插入图片描述
安装运行后,直接搜索open-webui,pull拉取镜像
在这里插入图片描述

#在命令行工具中输入命令,查看镜像
docker images

在这里插入图片描述

#运行镜像
docker run -d -p 8088:8080 --name webui --restart always dyrnq/open-webui:git-9e726a3

访问http://127.0.0.1:8088/
在这里插入图片描述
点击Sign up注册账号,登录后就可以使用啦
在这里插入图片描述

http://www.xdnf.cn/news/998857.html

相关文章:

  • 榕壹云信用租赁系统:免押金全品类租赁解决方案,区块链+多因子认证赋能
  • 财政部长斯科特·贝森特预测,美元支持的稳定币将达到 2 万亿美元
  • [C++11] : 谈谈包装器和lambda表达式,仿函数,bind的坑
  • 分布式MQTT客户端看门狗机制设计与实现
  • ShardingSphere解析:分布式数据库中间件的分片设计与事务管理实践
  • react实现axios 的简单封装
  • 单链表经典算法
  • 【鸿蒙开发】组件动态创建
  • Linux检验库是否安装成功
  • 多线程(4)
  • 【大模型】实践之1:macOS一键部署本地大模型
  • std::make_shared简化智能指针 `std::shared_ptr` 的创建过程,并提高性能(减少内存分配次数,提高缓存命中率)
  • Tomcat 和 Spring MVC
  • SQL进阶之旅 Day 29:NoSQL结合使用策略
  • docker-自动启动java 包
  • 使用VSCode开发FastAPI指南
  • Python 实现 Web 请求与响应
  • VSCode - Trae 插件关闭弹出框代码补全
  • 【C++学习笔记】 std::atomic 拷贝构造错误解析
  • docker-compose容器单机编排
  • el-select+el-tree实现树形下拉选择
  • tabs页签嵌套表格,切换表格保存数据不变并回勾
  • CSS 外边距合并(Margin Collapsing)问题研究
  • Karate 与Playwright的比较和融合
  • spring boot项目整合mybatis实现多数据源的配置
  • RAG Food Project
  • GAN+ECA注意力机制实现图像超分辨率重建
  • ESP32-C3FH4X—低功耗、高集成度的 MCU 系统级芯片 (SoC)
  • 基于数据库实现配置管理和定时任务启停
  • 强化学习:策略梯度概念