当前位置: 首页 > java >正文

从零开始,在Windows环境部署vllm

文章目录

  • 前言
  • 环境的部署
    • 安装wsl和ubuntu
    • 更改ubuntu安装位置

前言

由于vllm需要在linux环境上才行,而博主不想再去下载vmware了,故采用wsl+docker的方式部署。

环境的部署

安装wsl和ubuntu

命令:

wsl --install --no-distribution

因为开启代理后,该终端不受影响,所以需要单独给该终端设置代理。

$env:http_proxy="http://127.0.0.1:7897"
$env:https_proxy="http://127.0.0.1:7897"
wsl --list --online

在这里插入图片描述

然后安装Ununtu

 wsl --install -d Ubuntu-24.04

在这里插入图片描述

搜索WSL Setting,更改网络配置,改为Mirrored,这样WSL就会镜像继承windows的代理。
在这里插入图片描述

更改ubuntu安装位置

考虑到后续会无限膨胀,我打算把ubuntu迁移到别的盘。

1. 关闭系统
STATE为Stopped即说明已关闭。

wsl --shutdown
wsl -l -v

2. 创建目录
在合适的磁盘上创建一个目录

3. 导出镜像
在PowerShell中输入下列命令,将Ubuntu导出到指定目录,并等待操作完成。

wsl --export Ubuntu-24.04 D:\ubuntu24\Ubuntu2404.tar

4. 注销原系统
在wsl中注销原有的Ubuntu系统,powershell中输入wsl --unregister Ubuntu-24.04。完成后输入wsl -l -v查看,提示适用于 Linux 的 Windows 子系统没有已安装的分发。即为卸载成功。

5. 导入镜像
在powershell中输入wsl --import Ubuntu-24.04 D:\ubuntu24 D:\ubuntu24\Ubuntu2404.tar,将之前导出的镜像导入到新的Ubuntu系统。在powershell中输入wsl -l -v查看,出现Ubuntu-24.04的NAME即为导入成功。

6. 删除文件
删除导出的镜像文件Ubuntu2404.tar

7. 启动Ubuntu子系统
在开始菜单中搜索Ubuntu并运行,出现终端界面即为成功。
在这里插入图片描述

http://www.xdnf.cn/news/16703.html

相关文章:

  • 重庆邮电大学2026年计算机/软件/人工智能/网安考研备考指南
  • Matrix Theory study notes[6]
  • ansible巡检脚本
  • Zookeeper符合cap中的AP还是CP
  • 【AI News | 20250729】每日AI进展
  • uniapp中的$vm
  • 数字化转型-制造业未来蓝图:“超自动化”工厂
  • 开源项目:排序算法的多种实现方式
  • ComfyUI自定义图片导出路径
  • 【图像处理】直方图均衡化c++实现
  • OpenEuler 安装 apache + php8 不解析php文件的处理
  • 网络编程-(网络计算机和网络通信)
  • Web3:赛道划分与发展趋势解析
  • PYTHON从入门到实践-17通过网络API获取数据与可视化
  • STM32启动流程详解:从复位到main函数的完整路径
  • 鲸签云合同管理系统有什么功能?
  • 李宏毅2025《机器学习》-第九讲:大型语言模型评测的困境与“古德哈特定律”**
  • Newman+Jenkins实施接口自动化测试
  • 【学习过程记录】【czsc】1、安装
  • Tomcat 服务器日志
  • 解决Nginx的HTTPS跨域内容显示问题
  • REST、GraphQL、gRPC、tRPC深度对比
  • Buck的Loadline和DVS区别和联系
  • WebSocket 简介与在 Vue 中的使用指南
  • Ganttable 时间仪表盘
  • 笔记本电脑开机慢系统启动慢怎么办?【图文详解】win7/10/11开机慢
  • PAT 甲级题目讲解:1011《World Cup Betting》
  • 如何修改VM虚拟机中的ip
  • MaxKB+MinerU:通过API实现PDF文档解析并存储至知识库
  • 【WPS】邮件合并教程\Excel批量写入数据进Word模板