从零开始,在Windows环境部署vllm
文章目录
- 前言
- 环境的部署
- 安装wsl和ubuntu
- 更改ubuntu安装位置
前言
由于vllm需要在linux环境上才行,而博主不想再去下载vmware了,故采用wsl+docker的方式部署。
环境的部署
安装wsl和ubuntu
命令:
wsl --install --no-distribution
因为开启代理后,该终端不受影响,所以需要单独给该终端设置代理。
$env:http_proxy="http://127.0.0.1:7897"
$env:https_proxy="http://127.0.0.1:7897"
wsl --list --online
然后安装Ununtu
wsl --install -d Ubuntu-24.04
搜索WSL Setting,更改网络配置,改为Mirrored,这样WSL就会镜像继承windows的代理。
更改ubuntu安装位置
考虑到后续会无限膨胀,我打算把ubuntu迁移到别的盘。
1. 关闭系统
STATE
为Stopped即说明已关闭。
wsl --shutdown
wsl -l -v
2. 创建目录
在合适的磁盘上创建一个目录
3. 导出镜像
在PowerShell中输入下列命令,将Ubuntu导出到指定目录,并等待操作完成。
wsl --export Ubuntu-24.04 D:\ubuntu24\Ubuntu2404.tar
4. 注销原系统
在wsl中注销原有的Ubuntu系统,powershell中输入wsl --unregister Ubuntu-24.04
。完成后输入wsl -l -v
查看,提示适用于 Linux 的 Windows 子系统没有已安装的分发。即为卸载成功。
5. 导入镜像
在powershell中输入wsl --import Ubuntu-24.04 D:\ubuntu24 D:\ubuntu24\Ubuntu2404.tar
,将之前导出的镜像导入到新的Ubuntu系统。在powershell中输入wsl -l -v查看,出现Ubuntu-24.04的NAME即为导入成功。
6. 删除文件
删除导出的镜像文件Ubuntu2404.tar
。
7. 启动Ubuntu子系统
在开始菜单中搜索Ubuntu并运行,出现终端界面即为成功。