五分钟本地部署大模型
前提:个人PC机,配置:CPU:i5-13600KF 显卡:RTX3080 内存:32GB
1.安装ollama
访问https://ollama.com/,点击下载,完成后傻瓜式安装即可;
2.修改环境变量
默认大模型下载在C盘,这里改到D盘,在系统变量中增加如下,确保文件夹存在;
3.寻找大模型
点击右上角Models
找到自己想要的,如图我用的qwen3:8b,复制run命令;
4.下载大模型
在cmd界面中,运行复制到的命令,等待下载完成即可
如图这里就已经可以使用了