LLaMA-Factory的webui快速入门

一、webui的启动方式

LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。 在完成安装 后，您可以通过以下指令进入 WebUI:

llamafactory-cli webui

使用上面命令启动服务后，即可使用默认7860端口进行访问。访问地址：http://ip:7860,截止：2025年7月11日，页面结构如下：

二、开始训练前需设置的基本参数

在开始训练模型之前，您需要指定的参数有：

• 模型名称、路径及模型下载源
• 训练阶段
• 微调方法
• 训练数据集
• 学习率、训练轮数等训练参数
• 微调参数等其他参数
• 输出目录及配置路径

在这里由于我选择了加速方式为unsloth 所以需要在llama-factory的虚拟环境中执行命令：

pip install unsloth

截止当前我安装的包版本如下：

并且需要将计算类型选择”fp16” 否则会报错，报错信息如下：

packages/unsloth/kernels/fast_lora.py", line 259, in forward

    Q = matmul_lora(X, QW, QW_quant, QA, QB, QS)

  File "/usr/local/miniconda3/envs/llama-factory/lib/python3.10/site-packages/unsloth/kernels/utils.py", line 703, in matmul_lora

    out = torch_matmul(X, W, out = out)

RuntimeError: expected mat1 and mat2 to have the same dtype, but got: c10::BFloat16 != c10::Half

参数设置如下：

三、开始训练

至此，即可点击开始进行模型训练。训练完成后，如下图所示：

后台日志窗口如下所示：