使用unsloth对Qwen3在本地进行微调

Fine-tune Qwen3（100% locally）

使用unsloth进行微调，使用huggingface在本地运行model。

load model

from unsloth import  FastLanguageModel
import torchMODEL = "unsloth/Qwen3-14B"
model,tokenizer = FastLanguageModel.from_pretrained(model_name=MODEL,max_seq_length=2048,dtype=None,load_in_4bit=True,full_finetuening=False
)

LoRA的配置

使用LoRA进行微调，通过Unsloth的PEFT指定模型、LORA的低秩序矩阵（r），微调的层等等。

model = FastLanguageModel(model,targe_mod