qwen2.5vl(2):lora 微调训练及代码讲解

文章目录

• • 1. 环境配置及数据准备
  • • 1.1 SwanLab 配置
    • 1.2 准备数据集
  • 2. 训练
  • • 2.1 数据处理
    • • 2.1.1 对input 进行tokenizer
      • 2.1.2 对ouput 进行tokenizer
      • 1.2.3 准备input 和labels
    • 2.2 Lora 训练
    • • 2.2.1 Lora 参数配置
      • 2.2.2 训练参数配置
      • 2.2.3 设置SwanLab回调
      • 2.2.4 Trainer 配置
    • 2.3 predict 讲解
    • • 2.3.1 推理模型加载
      • 2.3.2 输入数据处理
      • 2.3.3 推理及解码