python训练营打卡第41天
简单CNN
知识回顾
- 数据增强
- 卷积神经网络定义的写法
- batch归一化:调整一个批次的分布,常用与图像数据
- 特征图:只有卷积操作输出的才叫特征图
- 调度器:直接修改基础学习率
卷积操作常见流程如下:
1. 输入 → 卷积层 → Batch归一化层(可选) → 池化层 → 激活函数 → 下一层
2. Flatten -> Dense (with Dropout,可选) -> Dense (Output)
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import datasets, transforms
from torch.utils.data import DataLoader
import matplotlib.pyplot as plt
import numpy as np# 设置中文字体支持
plt.rcParams["font.family"] = ["SimHei"]
plt.rcParams['axes.unicode_minus'] = False # 解决负号显示问题# 检查GPU是否可用
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
print(f"使用设备: {device}")# 1. 数据预处理
# 训练集:使用多种数据增强方法提高模型泛化能力
train_transform = transforms.Compose([# 随机裁剪图像,从原图中随机截取32x32大小的区域transforms.RandomCrop(32, padding=4),# 随机水平翻转图像(概率0.5)transforms.RandomHorizontalFlip(),# 随机颜色抖动:亮度、对比度、饱和度和色调随机变化transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2, hue=0.1),# 随机旋转图像(最大角度15度)transforms.RandomRotation(15),# 将PIL图像或numpy数组转换为张量transforms.ToTensor(),# 标准化处理:每个通道的均值和标准差,使数据分布更合理transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010))
])# 测试集:仅进行必要的标准化,保持数据原始特性,标准化不损失数据信息,可还原
test_transform = transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.4914, 0.4822, 0.4465), (0.2023, 0.1994, 0.2010))
])# 2. 加载CIFAR-10数据集
train_dataset = datasets.CIFAR10(root='./data',train=True,download=True,transform=train_transform # 使用增强后的预处理
)test_dataset = datasets.CIFAR10(root='./data',train=False,transform=test_transform # 测试集不使用增强
)# 3. 创建数据加载器
batch_size = 64
train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True)
test_loader = DataLoader(test_dataset, batch_size=batch_size, shuffle=False)# 4. 定义CNN模型的定义(替代原MLP)
class CNN(nn.Module):def __init__(self):super(CNN, self).__init__() # 继承父类初始化# ---------------------- 第一个卷积块 ----------------------# 卷积层1:输入3通道(RGB),输出32个特征图,卷积核3x3,边缘填充1像素self.conv1 = nn.Conv2d(in_channels=3, # 输入通道数(图像的RGB通道)out_channels=32, # 输出通道数(生成32个新特征图)kernel_size=3, # 卷积核尺寸(3x3像素)padding=1 # 边缘填充1像素,保持输出尺寸与输入相同)# 批量归一化层:对32个输出通道进行归一化,加速训练self.bn1 = nn.BatchNorm2d(num_features=32)# ReLU激活函数:引入非线性,公式:max(0, x)self.relu1 = nn.ReLU()# 最大池化层:窗口2x2,步长2,特征图尺寸减半(32x32→16x16)self.pool1 = nn.MaxPool2d(kernel_size=2, stride=2) # stride默认等于kernel_size# ---------------------- 第二个卷积块 ----------------------# 卷积层2:输入32通道(来自conv1的输出),输出64通道self.conv2 = nn.Conv2d(in_channels=32, # 输入通道数(前一层的输出通道数)out_channels=64, # 输出通道数(特征图数量翻倍)kernel_size=3, # 卷积核尺寸不变padding=1 # 保持尺寸:16x16→16x16(卷积后)→8x8(池化后))self.bn2 = nn.BatchNorm2d(num_features=64)self.relu2 = nn.ReLU()self.pool2 = nn.MaxPool2d(kernel_size=2) # 尺寸减半:16x16→8x8# ---------------------- 第三个卷积块 ----------------------# 卷积层3:输入64通道,输出128通道self.conv3 = nn.Conv2d(in_channels=64, # 输入通道数(前一层的输出通道数)out_channels=128, # 输出通道数(特征图数量再次翻倍)kernel_size=3,padding=1 # 保持尺寸:8x8→8x8(卷积后)→4x4(池化后))self.bn3 = nn.BatchNorm2d(num_features=128)self.relu3 = nn.ReLU() # 复用激活函数对象(节省内存)self.pool3 = nn.MaxPool2d(kernel_size=2) # 尺寸减半:8x8→4x4# ---------------------- 全连接层(分类器) ----------------------# 计算展平后的特征维度:128通道 × 4x4尺寸 = 128×16=2048维self.fc1 = nn.Linear(in_features=128 * 4 * 4, # 输入维度(卷积层输出的特征数)out_features=512 # 输出维度(隐藏层神经元数))# Dropout层:训练时随机丢弃50%神经元,防止过拟合self.dropout = nn.Dropout(p=0.5)# 输出层:将512维特征映射到10个类别(CIFAR-10的类别数)self.fc2 = nn.Linear(in_features=512, out_features=10)def forward(self, x):# 输入尺寸:[batch_size, 3, 32, 32](batch_size=批量大小,3=通道数,32x32=图像尺寸)# ---------- 卷积块1处理 ----------x = self.conv1(x) # 卷积后尺寸:[batch_size, 32, 32, 32](padding=1保持尺寸)x = self.bn1(x) # 批量归一化,不改变尺寸x = self.relu1(x) # 激活函数,不改变尺寸x = self.pool1(x) # 池化后尺寸:[batch_size, 32, 16, 16](32→16是因为池化窗口2x2)# ---------- 卷积块2处理 ----------x = self.conv2(x) # 卷积后尺寸:[batch_size, 64, 16, 16](padding=1保持尺寸)x = self.bn2(x)x = self.relu2(x)x = self.pool2(x) # 池化后尺寸:[batch_size, 64, 8, 8]# ---------- 卷积块3处理 ----------x = self.conv3(x) # 卷积后尺寸:[batch_size, 128, 8, 8](padding=1保持尺寸)x = self.bn3(x)x = self.relu3(x)x = self.pool3(x) # 池化后尺寸:[batch_size, 128, 4, 4]# ---------- 展平与全连接层 ----------# 将多维特征图展平为一维向量:[batch_size, 128*4*4] = [batch_size, 2048]x = x.view(-1, 128 * 4 * 4) # -1自动计算批量维度,保持批量大小不变x = self.fc1(x) # 全连接层:2048→512,尺寸变为[batch_size, 512]x = self.relu3(x) # 激活函数(复用relu3,与卷积块3共用)x = self.dropout(x) # Dropout随机丢弃神经元,不改变尺寸x = self.fc2(x) # 全连接层:512→10,尺寸变为[batch_size, 10](未激活,直接输出logits)return x # 输出未经过Softmax的logits,适用于交叉熵损失函数# 初始化模型
model = CNN()
model = model.to(device) # 将模型移至GPU(如果可用)criterion = nn.CrossEntropyLoss() # 交叉熵损失函数
optimizer = optim.Adam(model.parameters(), lr=0.001) # Adam优化器# 引入学习率调度器,在训练过程中动态调整学习率--训练初期使用较大的 LR 快速降低损失,训练后期使用较小的 LR 更精细地逼近全局最优解。
# 在每个 epoch 结束后,需要手动调用调度器来更新学习率,可以在训练过程中调用 scheduler.step()
scheduler = optim.lr_scheduler.ReduceLROnPlateau(optimizer, # 指定要控制的优化器(这里是Adam)mode='min', # 监测的指标是"最小化"(如损失函数)patience=3, # 如果连续3个epoch指标没有改善,才降低LRfactor=0.5 # 降低LR的比例(新LR = 旧LR × 0.5)
)# 5. 训练模型(记录每个 iteration 的损失)
def train(model, train_loader, test_loader, criterion, optimizer, scheduler, device, epochs):model.train() # 设置为训练模式# 记录每个 iteration 的损失all_iter_losses = [] # 存储所有 batch 的损失iter_indices = [] # 存储 iteration 序号# 记录每个 epoch 的准确率和损失train_acc_history = []test_acc_history = []train_loss_history = []test_loss_history = []for epoch in range(epochs):running_loss = 0.0correct = 0total = 0for batch_idx, (data, target) in enumerate(train_loader):data, target = data.to(device), target.to(device) # 移至GPUoptimizer.zero_grad() # 梯度清零output = model(data) # 前向传播loss = criterion(output, target) # 计算损失loss.backward() # 反向传播optimizer.step() # 更新参数# 记录当前 iteration 的损失iter_loss = loss.item()all_iter_losses.append(iter_loss)iter_indices.append(epoch * len(train_loader) + batch_idx + 1)# 统计准确率和损失running_loss += iter_loss_, predicted = output.max(1)total += target.size(0)correct += predicted.eq(target).sum().item()# 每100个批次打印一次训练信息if (batch_idx + 1) % 100 == 0:print(f'Epoch: {epoch+1}/{epochs} | Batch: {batch_idx+1}/{len(train_loader)} 'f'| 单Batch损失: {iter_loss:.4f} | 累计平均损失: {running_loss/(batch_idx+1):.4f}')# 计算当前epoch的平均训练损失和准确率epoch_train_loss = running_loss / len(train_loader)epoch_train_acc = 100. * correct / totaltrain_acc_history.append(epoch_train_acc)train_loss_history.append(epoch_train_loss)# 测试阶段model.eval() # 设置为评估模式test_loss = 0correct_test = 0total_test = 0with torch.no_grad():for data, target in test_loader:data, target = data.to(device), target.to(device)output = model(data)test_loss += criterion(output, target).item()_, predicted = output.max(1)total_test += target.size(0)correct_test += predicted.eq(target).sum().item()epoch_test_loss = test_loss / len(test_loader)epoch_test_acc = 100. * correct_test / total_testtest_acc_history.append(epoch_test_acc)test_loss_history.append(epoch_test_loss)# 更新学习率调度器scheduler.step(epoch_test_loss)print(f'Epoch {epoch+1}/{epochs} 完成 | 训练准确率: {epoch_train_acc:.2f}% | 测试准确率: {epoch_test_acc:.2f}%')# 绘制所有 iteration 的损失曲线plot_iter_losses(all_iter_losses, iter_indices)# 绘制每个 epoch 的准确率和损失曲线plot_epoch_metrics(train_acc_history, test_acc_history, train_loss_history, test_loss_history)return epoch_test_acc # 返回最终测试准确率# 6. 绘制每个 iteration 的损失曲线
def plot_iter_losses(losses, indices):plt.figure(figsize=(10, 4))plt.plot(indices, losses, 'b-', alpha=0.7, label='Iteration Loss')plt.xlabel('Iteration(Batch序号)')plt.ylabel('损失值')plt.title('每个 Iteration 的训练损失')plt.legend()plt.grid(True)plt.tight_layout()plt.show()# 7. 绘制每个 epoch 的准确率和损失曲线
def plot_epoch_metrics(train_acc, test_acc, train_loss, test_loss):epochs = range(1, len(train_acc) + 1)plt.figure(figsize=(12, 4))# 绘制准确率曲线plt.subplot(1, 2, 1)plt.plot(epochs, train_acc, 'b-', label='训练准确率')plt.plot(epochs, test_acc, 'r-', label='测试准确率')plt.xlabel('Epoch')plt.ylabel('准确率 (%)')plt.title('训练和测试准确率')plt.legend()plt.grid(True)# 绘制损失曲线plt.subplot(1, 2, 2)plt.plot(epochs, train_loss, 'b-', label='训练损失')plt.plot(epochs, test_loss, 'r-', label='测试损失')plt.xlabel('Epoch')plt.ylabel('损失值')plt.title('训练和测试损失')plt.legend()plt.grid(True)plt.tight_layout()plt.show()# 8. 执行训练和测试
epochs = 20 # 增加训练轮次以获得更好效果
print("开始使用CNN训练模型...")
final_accuracy = train(model, train_loader, test_loader, criterion, optimizer, scheduler, device, epochs)
print(f"训练完成!最终测试准确率: {final_accuracy:.2f}%")# # 保存模型
torch.save(model.state_dict(), 'cifar10_cnn_model.pth')
print("模型已保存为: cifar10_cnn_model.pth")
输出结果:
使用设备: cpu
100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████| 170M/170M [2:35:15<00:00, 18.3kB/s]
开始使用CNN训练模型...
Epoch: 1/20 | Batch: 100/782 | 单Batch损失: 1.9777 | 累计平均损失: 2.0057
Epoch: 1/20 | Batch: 200/782 | 单Batch损失: 1.6204 | 累计平均损失: 1.8880
Epoch: 1/20 | Batch: 300/782 | 单Batch损失: 1.7299 | 累计平均损失: 1.8201
Epoch: 1/20 | Batch: 400/782 | 单Batch损失: 1.6091 | 累计平均损失: 1.7746
Epoch: 1/20 | Batch: 500/782 | 单Batch损失: 1.6772 | 累计平均损失: 1.7437
Epoch: 1/20 | Batch: 600/782 | 单Batch损失: 1.4562 | 累计平均损失: 1.7158
Epoch: 1/20 | Batch: 700/782 | 单Batch损失: 1.7877 | 累计平均损失: 1.6911
Epoch 1/20 完成 | 训练准确率: 38.04% | 测试准确率: 52.76%
Epoch: 2/20 | Batch: 100/782 | 单Batch损失: 1.3830 | 累计平均损失: 1.4543
Epoch: 2/20 | Batch: 200/782 | 单Batch损失: 1.4006 | 累计平均损失: 1.4024
Epoch: 2/20 | Batch: 300/782 | 单Batch损失: 1.3910 | 累计平均损失: 1.3811
Epoch: 2/20 | Batch: 400/782 | 单Batch损失: 1.4579 | 累计平均损失: 1.3645
Epoch: 2/20 | Batch: 500/782 | 单Batch损失: 1.1114 | 累计平均损失: 1.3383
Epoch: 2/20 | Batch: 600/782 | 单Batch损失: 1.5332 | 累计平均损失: 1.3200
Epoch: 2/20 | Batch: 700/782 | 单Batch损失: 1.0414 | 累计平均损失: 1.2985
Epoch 2/20 完成 | 训练准确率: 53.50% | 测试准确率: 61.99%
Epoch: 3/20 | Batch: 100/782 | 单Batch损失: 1.2217 | 累计平均损失: 1.1599
Epoch: 3/20 | Batch: 200/782 | 单Batch损失: 1.1079 | 累计平均损失: 1.1518
Epoch: 3/20 | Batch: 300/782 | 单Batch损失: 1.2212 | 累计平均损失: 1.1452
Epoch: 3/20 | Batch: 400/782 | 单Batch损失: 1.2502 | 累计平均损失: 1.1357
Epoch: 3/20 | Batch: 500/782 | 单Batch损失: 0.7482 | 累计平均损失: 1.1227
Epoch: 3/20 | Batch: 600/782 | 单Batch损失: 1.0918 | 累计平均损失: 1.1133
Epoch: 3/20 | Batch: 700/782 | 单Batch损失: 0.9135 | 累计平均损失: 1.1041
Epoch 3/20 完成 | 训练准确率: 60.86% | 测试准确率: 69.86%
Epoch: 4/20 | Batch: 100/782 | 单Batch损失: 0.8592 | 累计平均损失: 1.0361
Epoch: 4/20 | Batch: 200/782 | 单Batch损失: 0.7710 | 累计平均损失: 1.0218
Epoch: 4/20 | Batch: 300/782 | 单Batch损失: 0.7764 | 累计平均损失: 1.0221
Epoch: 4/20 | Batch: 400/782 | 单Batch损失: 1.0345 | 累计平均损失: 1.0122
Epoch: 4/20 | Batch: 500/782 | 单Batch损失: 0.9350 | 累计平均损失: 1.0076
Epoch: 4/20 | Batch: 600/782 | 单Batch损失: 0.8809 | 累计平均损失: 1.0044
Epoch: 4/20 | Batch: 700/782 | 单Batch损失: 0.7959 | 累计平均损失: 0.9978
Epoch 4/20 完成 | 训练准确率: 64.80% | 测试准确率: 71.14%
Epoch: 5/20 | Batch: 100/782 | 单Batch损失: 1.0453 | 累计平均损失: 0.9381
Epoch: 5/20 | Batch: 200/782 | 单Batch损失: 0.8142 | 累计平均损失: 0.9390
Epoch: 5/20 | Batch: 300/782 | 单Batch损失: 1.1331 | 累计平均损失: 0.9349
Epoch: 5/20 | Batch: 400/782 | 单Batch损失: 1.0204 | 累计平均损失: 0.9336
Epoch: 5/20 | Batch: 500/782 | 单Batch损失: 0.7933 | 累计平均损失: 0.9294
Epoch: 5/20 | Batch: 600/782 | 单Batch损失: 1.0409 | 累计平均损失: 0.9300
Epoch: 5/20 | Batch: 700/782 | 单Batch损失: 0.7061 | 累计平均损失: 0.9265
Epoch 5/20 完成 | 训练准确率: 67.23% | 测试准确率: 72.77%
Epoch: 6/20 | Batch: 100/782 | 单Batch损失: 0.9459 | 累计平均损失: 0.9026
Epoch: 6/20 | Batch: 200/782 | 单Batch损失: 0.9639 | 累计平均损失: 0.8838
Epoch: 6/20 | Batch: 300/782 | 单Batch损失: 0.8213 | 累计平均损失: 0.8805
Epoch: 6/20 | Batch: 400/782 | 单Batch损失: 1.1107 | 累计平均损失: 0.8805
Epoch: 6/20 | Batch: 500/782 | 单Batch损失: 0.6813 | 累计平均损失: 0.8779
Epoch: 6/20 | Batch: 600/782 | 单Batch损失: 1.0904 | 累计平均损失: 0.8801
Epoch: 6/20 | Batch: 700/782 | 单Batch损失: 0.9470 | 累计平均损失: 0.8820
Epoch 6/20 完成 | 训练准确率: 69.05% | 测试准确率: 74.45%
Epoch: 7/20 | Batch: 100/782 | 单Batch损失: 0.6600 | 累计平均损失: 0.8492
Epoch: 7/20 | Batch: 200/782 | 单Batch损失: 0.9984 | 累计平均损失: 0.8343
Epoch: 7/20 | Batch: 300/782 | 单Batch损失: 0.9071 | 累计平均损失: 0.8481
Epoch: 7/20 | Batch: 400/782 | 单Batch损失: 0.8838 | 累计平均损失: 0.8467
Epoch: 7/20 | Batch: 500/782 | 单Batch损失: 1.1298 | 累计平均损失: 0.8448
Epoch: 7/20 | Batch: 600/782 | 单Batch损失: 0.8678 | 累计平均损失: 0.8463
Epoch: 7/20 | Batch: 700/782 | 单Batch损失: 0.8116 | 累计平均损失: 0.8446
Epoch 7/20 完成 | 训练准确率: 70.22% | 测试准确率: 74.77%
Epoch: 8/20 | Batch: 100/782 | 单Batch损失: 0.8443 | 累计平均损失: 0.8203
Epoch: 8/20 | Batch: 200/782 | 单Batch损失: 0.8219 | 累计平均损失: 0.8119
Epoch: 8/20 | Batch: 300/782 | 单Batch损失: 0.9490 | 累计平均损失: 0.8191
Epoch: 8/20 | Batch: 400/782 | 单Batch损失: 0.6975 | 累计平均损失: 0.8150
Epoch: 8/20 | Batch: 500/782 | 单Batch损失: 0.9863 | 累计平均损失: 0.8163
Epoch: 8/20 | Batch: 600/782 | 单Batch损失: 0.8835 | 累计平均损失: 0.8173
Epoch: 8/20 | Batch: 700/782 | 单Batch损失: 0.9080 | 累计平均损失: 0.8163
Epoch 8/20 完成 | 训练准确率: 71.32% | 测试准确率: 75.56%
Epoch: 9/20 | Batch: 100/782 | 单Batch损失: 0.7591 | 累计平均损失: 0.7930
Epoch: 9/20 | Batch: 200/782 | 单Batch损失: 0.8791 | 累计平均损失: 0.7982
Epoch: 9/20 | Batch: 300/782 | 单Batch损失: 0.8607 | 累计平均损失: 0.7932
Epoch: 9/20 | Batch: 400/782 | 单Batch损失: 0.9582 | 累计平均损失: 0.7926
Epoch: 9/20 | Batch: 500/782 | 单Batch损失: 0.8388 | 累计平均损失: 0.7962
Epoch: 9/20 | Batch: 600/782 | 单Batch损失: 0.8563 | 累计平均损失: 0.7962
Epoch: 9/20 | Batch: 700/782 | 单Batch损失: 0.7313 | 累计平均损失: 0.7930
Epoch 9/20 完成 | 训练准确率: 72.18% | 测试准确率: 76.50%
Epoch: 10/20 | Batch: 100/782 | 单Batch损失: 0.9776 | 累计平均损失: 0.7650
Epoch: 10/20 | Batch: 200/782 | 单Batch损失: 0.8844 | 累计平均损失: 0.7662
Epoch: 10/20 | Batch: 300/782 | 单Batch损失: 0.8675 | 累计平均损失: 0.7713
Epoch: 10/20 | Batch: 400/782 | 单Batch损失: 0.7129 | 累计平均损失: 0.7783
Epoch: 10/20 | Batch: 500/782 | 单Batch损失: 0.8208 | 累计平均损失: 0.7755
Epoch: 10/20 | Batch: 600/782 | 单Batch损失: 0.6194 | 累计平均损失: 0.7719
Epoch: 10/20 | Batch: 700/782 | 单Batch损失: 0.8767 | 累计平均损失: 0.7721
Epoch 10/20 完成 | 训练准确率: 72.93% | 测试准确率: 76.78%
Epoch: 11/20 | Batch: 100/782 | 单Batch损失: 0.9397 | 累计平均损失: 0.7650
Epoch: 11/20 | Batch: 200/782 | 单Batch损失: 0.6596 | 累计平均损失: 0.7479
Epoch: 11/20 | Batch: 300/782 | 单Batch损失: 0.6678 | 累计平均损失: 0.7525
Epoch: 11/20 | Batch: 400/782 | 单Batch损失: 0.7369 | 累计平均损失: 0.7468
Epoch: 11/20 | Batch: 500/782 | 单Batch损失: 0.5968 | 累计平均损失: 0.7456
Epoch: 11/20 | Batch: 600/782 | 单Batch损失: 0.7618 | 累计平均损失: 0.7482
Epoch: 11/20 | Batch: 700/782 | 单Batch损失: 0.5952 | 累计平均损失: 0.7468
Epoch 11/20 完成 | 训练准确率: 73.76% | 测试准确率: 77.75%
Epoch: 12/20 | Batch: 100/782 | 单Batch损失: 0.6831 | 累计平均损失: 0.7307
Epoch: 12/20 | Batch: 200/782 | 单Batch损失: 1.0081 | 累计平均损失: 0.7396
Epoch: 12/20 | Batch: 300/782 | 单Batch损失: 0.7043 | 累计平均损失: 0.7319
Epoch: 12/20 | Batch: 400/782 | 单Batch损失: 0.7510 | 累计平均损失: 0.7373
Epoch: 12/20 | Batch: 500/782 | 单Batch损失: 0.6491 | 累计平均损失: 0.7328
Epoch: 12/20 | Batch: 600/782 | 单Batch损失: 0.7510 | 累计平均损失: 0.7338
Epoch: 12/20 | Batch: 700/782 | 单Batch损失: 0.5930 | 累计平均损失: 0.7348
Epoch 12/20 完成 | 训练准确率: 74.27% | 测试准确率: 78.12%
Epoch: 13/20 | Batch: 100/782 | 单Batch损失: 0.6943 | 累计平均损失: 0.7011
Epoch: 13/20 | Batch: 200/782 | 单Batch损失: 0.6623 | 累计平均损失: 0.7131
Epoch: 13/20 | Batch: 300/782 | 单Batch损失: 0.6798 | 累计平均损失: 0.7113
Epoch: 13/20 | Batch: 400/782 | 单Batch损失: 0.7274 | 累计平均损失: 0.7166
Epoch: 13/20 | Batch: 500/782 | 单Batch损失: 0.7826 | 累计平均损失: 0.7161
Epoch: 13/20 | Batch: 600/782 | 单Batch损失: 0.7504 | 累计平均损失: 0.7173
Epoch: 13/20 | Batch: 700/782 | 单Batch损失: 0.7069 | 累计平均损失: 0.7152
Epoch 13/20 完成 | 训练准确率: 74.70% | 测试准确率: 78.06%
Epoch: 14/20 | Batch: 100/782 | 单Batch损失: 0.7636 | 累计平均损失: 0.7224
Epoch: 14/20 | Batch: 200/782 | 单Batch损失: 0.6530 | 累计平均损失: 0.7117
Epoch: 14/20 | Batch: 300/782 | 单Batch损失: 0.8442 | 累计平均损失: 0.7096
Epoch: 14/20 | Batch: 400/782 | 单Batch损失: 0.6878 | 累计平均损失: 0.7081
Epoch: 14/20 | Batch: 500/782 | 单Batch损失: 0.6114 | 累计平均损失: 0.7047
Epoch: 14/20 | Batch: 600/782 | 单Batch损失: 0.7571 | 累计平均损失: 0.7039
Epoch: 14/20 | Batch: 700/782 | 单Batch损失: 0.6249 | 累计平均损失: 0.7035
Epoch 14/20 完成 | 训练准确率: 75.43% | 测试准确率: 77.57%
Epoch: 15/20 | Batch: 100/782 | 单Batch损失: 0.5851 | 累计平均损失: 0.6991
Epoch: 15/20 | Batch: 200/782 | 单Batch损失: 0.4987 | 累计平均损失: 0.6924
Epoch: 15/20 | Batch: 300/782 | 单Batch损失: 0.6194 | 累计平均损失: 0.6968
Epoch: 15/20 | Batch: 400/782 | 单Batch损失: 0.7770 | 累计平均损失: 0.6955
Epoch: 15/20 | Batch: 500/782 | 单Batch损失: 0.7774 | 累计平均损失: 0.6949
Epoch: 15/20 | Batch: 600/782 | 单Batch损失: 0.5769 | 累计平均损失: 0.6957
Epoch: 15/20 | Batch: 700/782 | 单Batch损失: 0.8801 | 累计平均损失: 0.6915
Epoch 15/20 完成 | 训练准确率: 75.65% | 测试准确率: 78.43%
Epoch: 16/20 | Batch: 100/782 | 单Batch损失: 0.5745 | 累计平均损失: 0.6677
Epoch: 16/20 | Batch: 200/782 | 单Batch损失: 0.5646 | 累计平均损失: 0.6759
Epoch: 16/20 | Batch: 300/782 | 单Batch损失: 0.5587 | 累计平均损失: 0.6737
Epoch: 16/20 | Batch: 400/782 | 单Batch损失: 0.7392 | 累计平均损失: 0.6799
Epoch: 16/20 | Batch: 500/782 | 单Batch损失: 0.7110 | 累计平均损失: 0.6784
Epoch: 16/20 | Batch: 600/782 | 单Batch损失: 0.6812 | 累计平均损失: 0.6743
Epoch: 16/20 | Batch: 700/782 | 单Batch损失: 0.5018 | 累计平均损失: 0.6737
Epoch 16/20 完成 | 训练准确率: 76.24% | 测试准确率: 79.31%
Epoch: 17/20 | Batch: 100/782 | 单Batch损失: 0.6641 | 累计平均损失: 0.6629
Epoch: 17/20 | Batch: 200/782 | 单Batch损失: 0.8051 | 累计平均损失: 0.6559
Epoch: 17/20 | Batch: 300/782 | 单Batch损失: 0.9051 | 累计平均损失: 0.6629
Epoch: 17/20 | Batch: 400/782 | 单Batch损失: 0.5781 | 累计平均损失: 0.6598
Epoch: 17/20 | Batch: 500/782 | 单Batch损失: 0.7231 | 累计平均损失: 0.6574
Epoch: 17/20 | Batch: 600/782 | 单Batch损失: 0.5777 | 累计平均损失: 0.6603
Epoch: 17/20 | Batch: 700/782 | 单Batch损失: 0.9671 | 累计平均损失: 0.6628
Epoch 17/20 完成 | 训练准确率: 76.85% | 测试准确率: 78.49%
Epoch: 18/20 | Batch: 100/782 | 单Batch损失: 0.6666 | 累计平均损失: 0.6729
Epoch: 18/20 | Batch: 200/782 | 单Batch损失: 0.5626 | 累计平均损失: 0.6737
Epoch: 18/20 | Batch: 300/782 | 单Batch损失: 0.4289 | 累计平均损失: 0.6661
Epoch: 18/20 | Batch: 400/782 | 单Batch损失: 0.7499 | 累计平均损失: 0.6611
Epoch: 18/20 | Batch: 500/782 | 单Batch损失: 0.6759 | 累计平均损失: 0.6619
Epoch: 18/20 | Batch: 600/782 | 单Batch损失: 0.6288 | 累计平均损失: 0.6585
Epoch: 18/20 | Batch: 700/782 | 单Batch损失: 0.6190 | 累计平均损失: 0.6603
Epoch 18/20 完成 | 训练准确率: 76.76% | 测试准确率: 78.82%
Epoch: 19/20 | Batch: 100/782 | 单Batch损失: 0.5597 | 累计平均损失: 0.6393
Epoch: 19/20 | Batch: 200/782 | 单Batch损失: 0.7296 | 累计平均损失: 0.6434
Epoch: 19/20 | Batch: 300/782 | 单Batch损失: 0.5335 | 累计平均损失: 0.6350
Epoch: 19/20 | Batch: 400/782 | 单Batch损失: 0.7613 | 累计平均损失: 0.6358
Epoch: 19/20 | Batch: 500/782 | 单Batch损失: 0.7232 | 累计平均损失: 0.6382
Epoch: 19/20 | Batch: 600/782 | 单Batch损失: 0.7425 | 累计平均损失: 0.6445
Epoch: 19/20 | Batch: 700/782 | 单Batch损失: 0.4579 | 累计平均损失: 0.6460
Epoch 19/20 完成 | 训练准确率: 77.39% | 测试准确率: 80.34%
Epoch: 20/20 | Batch: 100/782 | 单Batch损失: 0.6894 | 累计平均损失: 0.6250
Epoch: 20/20 | Batch: 200/782 | 单Batch损失: 0.6279 | 累计平均损失: 0.6234
Epoch: 20/20 | Batch: 300/782 | 单Batch损失: 0.6294 | 累计平均损失: 0.6268
Epoch: 20/20 | Batch: 400/782 | 单Batch损失: 0.7378 | 累计平均损失: 0.6291
Epoch: 20/20 | Batch: 500/782 | 单Batch损失: 0.7755 | 累计平均损失: 0.6328
Epoch: 20/20 | Batch: 600/782 | 单Batch损失: 0.4936 | 累计平均损失: 0.6303
Epoch: 20/20 | Batch: 700/782 | 单Batch损失: 0.5084 | 累计平均损失: 0.6347
Epoch 20/20 完成 | 训练准确率: 78.11% | 测试准确率: 79.24%
@浙大疏锦行