当前位置：首页 > ops >正文

[深度学习]全连接神经网络

ops 2025/6/18 4:36:13

一、实验目的

二、实验环境

三、实验内容

3.1 完成解压数据集相关操作

3.2分析代码结构并运行代码查看结果

3.3修改超参数（批量大小、学习率、Epoch）并对比分析不同结果

3.4修改网络结构（隐藏层数、神经元个数）并对比分析不同结果

四、实验小结

一、实验目的

了解python语法
了解全连接神经网络结构
调整超参数、修改网络结构并对比分析其结果

二、实验环境

Baidu 飞桨AI Studio

三、实验内容

3.1 完成解压数据集相关操作

输入以下两行命令解压数据集

（1）cd ./data/data230

（2）unzip Minst.zip

运行后结果如图1所示

图 1 解压数据集

3.2分析代码结构并运行代码查看结果

代码结构：

import torchfrom torch import nn, optimfrom torch.autograd import Variablefrom torch.utils.data import DataLoaderfrom torchvision import datasets, transformsbatch_size = 64learning_rate = 0.02class Batch_Net(nn.Module):def __init__(self, in_dim, n_hidden_1, n_hidden_2, out_dim):super(Batch_Net, self).__init__()self.layer1 = nn.Sequential(nn.Linear(in_dim, n_hidden_1), nn.BatchNorm1d(n_hidden_1), nn.ReLU(True))self.layer2 = nn.Sequential(nn.Linear(n_hidden_1, n_hidden_2), nn.BatchNorm1d(n_hidden_2), nn.ReLU(True))self.layer3 = nn.Sequential(nn.Linear(n_hidden_2, out_dim))def forward(self, x):x = self.layer1(x)x = self.layer2(x)x = self.layer3(x)return xdata_tf = transforms.Compose([transforms.ToTensor(),transforms.Normalize([0.5], [0.5])])train_dataset = datasets.MNIST(root='./data/data230', train=True, transform=data_tf, download=True)test_dataset = datasets.MNIST(root='./data/data230', train=False, transform=data_tf)train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True)test_loader = DataLoader(test_dataset, batch_size=batch_size, shuffle=False)#model = net.simpleNet(28 * 28, 300, 100, 10)# model = Activation_Net(28 * 28, 300, 100, 10)model = Batch_Net(28 * 28, 300, 100, 10)if torch.cuda.is_available():model = model.cuda()criterion = nn.CrossEntropyLoss()optimizer = optim.SGD(model.parameters(), lr=learning_rate)epoch = 0for data in train_loader:img, label = dataimg = img.view(img.size(0), -1)if torch.cuda.is_available():img = img.cuda()label = label.cuda()else:img = Variable(img)label = Variable(label)out = model(img)loss = criterion(out, label)print_loss = loss.data.item()optimizer.zero_grad()loss.backward()optimizer.step()epoch+=1if epoch%100 == 0:print('epoch: {}, loss: {:.4}'.format(epoch, loss.data.item()))model.eval()eval_loss = 0eval_acc = 0for data in test_loader:img, label = dataimg = img.view(img.size(0), -1)if torch.cuda.is_available():img = img.cuda()label = label.cuda()out = model(img)loss = criterion(out, label)eval_loss += loss.data.item()*label.size(0)_, pred = torch.max(out, 1)num_correct = (pred == label).sum()eval_acc += num_correct.item()print('Test Loss: {:.6f}, Acc: {:.6f}'.format(eval_loss / (len(test_dataset)),eval_acc / (len(test_dataset))))

代码分析：

代码实现了通过使用批标准化的神经网络模型对MNIST数据集进行分类。

1.首先定义一些模型中会用到的超参数，在实验中设置批量大小（batch_size）为64，学习率(learning_rate)为0.02

2.定义Batch_Net神经网络类继承自torch库的nn.Module。

(1)定义的初始化函数_init_接收输入维度（in_dim）、两个隐藏层神经元数量(n_hidden_1和n_hidden_2)和输出维度(out_dim)作为参数，定义第一层和第二层网络结构，包括线性变换、批标准化和ReLU激活函数，第三层网络结构只包括线性变换。

(2)定义的forward前向传播函数接受输入x，依次经过三层网络结构处理后返回处理结果。

3.将数据进行预处理。包括使用transforms.ToTensor()将图片转换成PyTorch中处理的对象Tensor,并进行标准化操作，通过transforms.Normalize()做归一化（减均值，再除以标准差）操作，通过transforms.Compose()函数组合各种预处理的操作。

4.下载并加载MNIST训练数据（train_dataset）以及测试数据(test_dataset)；创建数据加载器，用于批量加载训练数据(train_loader)和测试数据(test_loader)。

5.选择训练的模型，实验中选择Batch_Net模型，判断GPU是否可用，如果GPU可用，则将模型放到GPU上运行。在定义损失函数(criterion)和优化器(optimizer)，损失函数使用交叉熵损失，优化器使用随机梯度下降优化器。

6.开始训练模型，遍历训练数据，通过img.view(img.size(0), -1)将图像数据调整为一维张量，以便与模型的输入匹配。计算损失值（loss）并进行反向传播和参数更新，每100个epoch打印一次训练损失，最后评估模型在测试集上的性能，计算并打印总损失（将损失值乘以当前批次的样本数量，累加到eval_loss中）和准确率(eval_acc)。

运行代码后的结果如图所示：