当前位置: 首页 > ds >正文

5.31 day33

知识点回顾:
PyTorch和cuda的安装
查看显卡信息的命令行命令(cmd中使用)
cuda的检查
简单神经网络的流程
数据预处理(归一化、转换成张量)
模型的定义
继承nn.Module类
定义每一个层
定义前向传播流程
定义损失函数和优化器
定义训练流程
可视化loss过程

import torchprint(torch.__version__)
print(torch.version.cuda)
print(1)
print(torch.cuda.is_available())  #输出为True,则安装成功
import torch# 检查CUDA是否可用
if torch.cuda.is_available():print("CUDA可用!")# 获取可用的CUDA设备数量device_count = torch.cuda.device_count()print(f"可用的CUDA设备数量: {device_count}")# 获取当前使用的CUDA设备索引current_device = torch.cuda.current_device()print(f"当前使用的CUDA设备索引: {current_device}")# 获取当前CUDA设备的名称device_name = torch.cuda.get_device_name(current_device)print(f"当前CUDA设备的名称: {device_name}")# 获取CUDA版本cuda_version = torch.version.cudaprint(f"CUDA版本: {cuda_version}")
else:print("CUDA不可用。")

# 仍然用4特征,3分类的鸢尾花数据集作为我们今天的数据集
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
import numpy as np# 加载鸢尾花数据集
iris = load_iris()
X = iris.data  # 特征数据
y = iris.target  # 标签数据
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)# 归一化数据,神经网络对于输入数据的尺寸敏感,归一化是最常见的处理方式
from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test) #确保训练集和测试集是相同的缩放# 将数据转换为 PyTorch 张量,因为 PyTorch 使用张量进行训练
# y_train和y_test是整数,所以需要转化为long类型,如果是float32,会输出1.0 0.0
X_train = torch.FloatTensor(X_train)
y_train = torch.LongTensor(y_train)
X_test = torch.FloatTensor(X_test)
y_test = torch.LongTensor(y_test)

模型架构定义
定义一个简单的全连接神经网络模型,包含一个输入层、一个隐藏层和一个输出层。

定义层数+定义前向传播顺序

import torch
import torch.nn as nn
import torch.optim as optimclass MLP(nn.Module): # 定义一个多层感知机(MLP)模型,继承父类nn.Moduledef __init__(self): # 初始化函数super(MLP, self).__init__() # 调用父类的初始化函数# 前三行是八股文,后面的是自定义的# 明天问问豆包,今天太晚了,就先写下来。self.fc1 = nn.Linear(4, 10)  # 输入层到隐藏层self.relu = nn.ReLU()self.fc2 = nn.Linear(10, 3)  # 隐藏层到输出层
# 输出层不需要激活函数,因为后面会用到交叉熵函数cross_entropy,交叉熵函数内部有softmax函数,会把输出转化为概率def forward(self, x):out = self.fc1(x)out = self.relu(out)out = self.fc2(out)return out
# 实例化模型
model = MLP()

模型训练(CPU版本)
定义损失函数和优化器

# 分类问题使用交叉熵损失函数
criterion = nn.CrossEntropyLoss()# 使用随机梯度下降优化器
optimizer = optim.SGD(model.parameters(), lr=0.01)
# 训练模型
num_epochs = 20000 # 训练的轮数# 用于存储每个 epoch 的损失值
losses = []for epoch in range(num_epochs): # range是从0开始,所以epoch是从0开始# 前向传播outputs = model.forward(X_train)   # 显式调用forward函数# outputs = model(X_train)  # 常见写法隐式调用forward函数,其实是用了model类的__call__方法loss = criterion(outputs, y_train) # output是模型预测值,y_train是真实标签# 反向传播和优化optimizer.zero_grad() #梯度清零,因为PyTorch会累积梯度,所以每次迭代需要清零,梯度累计是那种小的bitchsize模拟大的bitchsizeloss.backward() # 反向传播计算梯度optimizer.step() # 更新参数# 记录损失值losses.append(loss.item())# 打印训练信息if (epoch + 1) % 100 == 0: # range是从0开始,所以epoch+1是从当前epoch开始,每100个epoch打印一次print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}')
import matplotlib.pyplot as plt
# 可视化损失曲线
plt.plot(range(num_epochs), losses)
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.title('Training Loss over Epochs')
plt.show()

http://www.xdnf.cn/news/10342.html

相关文章:

  • 【LUT技术专题】图像自适应3DLUT
  • 设计模式——适配器设计模式(结构型)
  • SpringBoot3-从环境搭建到异常处理的完整指南
  • C++ 命令模式:设计与实现详解
  • flowable候选人及候选人组(Candidate Users 、Candidate Groups)的应用包含拾取、归还、交接
  • LLm中 float16和 float32 区别,为什么训练不能采用float16--梯度消失
  • LeetCode 算 法 实 战 - - - 移 除 链 表 元 素、反 转 链 表
  • go|context源码解析
  • 【Block总结】Dynamic Tanh (DyT)|即插即用|何凯明和Yann LeCun署名
  • 4.2.5 Spark SQL 分区自动推断
  • 开发体育平台,怎么接入最合适的数据接口
  • 免费高清多功能录屏软件推荐
  • cc攻击是什么?云上业务如何防护cc攻击
  • 城市内涝精准监测・智能预警・高效应对:治理方案解析
  • 集成LR1121+ESP32-S3芯片方案的EoRa-HUB系列开发板简介
  • Spring中过滤器 RequestContextFilter 和 OncePerRequestFilter 的区别
  • 操作系统学习(六)——多线程
  • 机器视觉视觉中的棋盘格到底是什么?为什么是棋盘格?
  • AI FOR SCIENCE 2025 报告解读
  • MES系统:助力企业数字化转型
  • 修改Docker镜像源
  • web前端使用xlsx和file-saver实现前端表格table数据导出Excel功能
  • mysql的Memory引擎的深入了解
  • QML 无边框窗口翻转动画
  • pikachu通关教程-目录遍历漏洞(../../)
  • Wayland模式X11模式LinuxFB​​模式,Linux图形显示系统三大模式深度解析
  • Vue2 与 Vue3对比
  • 【通关文件操作(下)】--文件的顺序读写(续),sprintf和sscanf函数,文件的随机读写,文件缓冲区,更新文件
  • AI赋能SEO关键词策略
  • CVE-2019-17558源码分析与漏洞复现