深度学习-PyTorch介绍
PyTorch
什么是PyTorch?
开源的Python机器学习库,基于Torch库(一个又大量机器学习算法支持的科学计算框架,有着与Numpy类似的张量(Tensor)操作,采用的语言是Lua),底层由C++实现,应用于人工智能领域,如计算机视觉和自然语言处理。
PyTorch主要有两大特征:
- 类似Numpy的张量计算,能在GPU或MPS等硬件加速器上加速;
- 张量计算:多维数组上的加减乘除等数学操作,和NumPy中的数组运算类似;
- GPU/MPS加速器:
- GPU(图形处理单元)能并行处理大量数据,非常适合深度学习中的矩阵/张量运算
- MPS(Apple的Metal Performance Shaders)是macOS/iOS上类似GPU的加速方案
- 基于带自动微分系统的深度神经网络。
- 自动微分系统:是一种计算导数(梯度)的方法,它能根据模型结构自动计算每个参数的偏导数;
- 深度神经网络:由多层感知机组成的模型,需要不断地计算梯度进行训练。