动手学深度学习（pytorch版）：第六章节—卷积神经网络（1）从全连接层到卷积

目录

1. 不变性

2. 多层感知机的限制

2.1. 平移不变性

2.2. 局部性

3. 卷积

4. “沃尔多在哪里”回顾

4.1. 通道

---

之前讨论的多层感知机十分适合处理表格数据，其中行对应样本，列对应特征。 对于表格数据，寻找的模式可能涉及特征之间的交互，但是不能预先假设任何与特征交互相关的先验结构。 此时，多层感知机可能是最好的选择，然而对于高维感知数据，这种缺少结构的网络可能会变得不实用。

例如，在之前猫狗分类的例子中：假设有一个足够充分的照片数据集，数据集中是拥有标注的照片，每张照片具有百万级像素，这意味着网络的每次输入都有一百万个维度。 即使将隐藏层维度降低到1000，这个全连接层也将有个参数。 想要训练这个模型将不可实现，因为需要有大量的GPU、分布式优化训练的经验和超乎常人的耐心。

即使分辨率减小为十万像素，使用1000个隐藏单元的隐藏层也可能不足以学习到良好的图像特征，在真实的系统中我们仍然需要数十亿个参数。 此外，拟合如此多的参数还需要收集大量的数据。 然而，如今人类和机器都能很好地区分猫和狗：这是因为图像中本就拥有丰富的结构，而这些结构可以被人类和机器学习模型使用。 卷积神经网络（convolutional neural networks，CNN）是机器学习利用自然图像中一些已知结构的创造性方法。

1. 不变性

想象一下，假设想从一张图片中找到某个物体。 合理的假设是：无论哪种方法找到这个物体，都应该和物体的位置无关。 理想情况下，我们的系统应该能够利用常识：猪通常不在天上飞，飞机通常不在水里游泳。 但是，如果一只猪出现在图片顶部，我们还是应该认出它。 我们可以从儿童游戏”沃尔多在哪里”中得到灵感： 在这个游戏中包含了许多充斥着活动的混乱场景，而沃尔多通常潜伏在一些不太可能的位置，读者的目标就是找出他。 尽管沃尔多的装扮很有特点，但是在眼花缭乱的场景中找到他也如大海捞针。 然而沃尔多的样子并不取决于他潜藏的地方，因此我们可以使用一个“沃尔多检测器”扫描图像。 该检测器将图像分割成多个区域，并为每个区域包含沃尔多的可能性打分。 卷积神经网络正是将空间不变性（spatial invariance）的这一概念系统化，从而基于这个模型使用较少的参数来学习有用的表示。

 

现在，将上述想法总结一下，从而设计适合于计算机视觉的神经网络架构。

1. 平移不变性（translation invariance）：不管检测对象出现在图像中的哪个位置，神经网络的前面几层应该对相同的图像区域具有相似的反应，即为“平移不变性”。

2. 局部性（locality）：神经网络的前面几层应该只探索输入图像中的局部区域，而不过度在意图像中相隔较远区域的关系，这就是“局部性”原则。最终，可以聚合这些局部特征，以在整个图像级别进行预测。

2. 多层感知机的限制

首先，多层感知机的输入是二维图像，其隐藏表示在数学上是一个矩阵，在代码中表示为二维张量。 其中和具有相同的形状。 为了方便理解，我们可以认为，无论是输入还是隐藏表示都拥有空间结构。

2.1. 平移不变性

现在引用上述的第一个原则：平移不变性。 这意味着检测对象在输入中的平移，应该仅导致隐藏表示中的平移。

2.2. 局部性

现在引用上述的第二个原则：局部性。如上所述，为了收集用来训练参数的相关信息，我们不应偏离到距很远的地方。这意味着在或的范围之外，我们可以设置。

在深度学习研究社区中，被称为卷积核（convolution kernel）或者滤波器（filter），亦或简单地称之为该卷积层的权重，通常该权重是可学习的参数。 当图像处理的局部区域很小时，卷积神经网络与多层感知机的训练差异可能是巨大的：以前，多层感知机可能需要数十亿个参数来表示网络中的一层，而现在卷积神经网络通常只需要几百个参数，而且不需要改变输入或隐藏表示的维数。 参数大幅减少的代价是，特征现在是平移不变的，并且当确定每个隐藏活性值时，每一层只包含局部的信息。 以上所有的权重学习都将依赖于归纳偏置。当这种偏置与现实相符时，我们就能得到样本有效的模型，并且这些模型能很好地泛化到未知数据中。 但如果这偏置与现实不符时，比如当图像不满足平移不变时，模型可能难以拟合我们的训练数据。

3. 卷积

卷积（Convolution）是数学、信号处理和深度学习中的核心运算，用于描述两个函数（或信号）之间相互作用的结果。在离散情况下，卷积定义为两个序列的加权和；在连续情况下，定义为积分运算。

离散卷积公式：
对于序列 ( f[n] ) 和 ( g[n] )，卷积结果为：

连续卷积公式：
对于函数 ( f(t) ) 和 ( g(t) )，卷积结果为：

4. “沃尔多在哪里”回顾

回到上面的“沃尔多在哪里”游戏，看看它到底是什么样子。卷积层根据滤波器选取给定大小的窗口，并加权处理图片。的目标是学习一个模型，以便探测出在“沃尔多”最可能出现的地方。

 

4.1. 通道

然而这种方法有一个问题：忽略了图像一般包含三个通道/三种原色（红色、绿色和蓝色）。 实际上，图像不是二维张量，而是一个由高度、宽度和颜色组成的三维张量，比如包含个像素。 前两个轴与像素的空间位置有关，而第三个轴可以看作每个像素的多维表示。

此外，由于输入图像是三维的，隐藏表示也最好采用三维张量。 换句话说，对于每一个空间位置，想要采用一组而不是一个隐藏表示。这样一组隐藏表示可以想象成一些互相堆叠的二维网格。 因此，可以把隐藏表示想象为一系列具有二维张量的通道（channel）。 这些通道有时也被称为特征映射（feature maps），每个通道都向后续层提供一组空间化的学习特征。 直观上可以想象在靠近输入的底层，一些通道专门识别边缘，而一些通道专门识别纹理。

为了支持输入和隐藏表示中的多个通道，可以在中添加第四个坐标，

其中隐藏表示中的索引表示输出通道，而随后的输出将继续以三维张量作为输入进入下一个卷积层。 

然而，仍有许多问题亟待解决。