深度学习 | 特殊卷积的作用

1.1*1卷积

3*3卷积操作
如上图所示，为33的卷积核对图像进行卷积操作后的输出过程。
1*1卷积操作
如上图所示，为11的卷积核对图像进行卷积操作后的输出过程。一般1×1的卷积核本质上并没有对图像做什么聚合操作，以为就是同一个w去乘以原图像上的每一个像素点。

• 1*1的卷积核的作用一：

那么1×1卷积核有什么作用呢，如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。
比如当前层为即图像大小为，特征层数为，然后如果将其通过1×1的卷积核，特征层数为，那么只要这样就能起到降维的目的，减少之后步骤的运算量（当然这里不太严谨，需要考虑1×1卷积核本身的参数个数为个）。换句话说，如果使用1x1的卷积核，这个操作实现的就是多个feature map的线性组合，可以实现feature map在通道个数上的变化。 而因为卷积操作本身就可以做到各个通道的重新聚合的作用，所以1×1的卷积核也能达到这个效果。

• 1*1的卷积核的作用二：

但是1×1卷积核确实可以实现全连接层 具体的操作如下，输入是224x224x3 的图像，假设经过变换之后最后一层是[7x7x512]的，那么传统的方法应该将其展平成为一个7x7x512长度的一层，然后做全连接层，假设全连接层为4096×1000层的（假设有1000个分类结果）。 那么用1×1卷积核怎么做呢，因为1×1卷积核相当于在不同channel之间做线性变换，所以在得到[7x7x512]之后：

1. 先选择7×7的卷积核，输出层特征层数为4096层，这样得到一个[1×1×4096]层的
2. 然后再选择用1×1卷积核，输出层数为1000层，这样得到一个[1×1×1000]层这样就搞定了。

从上述方法中我们发现，若想要利用1*1的卷积核实现全连接，需要对特征图进行计算，并用特定尺寸的卷积核作最后的操作。