首先channel（信道）为1的1x1卷积过滤器就相当于给输入矩阵乘以一个常数。
其次channel不为1的过滤器的卷积操作如下图所示：(图中卷积过滤器channel=32)
计算左图中的32个数和过滤器的32个数的元素级乘积，然后应用Relu激活函数后相加，得到一个实数后输出到绿点位置。
1x1卷积的分解
这个1x1x32卷积可以理解为一个神经元的输入是32个数字（即输入切片中的32个数字）这32个数字具有不同channel，乘以32个权重（即过滤器中的32个数）后应用Relu激活再输出结果到黄点，如下图所示。
类比为全连接网络原理
更进一步，如果过滤器的数量不止一个，那么最终输出的channel就等于1x1过滤器个数，如下图所示（#filters指过滤器个数）1x1卷积可以理解为在一个切片（图示黄条）的32个元素都应用了数个全连接网络，然后在36个单元上重复这个过程。这也是1x1卷积叫做网络中的网络（Network in network）的原因。
1x1卷积的作用
图示全连接网络的作用是输入32个数字，输出过滤器数量个数字。（it inputs 32 numbers,and outputs number of fliters outputs）
即通过“过滤器个数”改变（增加或减少）输入矩阵的channel数，如下图
改变输入的channel数
网友评论