论文：https://arxiv.org/pdf/1803.02579.pdf
摘要
全卷积网络为大量应用设置了图像分割的最新技术，F-CNN中的结构创新集中在空间编码或网络连接来帮助梯度流。本文，探索了一种自适应地重新校准特征图的方向，来增加有意义的特征，同时抑制弱的特征。我们从最近提出的squeeze & excitation(SE)模块获得灵感，该模块是用于图像分类特征图的通道重新校准。为此，我们介绍了用于图像分割的三种SE模块变体:
- 压缩空间和激励信道(cSE)
- 压缩信道和激励空间(sSE)
- 并行的空间，信道压缩和激励(scSE)
我们有效的将这些SE模块整合到DenseNet, SD-Net, U-Net框架中，并观察性能的持续改进，同时最小化对模型复杂性的影响。对两个具有挑战性的应用进行了评估：MRI扫描上的全脑分割和全身增强CT扫描上的器官分割。
介绍
卷积网络已经成为图像分类的标准方式，全卷机已经成为许多图像分类任务的首先工具。这些架构的基础是卷积层，通过过滤器对所有输入channel捕捉局部空间特征，并生成共同编码空间和通道信息的特征图。虽然对空间信息和通道信息的联合编码进行了大量的改进，但对空间模式和通道模式的独立编码探索却较少。最近的工作试图通过明确建模特征映射通道间的相互依赖性来解决上述问题，介绍了一种称为SE的模块，它可以无缝集成到任何一个CNN模型中。
SE模块通过全局平均池排除空间依赖性，来学习特定于通道的描述符，该描述符用于重新校准功能图，强调有用的通道。SE沿空间域挤压，并沿通道激励或重新加权。一个带有SE块的卷积网络在ILSVRC 2017年图像网数据集分类竞争中获得第一名，表明其有效性。
在这项工作中，我们希望利用SE块的高性能对F-CNN图像进行分类。我们将前面介绍的SE块称为信道SE（CSE），因为它只激励信道方向，这对分类是有效的。我们假设，对于图像分割，像素空间信息更具信息性。因此，我们引入另一个SE块，它沿着通道“挤压”并在空间上“激发”，称为空间SE（SCE）。最后，我们提出了并行空间和信道SE块（SCSE），分别沿信道和空间重新校准特征映射，然后结合输出。激发特征图在空间和渠道上的更多信息。
方法
SE模块
SE模块
首先Ftr这一步是转换操作（严格讲并不属于SENet，而是属于原网络，可以看后面SENet和Inception及ResNet网络的结合），在文中就是一个标准的卷积操作。
Ftr得到的U是左边第二个三维矩阵，也叫tensor，或者叫C个大小为H*W的feature map。而uc表示U中第c个二维矩阵，下标c表示channel。
接下来就是Squeeze操作，进行全局平均池化。
图1 SE模块计算流程图
在主干网络中第一步采用Global pooling操作，空间特征压缩成一系列实数（Squeeze操作）。然后是一个全连接层FC，在这一过程中一般把输入的维度降为1/16，紧跟其后是一个Relu层和一个FC层，把维度恢复到输入的大小（Excitation操作）。最后通过一个Sigmoid层把权重归一化到0~1之间，再通过scale逐通道加权到先前的特征上，至此完成一次SE模块操作。
问题（1）：为什么使用两个FC，而不是直接使用一个FC？
原博文解释：
这样做比直接用一个 Fully Connected 层的好处在于：
1）具有更多的非线性，可以更好地拟合通道间复杂的相关性；
2）极大地减少了参数量和计算量。
问题（2）：可能存在的问题？
原博文解释：
由于在主干上存在 0~1 的 scale 操作，在网络较深 BP 优化时就会在靠近输入层容易出现梯度消散的情况，导致模型难以优化
cSE、sSE和scSE模块
如图2（a）所示，通过将SE块放在每个编码器（池化层）和解码器块（上采样层）之后，可以无缝集成到任何F-CNN模型中。
图2
cSE、sSE和scSE模块计算流程图
空间压缩和信道激励（cSE）
压缩空间通过全局平均池化层，产生一个z向量（1x1xC），然后通过一个全连接层和激活层（RELU），再通过一个全连接层。这对通道依赖项进行了编码。
然后通过sigmoid层获取激活值使其介于[0,1]，并用于激励或重新校准通道内的值。激活值可以表示重要的通道并忽略不重要的通道。
通道压缩和空间激励（sCE）
使用1x1卷积进行通道Squeeze，然后进行一个Sigmoid层把数据归一到0~1，图4( c )下面的乘法，对应每个通道里面，相应位置相乘。
空间和通道的压缩和激励模块(scSE)
scSE模块则是将上述两个模块相加。
scSE
)
参考：
scSE--chestnut-
scSE--GrowthDiary007
scSE--得克特
scSE--这个军姬不太冷
SE Net--默一鸣
网友评论