目标:
消除全连接层,目前已经广泛应用在深度图像领域
出处:2013年的Network In Network
存在的意义:
在卷积神经网络的初期,卷积层通过池化层(一般是 最大池化)后总是要一个或n个全连接层,最后在softmax分类。其特征就是全连接层的参数超多,使模型本身变得非常臃肿。全连接存在的问题:参数量过大,降低了训练的速度,且很容易过拟合。
具体实现:
在分类神经网络的最后,为每个类别分别配置一个特征图;将特征图所有像素值相加求平局,得到一个数值,即用该数值表示对应特征图。作为后续softmax层的输入。
GAP
原文
参考文章:
全局平均池化(Golbal Average Pooling)
全局平均池化(Global Average Pooling)
网友评论