卷积神经网络(CNN）

图像数据和边缘检测

image.png

上图错字：达到瓶颈了

感受野

image.png

边缘检测

image.png
image.png
image.png

卷积神经网络（CNN）原理

image.png

卷积层

image.png
image.png

H：长，W：宽，F：卷积核大小，P：零填充，S：步长，K：filter卷积核数量
卷积运算过程（例）：

image.png
image.png
image.png

padding-零填充

image.png
image.png

Vaild and Same卷积

image.png

N：图片大小，F：卷积核大小，P：零填充

奇数维度的过滤器

image.png

stride-步长

image.png
image.png

括号内表示长宽

多通道卷积

image.png

多卷积核

image.png

一些练习

1：

image.png

2：

image.png
image.png

池化层

image.png

最大池化：

image.png

平均池化：

image.png

SoftPool池化层

SoftPool是一种变种的池化层，它可以在保持池化层功能的同时尽可能减少池化过程中带来的信息损失。
池化算法的变种：

image.png

上图展示了多个变种的池化层，具体包括Average Pooling、Max Pooling、Power Average Pooling、Stochastic Pooling、S3 Pooling、Local Importance Pooling与SoftPool。通过观察我们可以发现：（1）其它的池化操作基本都是在最大池化或者平均池化的变种；（2）S3池化操作的思路与最大池化类似；（3）其它的池化操作基本都是平均池化的变种；（4）Local Importance Pooling与SoftPool池化操作的思路类似，都给原图的区域计算了对应的区域，并进行了累计操作。

SoftPool计算

image.png
image.png

通过观察我们可以得出以下的初步结论：（1）与原图相比，SoftPool操作能够保留原图中更多的细节，Avg池化次之，Max池化丢失的信息最多；（2）从计算复杂度来讲，SoftPool的复杂度最高，Avg池化次之，Max池化最低。

image.png
image.png

SoftPool是一种变种的池化层，它可以在保持池化层功能的同时尽可能减少池化过程中带来的信息损失。大量的实验结果表明该算法的性能优于原始的Avg池化与Max池化。

全连接层

image.png