awesome-tensorflow
yann_LeCun
LeNet-5 是Yann LeCun在1998年设计的用于手写数字识别的卷积神经网络，LeNet-5 是早期卷积神经网络中最有代表性的实验系统之一。LeNet-5 模型可以达到 99.2% 的正确率。LeNet-5 模型总共有 7 层。
LeNet-5
第 1 层卷积层
输入层是原始图片 32 x 32 x 1，卷积核大小 5 x 5 深度为 6 不使用补零。参数 28 x 28 (32-5+1) 参数为 28 x 28 x 6 = 4704 。所以该卷积层共有 4704 x (5 + 1) = 122304 个连接。
第 2 层池化层
输入层为上一层输出 28 x 28 x 6 节点的矩阵，通过过滤器大小 2 x 2 步长为 2 的池化层进行降采样，输出矩阵变换为 14 x 14 x 6。
第 3 层卷积层
再经过一个卷积层，此层为卷积核 5 x 5 深度为 16 的卷积层，本层依旧不使用补零。输出为 10 x 10 x 16 ，本层应该有 5 x 5 x 6 x 16 + 16 = 2416 个参数
第 4 层池化层
本层输入为 10 x 10 x 16 采用的过滤器大小为 2 x 2 步长为 2 输出为矩阵大小为 5 x 5 x 16
第 5 层全连接
从第 5 层开始接下来三层都是全连接层，将 5 x 5 x 16 矩阵中的节点拉成一个向量，那么本层输出节点为 120 一共有 48120 参数
第 6 层全连接
本层输入节点数为 120 输出节点个数为 84 个 所以共参数为 120 x 84 + 84 = 10164 个参数
第 7 层全连接
最后一层是节点数为 84 个，输出节点个数为 10 个，总共参数为 120 x 84 + 10 = 850 个参数
网友评论