1神经网络是一门重要的人工智能技术,也是之后讲解CNN(卷积神经网络)的基础。
在本章中,我们将主要学习与掌握神经网络的一些基本概念,为后续理解CNN打好基础。 本章的要点具体如下。
·神经元的基本介绍。
·激活函数。
·神经网络的基本介绍。
·前向传播。
·输出层。
·损失函数。
·最优化。
·基于数值微分的反向传播。
5.1 神经网络
从本节开始我们将逐步了解神经网络的基本概念与结构,首先从简单一点的结构开始,神经网络包含了三个层次,分别是:
输入层,
隐藏层
输出层。
输入层,位于这一层的神经元称为输入神经元。
输出层,输出神经元。
隐藏层。一个神经网络的隐藏层可以有很多,可以简单地理解为,如果一个层既不是输入层也不是输出层,那么就可以称其为隐藏层。
我们可以列举一个小例子,假设我们现在手里有一堆手写数字识别的数据,每个图像的灰度值编码将作为神经元的输入,假设输入的图片都是28*28的灰度图,那么我们的输入神经元就有28*28=784个输入神经元。
如果我们想知道这张图片是0-9中的哪个数字,那么神经网络的输出层则需要定义10个神经元,它们分别代表该数字是否为0,是否为1,是否为2……是否为9。
每个神经元都将预测该图片是某个数字的概率是多少,最终我们可以从这10个神经元输出的结果中抽取概率最大的那个作为最后的预测结果。
网友评论