1.基础理论与相关技术

1.1神经网络的介绍

        神经网络是以人脑中人的神经为启发的，形成了可以用于网络研究的人工神经网络。单个神经元的数学模型如图1.1，根据图2.1，可以知道单个神经元的函数式如公式（1.1），其中b是偏移值；是初始特征；是权重，表示特征的缩放倍数；是激活函数。特征通过缩放和权重，然后全部累加起来后，此时输出的是线性函数，网络的建立没有太大的意义，因此还要经过一次激活运算然后再输出。在加权求和后要做的是线性变换，神因此我们需要一个非线性的转换函数，常见的激活函数有Sifmoid函数、Tang函数、Elu函数、Softplus函数以Relu函数。本次研究使用的是Relu函数，它的值域有下限但是没有上限，它的函数图像如图1.2。

                                                                 图1.1单个神经元的数学模型

                                                                单个神经元的函数式（1.1）

                                                                    图2.2  Relu激活函数

        人工神经网络中有许多神经元，不同的神经元分别组成了输入层、输出层和隐藏层,输入层由输入单元组成，接收外部的信息；输出层生成最终结果，每个输出单元会对应到某一种特定的分类，为网络送给外部系统的结果值；隐藏层处于输入层和输出层中间，用于分析处理输入的数据，然后输出给输出层。如图1.3是简单的神经网络。

                                                                图1.3简单的神经网络               

图1.3对应的函数式为：