直接简单介绍神经网络算法

神经元介绍

神经元：它是神经网络的基本单元。神经元先获得输入，然后执行某些数学运算后，再产生一个输出。

神经元内输入经历了3步数学运算，

先将两个输入乘以权重：

权重指某一因素或指标相对于某一事物的重要程度，其不同于一般的比重，体现的不仅仅是某一因素或指标所占的百分比，强调的是因素或指标的相对重要程度

x1→x1 × w1

x2→x2 × w2

把两个结果相加，加上一个偏置：

（x1 × w1）+（x2 × w2）+ b

最后将它们经过激活函数处理得到输出：

y = f(x1 × w1 + x2 × w2 + b)

激活函数的作用是将无限制的输入转换为可预测形式的输出。一种常用的激活函数是sigmoid函数

sigmoid函数的输出介于0和1，我们可以理解为它把 (−∞,+∞) 范围内的数压缩到 (0, 1)以内。正值越大输出越接近1，负向数值越大输出越接近0。

搭建神经网络

神经网络：神经网络就是把一堆神经元连接在一起

隐藏层是夹在输入输入层和输出层之间的部分，一个神经网络可以有多个隐藏层。

前馈是指神经元的输入向前传递获得输出的过程

训练神经网络

训练神经网络，其实这就是一个优化的过程，将损失最小化

损失是判断训练神经网络的一个标准

可用均方误差定义损失

均方误差是反映估计量与被估计量之间差异程度的一种度量。设t是根据子样确定的总体参数θ的一个估计量，(θ-t)2的数学期望，称为估计量t的均方误差。它等于σ2+b2，其中σ2与b分别是t的方差与偏倚。

预测值是由一系列网络权重和偏置计算出来的值

反向传播是指向后计算偏导数的系统

正向传播算法是由前往后进行的一个算法