神经网络

• MP神经单元
• 多层神经单元
• 特点
• 优点
• 缺点

MP神经单元

关于平面直线方程h = ax + by +c = 0，等式左边大于零和小于零分别表示点在直线的一侧还是另一侧。

那么在n维平面时，直线的高维形式称为超平面，它的方程式如下：

屏幕快照 2018-02-26 下午1.55.36.png

神经元就是当h大于0时输出1，h小于0时输出0这么一个模型，它的实质就是把特征空间一切两半，认为两瓣分别属两个类。
这个模型有点像人脑中的神经元：从多个感受器接受电信号x1，x2,x3...xn进行处理（加权相加再偏移一点，即判断输入是否在某条直线的一侧）发出电信号（在正确的那侧发出1，否则不发信号，可以认为是发出0），这就是它叫神经元的原因。

MP神经单元缺点

1.首先它把直线一侧变为0，另一侧变为1，不可微，于是利用平滑的Sigmod函数（参照逻辑回归）替代。
2.只能切一刀。所以我们要引入多层神经网络。

多层神经单元

多层神经单元是指底层神经元的输出是高层神经元的输入，每砍一刀，其实就是使用了一个神经元。

• 图像表示
  下面来看一个情景，该情景下无法用一超平面进行分割。

  
  屏幕快照 2018-02-26 下午3.37.18.png
  

  于是我们进行空间变化，变成如下情景。

屏幕快照 2018-02-26 下午3.37.23.png

• 数学表示

屏幕快照 2018-02-26 下午2.24.18.png

a()是激活函数

二层网络就是

屏幕快照 2018-02-26 下午2.24.44.png

如何简单形象又有趣地讲解神经网络是什么？

特点

模拟人脑构造，构造神经元

优点

(BP)很强的分线性拟合能力，学习规则简单，很强的鲁棒性，具有记忆能力、自学能力,误差反向传播，并行性好
(RBF)唯一最佳逼近特性，无局部最小问题，前反馈网络中RBF网络完成映射功能最优，分类能力好，收敛性比BP快非常多

缺点

没能力解释自己的推理过程及依据，数据不充分时，将无法工作，初值较敏感（使用AUTO-Encoder）