学习韩老师的文章,笔记如下:
深度学习的入门不得不谈感知机,何为感知机?
感知机其实就是神经元,神经网络的组成单位。如下图中,Layer 2中的神经元都可以称为感知机。
其中,第一层称为输入层,第二层为隐含层,第三层为输出层。
一个感知机(神经元)可以详细剖析其运算过程:
感知机(神经元)剖析可以看到,一个神经元的状态的计算过程为:输入乘以权重矩阵然后加上偏置再通过一个激活函数,得到最终的输出值。
给定输入和输出,感知器可以拟合任何的线性函数(其定义就类似线性函数)。
重点:感知器的训练
权重的更新=当前权重+学习率乘以误差乘以对应输入
wi=wi+rate×(distance)×xi
偏置的更新=当前偏置+学习率乘以误差
b=b+rate×(distance)
迭代次数相当于让模型重复学习多少遍,每次学习都是遍历所有训练集
网友评论