美文网首页
深度学习理论笔记(感知机)

深度学习理论笔记(感知机)

作者: _Hell | 来源:发表于2018-01-11 16:14 被阅读0次

学习韩老师的文章,笔记如下:

深度学习的入门不得不谈感知机,何为感知机?

感知机其实就是神经元,神经网络的组成单位。如下图中,Layer 2中的神经元都可以称为感知机。

其中,第一层称为输入层,第二层为隐含层,第三层为输出层。

一个感知机(神经元)可以详细剖析其运算过程:

感知机(神经元)剖析

可以看到,一个神经元的状态的计算过程为:输入乘以权重矩阵然后加上偏置再通过一个激活函数,得到最终的输出值。

给定输入和输出,感知器可以拟合任何的线性函数(其定义就类似线性函数)。

重点:感知器的训练


权重的更新=当前权重+学习率乘以误差乘以对应输入

wi=wi+rate×(distance)×xi

偏置的更新=当前偏置+学习率乘以误差

b=b+rate×(distance)

迭代次数相当于让模型重复学习多少遍,每次学习都是遍历所有训练集

相关文章

  • 深度学习理论笔记(感知机)

    学习韩老师的文章,笔记如下: 深度学习的入门不得不谈感知机,何为感知机? 感知机其实就是神经元,神经网络的组成单位...

  • 反馈神经网络

    1、Reference 多层感知机MLP(机器学习5)多层感知机原理详解 & Python与R实现深度学习笔记——...

  • 统计学习方法笔记(第二章个人笔记)

    统计学习方法笔记(第二章个人笔记) 标签: 机器学习深度学习 感知机(P25) 感知机是神经网络与支持向量机的基础...

  • 感知机

    感知机 感知机算法是很多算法的鼻祖,比如支持向量机算法,神经网络与深度学习。在学习感知机的构造时可以学习到深度学习...

  • 1、深度学习入门-感知机

    感知机是什么? 感知机 (perceptron):感知机是神经网络(深度学习)的起源算法,学习感知机的构造是通向神...

  • 深度学习入门(1)感知机

    感知机 感知机基础知识 感知机是神经网络(深度学习)的起源算法。 感知机可以接收多个输入信息,输出一个信号。 感知...

  • 一文理清深度学习前馈神经网络

    ? Index 多层感知机(MLP)介绍 深度神经网络的激活函数 深度神经网络的损失函数 多层感知机的反向传播算法...

  • 深度学习瞎学之路--感知器

    标签: 深度学习、感知器 [TOC] 本文将介绍感知机这一算法。感知机是由美国学者Frank Rosenblatt...

  • 2018-05-27

    Deep Learning :感知机的前世今生 1.什么是深度学习 2.什么是感知机 3.感知机能够做什么 4.感...

  • 深度学习-机器学习

    零基础入门深度学习(1) - 感知器 机器学习 | Coursera 深度学习笔记(一)感知器、梯度下降、反向传播...

网友评论

      本文标题:深度学习理论笔记(感知机)

      本文链接:https://www.haomeiwen.com/subject/gkoznxtx.html