感知机

作者: 豆腐的麻婆 | 来源:发表于2018-08-14 21:51 被阅读0次

感知机求得的线性可分的超平面不唯一,只要满足使样本点可分即刻。

个人理解:建立在 数据集的线性可分 基础上,假设 y = sigmoid(wx+b),通过样本点更新初始值w和b,得到最终的超平面。

计算样本点与假设超平面距离过程中,(wx+b)/||w||,对于错误样本的,一定存在 y(wx+b)<0,则可以计算累计的误差为 -Σy(wx+b)/||w||,在这个过程中,只关注每次输入数据中错误样本,修正过程为修正错误样本与超平面距离。

表达式最后可以表示为

L(w,b) = -Σy(wx+b)/||w||

通过问题本身,仅仅是关注于样本是否分类正确,具体L的误差值大小非关注重点,因此可以简化为

L(w,b) = -Σy(wx+b) 

参数为w和b,这里求解w,b的过程利用了梯度下降(对目标函数的参数求偏导数)最终得到了

w 更新 = w - 学习率 xy

b 更新 = b - 学习率 y

以上的内容为原始形式的感知机迭代更新求解参数值的过程,这里通过计算错误点距离超平面的指作为损失函数是因为这种方式可以进行优化。

对偶形式:

个人理解:错误样本会更新w和b,因此可以通过错误样本的出现次数n,表示当前错误样本对于w和b的影响。

通过对原始形式感知机模型的w和b的替换,最终得到的表达式是关于ni。

相关文章

  • 感知机

    感知机 感知机模型 感知机学习策略 感知机学习算法 算法的收敛性 感知机学习算法的对偶形式 感知机实现二分类模型 ...

  • 1、深度学习入门-感知机

    感知机是什么? 感知机 (perceptron):感知机是神经网络(深度学习)的起源算法,学习感知机的构造是通向神...

  • 深度学习入门(1)感知机

    感知机 感知机基础知识 感知机是神经网络(深度学习)的起源算法。 感知机可以接收多个输入信息,输出一个信号。 感知...

  • 神经网络概述

    感知机 最小的神经网络结构,无论多复杂的神经网络都由许多感知机构成。 感知机结构:输入层、输出层感知机 感知机是一...

  • 动手学深度学习(三) 多层感知机

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 多层感知机 2020-02-18

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 多层感知机

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 神经网络

    感知机和神经网络 感知机 我们对照感知机的公式 可以发现,从输入层到输出层,其实就是感知机的函数模型,当然了,这个...

  • 动手学深度学习笔记(二)

    从零开始写多层感知机 多层感知机 本节中,我们将以多层感知机(multilayer perceptron,简称 M...

  • 人工智能入门

    1、感知机 感知机 感知机接收多个输入信号,输出一个信号,上图是一个接收两个输入信号的感知机的例子。 x1、...

网友评论

      本文标题:感知机

      本文链接:https://www.haomeiwen.com/subject/wwmvwttx.html