感知机

作者: arcral | 来源:发表于2017-09-01 11:07 被阅读0次

感知机

标签: 统计学习


目录

[TOC]

模型

二分类的线性模型,属于判别模型
  旨在求出将输入空间进行线性划分的分离超平面。
  损失函数基于误分类,利用梯度下降法求解目标,从而获得感知机模型,分为原始形式与对偶形式,是神经网络与支持向量机的基础

定义


  w为权值(weight),b为偏置(bias),sign为符号函数
  模型解释:线性方程   对应于输入空间的一个超平面,位于该平面两部分的点被分为两类,又称为分离超平面(separating hyperplane)

策略

选择损失函数,一个自然选择是误分类点总数,但非参数w,b的连续可导函数,不易优化。另一个选择是误分类点到超平米的总距离
  不考虑系数,得到损失函数(该函数同时也是感知机的经验风险函数)
  感知机的策略就是,选取使损失函数最小的模型参数w,b

学习算法

采用随机梯度下降法(stochastic gradient descent)

  两个参数的梯度分别为
  选取一个误分类点,对w,b进行更新

  该算法有一个直观解释:当一个样本点被误分类,则调整w,b的值,使分离超平面向该误分类点的一侧移动,以减少该点与超平面的距离
  解不唯一,即依赖于初值,也依赖于迭代过程的点选择顺序

相关文章

  • 感知机

    感知机 感知机模型 感知机学习策略 感知机学习算法 算法的收敛性 感知机学习算法的对偶形式 感知机实现二分类模型 ...

  • 1、深度学习入门-感知机

    感知机是什么? 感知机 (perceptron):感知机是神经网络(深度学习)的起源算法,学习感知机的构造是通向神...

  • 深度学习入门(1)感知机

    感知机 感知机基础知识 感知机是神经网络(深度学习)的起源算法。 感知机可以接收多个输入信息,输出一个信号。 感知...

  • 神经网络概述

    感知机 最小的神经网络结构,无论多复杂的神经网络都由许多感知机构成。 感知机结构:输入层、输出层感知机 感知机是一...

  • 动手学深度学习(三) 多层感知机

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 多层感知机 2020-02-18

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 多层感知机

    多层感知机 多层感知机的基本知识 使用多层感知机图像分类的从零开始的实现 使用pytorch的简洁实现 多层感知机...

  • 神经网络

    感知机和神经网络 感知机 我们对照感知机的公式 可以发现,从输入层到输出层,其实就是感知机的函数模型,当然了,这个...

  • 动手学深度学习笔记(二)

    从零开始写多层感知机 多层感知机 本节中,我们将以多层感知机(multilayer perceptron,简称 M...

  • 人工智能入门

    1、感知机 感知机 感知机接收多个输入信号,输出一个信号,上图是一个接收两个输入信号的感知机的例子。 x1、...

网友评论

      本文标题:感知机

      本文链接:https://www.haomeiwen.com/subject/dnyhjxtx.html