美文网首页
线性分类器

线性分类器

作者: Oo_ | 来源:发表于2017-09-27 14:55 被阅读0次

线性可分是最简单的分类器,需要注意的是,线性并不是传统的直线的概念。线性,如果特征在一维空间,那么线性分类器可以是一个点;二维空间,则是一条直线,三维则是平面。如果我们忽略具体的维度,泛指某个维度上的线性分类器,则这个分类器又可以称之为超平面(Hyper Plane)。

线性函数,x应该用向量来理解

注意,x不再是横轴坐标的概念,而是一组特征向量。g(x)可以用来判别输入的特征向量x所属的类别。简单的将如果,wx+b>0为一类,wx+b<0则为二类。

对于一个分类问题,其所对应的超平面具有无穷多个,那么如何选择最好的超平面?首先,需要定义一种评价标准,再依据这种标准来寻找该超平面。其中一种思路是,定义样本与超平面的距离,所有样本到该平面的距离的平均越小,则该超平面越优秀。对于一组样本,

                                                                  Di=(xi,yi)

其中,xi为某个样本特征向量,yi为该样本所对应的类别标签,如二元分类,则可以理解为1和-1。对于一个超平面g(x)=wx+b,则某个样本到该超平面的距离可以表示为,

样本与超平面距离 几何间隔

范数

误分次数的上界由几何间隔决定

R为特征向量最大维度

相关文章

  • 损失函数

    线性分类器简介 线性评分函数 阐明线性分类器 损失函数多分类SVMsoftmax分类器SVM和softmax的比较...

  • BAT机器学习面试1000题系列(第31~40题)

    31.线性分类器与非线性分类器的区别以及优劣如果模型是参数的线性函数,并且存在线性分类面,那么就是线性分类器,否则...

  • 基于sklearn的线性回归器

    理论 线性回归器 相比于线性分类器,线性回归器更加自然。回归任务的label是连续的变量(不像分类任务label是...

  • 三、线性分类器

    3.1 线性分类器的数学定义 线性分类器: 其中,代表图片向量(将二维图片转为一维向量),维度为,为分类器的参数,...

  • 逻辑回归总结

    一、逻辑回归来源 据线性可分可以使用线性分类器,如果数据线性不可分,可以使用非线性分类器,这里似乎没有逻辑回...

  • cs231n - Section#2

    一、线性分类Linear Classification 线性分类器中的score function完成下面的函数映...

  • 机器学习 之 支持向量机

    SVM可以做线性或者非线性的分类,回归,甚至异常值检测。 1. 线性SVM分类 左图显示了三种可能的线性分类器的判...

  • 线性分类器

    线性可分是最简单的分类器,需要注意的是,线性并不是传统的直线的概念。线性,如果特征在一维空间,那么线性分类器可以是...

  • 线性分类器

    K-Nearest Neighbor (k-NN)分类器,该分类器的基本思想是通过将测试图像与训练集带标签的图像进...

  • 机器学习笔记02-支持向量机SVM(上)

    目录 什么是SVM 线性分类器的含义 怎么找线性分类器 1.什么是SVM SVM支持向量机,号称机器学习的拦路虎。...

网友评论

      本文标题:线性分类器

      本文链接:https://www.haomeiwen.com/subject/nyduextx.html