美文网首页
SVM 笔记

SVM 笔记

作者: 小乙集 | 来源:发表于2016-09-23 17:10 被阅读0次

支持向量机的基本理念是找出一条线或一个超平面,进行二分类。

利用margin的概念,使得margin的值最大化,即max 2/||w||,然后这个公式被转换成 min 1/2*||w||^2。之后用拉格朗日因子代替进公式得到一个二次方式,在限制条件下进行求解。可以得到,基本情况下alpha值都是0,只有少数x值使得alpha不为0,就是这些值为support vectors。当然不是所有情况都是linearly separable,所以引进一个惩罚因子C,允许软间隔,允许一些输入值没有很好的分类。

之后引进了一个kernel的概念,利用kernel trick可以将低维的值升级为高维的,从而得到一个超平面可以很好的将其进行分类。典型的比如k(x,y)=phi(x)的转置*phi(y),当phi(x)=(x1^2,x2^2,2^(1/2)*x1*x2,k(x,y)=(x1*y1+x2*y2)^2=(x的转置*y)^2。 这种情况可以将一些二维不可分点升到三维空间,得到一个超平面进行分类。

作为svm是一个二分类模型,相对应会有svr作为regression的模型。这个模型有待研究。

相关文章

  • Support Vector Machine

    SVM学习笔记 1. The target of SVM is finding a hyper plane to ...

  • SVM笔记

    支持向量机的总体概念就是:通过核函数把低维的样本点映射到高维的点,i是指第i个样本点: x(i) --> f(i)...

  • SVM 笔记

    支持向量机的基本理念是找出一条线或一个超平面,进行二分类。 利用margin的概念,使得margin的值最大化,即...

  • SVM笔记

    1.是什么/解决什么问题二类分类模型,用来做binary classification/regression 2....

  • SVM入门笔记

    本文不是一篇正式的tutorial,只是帮助回忆和理解SVM推导的笔记。此文章会长期更新。 分类问题 SVM(su...

  • 你想遇见的SVM2019-05-26

    SVM学习笔记20190525 学习计划的第一个算法原理,就从SVM开始吧。 找了几篇博客,最终选了这篇,对博客的...

  • SVM学习笔记

    1. SVM算法原理 支持向量机(Support Vector Machine)算法需理解清楚三个关键点:间隔,对...

  • SVM学习笔记

    转自http://blog.csdn.net/v_july_v/article/details/7624837 线...

  • 行人检测

    opencv︱opencv中实现行人检测:HOG+SVM(二) - 素质云笔记/Recorder... - CSDN博客

  • 2018-04-18第三周 svm深入学习+使用线性核函数写出d

    本周的任务是svm算法的学习以及做出一个简单的demo。 首先是我这一周的svm学习笔记 一、线性分类器 在进行文...

网友评论

      本文标题:SVM 笔记

      本文链接:https://www.haomeiwen.com/subject/mxgtyttx.html