美文网首页机器学习
08 SVM - 软间隔模型算法流程

08 SVM - 软间隔模型算法流程

作者: 白尔摩斯 | 来源:发表于2018-12-05 00:20 被阅读164次

07 SVM - 软间隔模型

七、SVM的软间隔模型算法

输入线性可分的m个样本数据{(x1,y1),(x2,y2),...,(xm,ym)},其中x为n维的特征向量,y为二元输出,取值为+1或者-1;SVM模型输出为参数w、b以及分类决策函数。

1、选择一个惩罚系数C>0,构造约束优化问题;

构造约束优化问题

2、使用SMO算法求出上式优化中对应的最优解β*;

3、找出所有的支持向量集合S; 其实每一个支持向量对应的b都是相等的,所以无需考虑所有的支持向量先求和再平均,求一个即可。

支持向量几何S

4、更新参数w、b的值;

更新 w 、 b

5、构建最终的分类器

构建最终的分类器

八、SVM的软间隔模型总结

1、可以解决线性数据中携带异常点的分类模型构建的问题;
2、通过引入惩罚项系数(松弛因子),可以增加模型的泛化能力,即鲁棒性 (使模型不会去迎合异常值);
3、如果给定的惩罚项系数越小,表示在模型构建的时候,就允许存在越多的分类错误的样本, 也就表示此时模型的准确率会比较低;如果惩罚项系数越大,表示在模型构建的时候,就越不允许存在分类错误的样本,也就表示此时模型的准确率会比较高。

相关文章

  • 08 SVM - 软间隔模型算法流程

    07 SVM - 软间隔模型 七、SVM的软间隔模型算法 输入线性可分的m个样本数据{(x1,y1),(x2,y2...

  • 11 SVM - SMO - 序列最小优化算法

    05 SVM - 支持向量机 - 概念、线性可分06 SVM - 线性可分模型算法和案例07 SVM - 软间隔模...

  • 09 SVM - 线性不可分模型

    无论之前的软间隔还是硬间隔模型,都是针对SVM线性可分模型而言的。软间隔模型和硬间隔模型的损失函数一样,只是多了两...

  • 07 SVM - 软间隔模型

    六、硬间隔和软间隔模型 之前两章介绍的内容是硬间隔模型:《05 SVM - 支持向量机 - 概念、线性可分》《06...

  • Task5 svm

    学习内容 SVM 硬间隔原理 SVM 软间隔 SMO 求解SVM 代码设计 1、硬间隔 本文是需要一定基础才可以看...

  • 机器学习-吴恩达笔记7

    Week7-SVM 本周主要是讲解了支持向量机SVM的相关知识点 硬间隔 支持向量 软间隔 对偶问题 优化目标Op...

  • 支持向量机

    支持向量机(svm)是一种用于分类的算法,它的思想是找出一条平面最大间隔的将数据集分开。它可以分为硬间隔分类和软间...

  • 支持向量机(SVM)常见问题

    1 SVM原理 SVM是一种二分类模型。它的基本模型是在特征空间中寻找间隔最大化的分离超平面的线性分类器。(间隔最...

  • SVM、核方法、SVR基本原理介绍

    支持向量 线性超平面求解方法 1.引入SVM基本型 核方法(求解非线性可分问题) 1.核函数 软间隔 1.软间隔 ...

  • SVM总结

    1. 请说一下SVM的原理/简要介绍SVM SVM 是一种二分类模型。它的基本模型是在特征空间中寻找间隔最大化的分...

网友评论

    本文标题:08 SVM - 软间隔模型算法流程

    本文链接:https://www.haomeiwen.com/subject/prvbcqtx.html