SVM概念

作者: Oo_ | 来源:发表于2017-09-27 11:23 被阅读0次

SVM,基于VC维理论结构化风险最小化原理。

何为VC维,何为结构化风险?

首先,应该知道任何机器学习模型是对真实世界模型的一种近似。评价模型的好坏则需要给出这种近似所带来的误差。但是,没有人能够给出真实模型,或者说,用数学、计算机去描述真实世界本身就已经是一种近似,存在误差。于是,人们引入训练集的概念,并将模型在训练集上的表现作为对模型的评价。这种依据模型在训练集上的性能来设计模型的思路称为经验风险最小化方法。

经验风险最小化方法存在一定的问题,人们发现,通过增加模型的复杂度(特征维度)在训练集上往往可以获得100%的精度。但是,这种模型在实际工作中,效果很差,这就是模型的泛化问题。为此,人们提出结构风险的概念。其基本思路在于,我们在训练集上分析一个模型的性能时,不能单纯关注分类精度,还要将模型本身的特性考虑在内(复杂度,样本数量)。结构风险定义如下:

结构风险包括经验风险和泛化误差界两部分

泛化误差界包括:样本数量的描述和模型的VC维度。通常,样本数量越大,即训练集越接近于实际工况,则模型越可靠。模型VC维越大,说明模型越加复杂,则其泛化能力越差,实际工况下状态越差。

相关文章

  • 05 SVM - 支持向量机 - 概念、线性可分

    04 SVM - 感知器模型 一、SVM概念 支持向量机(Support Vector Machine, SVM)...

  • 通俗易懂的支持向量机SVM

    SVM 的原理和目标 几个基本概念 线性可分SVM——线性 SVM——非线性 SVM1、线性可分SVM,表示可以用...

  • SVM概念

    SVM,基于VC维理论和结构化风险最小化原理。 何为VC维,何为结构化风险? 首先,应该知道任何机器学习模型是对真...

  • 11 SVM - SMO - 序列最小优化算法

    05 SVM - 支持向量机 - 概念、线性可分06 SVM - 线性可分模型算法和案例07 SVM - 软间隔模...

  • SVM简单概念

    SVM只能解决线性分类问题。 SVM分类原则 尽可能保证分类的正确性; 尽可能加大两个类别间的聚类,是他们更容易区...

  • SVM

    1. 基本概念 SVM,全称是Support Vector Machine,中文名叫支持向量机。SVM的基本模型是...

  • 06 SVM - 线性可分模型算法和案例

    05 SVM - 支持向量机 - 概念、线性可分 三、线性可分SVM算法流程 输入线性可分的m个样本数据{(x1,...

  • 机器学习入门(十六):SVM——线性 SVM,间隔由硬到软

    从线性可分 SVM 到线性 SVM 从现实情况引出线性 SVM 线性可分 SVM,这种 SVM 学习的训练数据本身...

  • 第7章 SVM的三层理解

    内容 一、了解SVM 二、深入SVM 三、证明SVM(暂时不懂) ########################...

  • svm简介

    1、 概念 svm(Support Vector Machine,支持向量机)是一种线性分类器,于1995年由Co...

网友评论

      本文标题:SVM概念

      本文链接:https://www.haomeiwen.com/subject/yioyextx.html