如何通过对偶问题求解线性可分 SVM

作者: 不会停的蜗牛 | 来源:发表于2018-12-06 23:05 被阅读41次

    我们最终是想要求出最大间隔超平面

    所以需要计算出约束条件下的 w和b 这两个参数,进而得到最大间隔超平面的表达式

    求解方法是将原问题转化为其对偶问题进行求解,

    这个过程分为四步,

    1. 首先原问题需要满足强对偶性的三个条件

    2. 将原问题转化为拉格朗日函数

    3. 求拉格朗日函数的下确界函数

    4. 求这个下确界函数的极大值,即要对偶问题的最优解

    对于线性可分 SVM 来说,根据上面的四个步骤进行求解:

    1. 首先它是符合强对偶的三个条件的,

    2. 然后求出它的拉格朗日函数

    3. 再求下确界函数,方法是对W和b求偏导,令其等于零

    4. 接着需要对下确界函数求极大值,需要将极大值问题转化为极小值问题,用 SMO算法求出参数向量 alpha

    5. 又因为 alpha 对应的(x,y)必然是支持向量,所以得出 b 的表达式

    6. 至此 w 和 b 表达式都得到了,进而得到了最大分割超平面的表达式

    7. 接着也就构造出了决策函数


    求解方法是将原问题转化为其对偶问题进行求解,这个过程分为四步:

    1. 首先原问题需要满足强对偶性的三个条件

    2. 将原问题转化为拉格朗日函数

    3. 求拉格朗日函数的下确界函数

    4. 求这个下确界函数的极大值,即要对偶问题的最优解


    对于线性可分 SVM 来说,根据上面的四个步骤进行求解:

    1. 首先它是符合强对偶的三个条件的,

    2. 然后求出它的拉格朗日函数

    3. 再求下确界函数,方法是对W和b求偏导,令其等于零

    4. 接着需要对下确界函数求极大值,需要将极大值问题转化为极小值问题,用 SMO算法求出参数向量 alpha


    5. 又因为 alpha 对应的(x,y)必然是支持向量,所以得出 b 的表达式

    6. 至此 w 和 b 表达式都得到了,进而得到了最大分割超平面的表达式

    7. 接着也就构造出了决策函数


    SMO算法:

    相关文章

      网友评论

      • 熵与热:随着研究的深入,你会发现,自己越来越孤独

      本文标题:如何通过对偶问题求解线性可分 SVM

      本文链接:https://www.haomeiwen.com/subject/magacqtx.html