SVM、核方法、SVR基本原理介绍

支持向量

image.png
image.png
image.png
image.png

线性超平面求解方法

1.引入SVM基本型

image.png
image.png
2.利用对偶问题模型建立
image.png
image.png
image.png
3.KKT条件
image.png
4.SMO算法求解对偶问题
image.png
image.png
image.png
image.png

核方法（求解非线性可分问题）

1.核函数

image.png
image.png
image.png
image.png
image.png
image.png
2.核函数定理

3.常用核函数
image.png

软间隔

1.软间隔

image.png
image.png
2.损失函数的引入
image.png
image.png
image.png

3.松弛变量的引入

image.png
image.png
4.软间隔SVM的对偶问题模型的建立与求解
image.png
image.png

正则化方法

image.png
image.png

SVR（支持向量回归）

1.间隔带的引入

image.png

2.SVR问题模型的建立
image.png
image.png image.png
3.SVR问题模型的求解
image.png
image.png
image.png
image.png
4.SVR核方法
image.png

核方法

image.png
1.表示定理
image.png
image.png

KLDA(核线性判别分析)

image.png
image.png
image.png
image.png
image.png

（上文截图来源于周志华的《机器学习》）