一. SVM的种类
第一种可以用一条线完全划分超平面百分之百分对；第二种不存在一个超平面全部分对，允许部分分错。
二. SVM在做什么？
(1,-2)是法线方向，法线正方向表示+，负方向表示-。f((0,0)) = 2>0是在法线的正方向的。同时可以根据点到直线的距离公式计算点(x1,x2)，到该直线的距离。
对于一个样本点(X1,X2,1), 可以将距离公式转换如上，因为y(i)与(Wt*X(i)+b)符号，始终相同，所以可将原来的绝对值形式，转换为该种形式。
SVM找出最佳的分割线！做法：给定w,b ，也就是已知这条分割线的方程，再求样本中到该分割线距离最小的那个点到这个线的距离dmaxmin。然后换不同的w,b，也就是换不同的分割线来试，继续计算出它们的dmaxmin。最后看哪个值最大，就选那个值对应的分割线。
线性可分支持向量机，fai x，将原本的x1,x2,转换成x1,x2,x1x2,x1**2,x2**2，映射到更高的维度，也就是增加了特征的数量。
整理的符号
三. 推导目标函数
一般α在s.t条件小于等于0时取负，而此处条件大于等于0，所以要加负号
之后将算出来的w与b带回原式
四. 线性支持向量机
有时候需要放弃一些样本，才会让margin更大，效果越好。
每个样本的ξ不一样
网友评论