线性分类问题

点到超平面的距离

1.点(x1, y1)到直线 Ax + By + C = 0 的距离：

图片.png

忽略正负号，分子写成矩阵形式，分母写为范数：

图片.png

再写成n维：

图片.png

由此得到SVM目标函数（求所有的最小距离的最大值）：

图片.png

支持向量机名字的来历：

图片.png

圈中的五角星点（实际上是多维向量），位于过渡带上，支撑了分割超平面，因此称为支持向量（support vector），由支撑向量做的机器，就叫做支持向量机（support vector machine）~~

推导目标函数

图片.png

这就是最大间隔分离超平面，使用几何的方法推导出来的