理解超平面

作者: Paycation | 来源:发表于2019-02-26 00:25 被阅读10次

理解超平面
超平面
再看SVM
python与机器学习（六.支持向量机SVM）
神经网络与机器学习，tensorflow，part1（感知机）
机器学习-SVM
06-支持向量机原理（一）线性支持向量机
SVM算法
超平面
统计学习方法之支持向量机

超平面的公式

首先明确几个定义：(1) 超平面是指n维线性空间中维度为n-1的子空间。它可以把线性空间分割成不相交的两部分。比如二维空间中，一条直线是一维的，它把平面分成了两块；三维空间中，一个平面是二维的，它把空间分成了两块。(2) 法向量是指垂直于超平面的向量。

在 $R^3$ 空间中，假如有法向量 $\omega$ ，过原点的平面内任意原点出发的向量 $x$ 必然与之满足 $w^Tx=0$ 。如果平面沿着法向量的方向上下平移了，那么这个方程就不成立了。

我们假设平移之后平面经过 $x'(x_1',x_2',x_3')$ ，平面内任意一点记为 $x(x_1,x_2,x_3)$ ，法向量记为 $\omega(\omega_1,\omega_2,\omega_3)$ ，如下图。

平面公式示意图

不难看出， $x-x'$ 在平面内，当然也就和法向量垂直。于是我们有：
$\begin{aligned} &(x-x')w=0\\ &(x_1-x_1', x_2-x_2',x_3-x_3')\cdot(\omega_1,\omega_2,\omega_3)=0 \end{aligned}$
化简后得： $x_1\omega_1+x_2\omega_2+x_3\omega_3=\omega_1x_1'+\omega_2x_2'+\omega_3x_3'$ 。即 $\omega^Tx=\omega^Tx'$ 。由于其为常数项，令 $b=-\omega^Tx'$ ，于是超平面的公式可以写成：
$\omega^Tx+b=0$

这个结论同样适用于 $R^n$ 空间；
无论超平面如何平移，系数始终是法向量 $\omega$ 。

点到超平面的距离

点到超平面距离

上图中 $x$ 是平面外的一点。我们要求的距离记为 $d$ ，也就是红色的线段。根据三角函数可以得到： $\cos{\theta}=\dfrac{d}{||x-x'||}$ （空间中一点向超平面作垂线， $\theta$ 只能是锐角，不必担心正负）。因为 $d$ 肯定和法向量平行，所以这样来算夹角： $|(x-x')\omega|=||x-x'||\cdot||\omega||\cdot\cos{\theta}$ （因为法向量可能反向，所以给等式左边加上绝对值），联立得：
$d = \dfrac{|(x-x')\omega|}{||\omega||}=\dfrac{|\omega x-\omega x'|}{||\omega||}$
根据前面的结论， $\omega x'=-b$ ，于是最后得到的任意点到超平面的距离公式：
$d=\dfrac{|\omega x+b|}{||\omega||}$

理解超平面
超平面的公式首先明确几个定义：(1) 超平面是指n维线性空间中维度为n-1的子空间。它可以把线性空间分割成不相交...
超平面
在看《统计学习方法》时，对超平面有些地方不理解，这篇文章就记录一下疑问和答案。疑问点乘公式怎么会成立超平面怎...
再看SVM
超平面描述方程其中w是法向量。空间任意点到平面的距离：假设超平面可以正确分类，则支持向量到超平面的距离之和为期...
python与机器学习（六.支持向量机SVM）
超平面与支持向量将数据集分隔开来的直线称为分隔超平面。如果数据点都在二维平面上，此时分隔超平面就只是一条直线。但...
神经网络与机器学习，tensorflow，part1（感知机）
1.超平面在几何体中，超平面是一维小于其环境空间的子空间。如果空间是3维的，那么它的超平面是二维平面，而如果空间...
机器学习-SVM
基本概念超平面：分类的决策边界，N 维的数据集需要 N-1 维的超平面支持向量：离分隔超平面最近的那些点间隔...
06-支持向量机原理（一）线性支持向量机
1、SVM的超平面这里可以得到一个结论W向量的转置是这条超平面的转置 1.1、计算点到超平面的距离 1.2、计算...
SVM算法
7.20：：：：：：：硬间隔最大化（线性可分）二分类问题找到超平面且是最优超平面（最大间距的超平面凸二次规...
超平面
如果一个向量是n维，那么他的超平面是n-1维
统计学习方法之支持向量机
【概述】 SVM训练分类器的方法是寻找到超平面，使正负样本在超平面的两侧（分类正确性即“分得开”），且样本到超平面...