美文网首页机器学习
主成分分析-原理

主成分分析-原理

作者: 灵妍 | 来源:发表于2018-05-27 17:07 被阅读2次
主成分分析.PNG
1、降维是什么

降维简单直接的说就是减少自变量的个数,利于分类结果的可视化。

2、降维的两种方法
降维的两种方法.PNG

降低自变量个数的方法有两种,一种是特征选择,也就是直接去除一些自变量;另一种是特征提取,就是将高维的自变量转换成低维的自变量。

3、什么是主成分分析
PCA.PNG

PCA是一个无监督模型,这一点我是有疑问的。

4、直观感受主成分分析
直观感受PCA.PNG

前面解释过新的自变量可以较好的解释数据的方差,这里的红色点和蓝色点分别代表什么,不是很了解。


直觉再体现.PNG

我们知道,所得的新的方向是由原来的方向重组之后的方向,也就是经过坐标变换的方向,在新的方向上,原来的样本点在不同维度上表示的特征之间的方差变大了。

5、主成分分析的具体步骤
PCA具体算法.PNG

其实我们从算法的角度更容易去理解,方差矩阵是一个正对角线为0的对角矩阵,它的特征值代表的是变换后的特征向量,在哪几个方向上的方差更大。这里要明白的重点是方差矩阵的含义,以及特征值和特征矩阵的含义。

相关文章

网友评论

    本文标题:主成分分析-原理

    本文链接:https://www.haomeiwen.com/subject/dkobjftx.html