美文网首页人工智能工程师
PCA与LDA做数据降维

PCA与LDA做数据降维

作者: longsan0918 | 来源:发表于2018-12-21 11:18 被阅读9次

1 PCA 主成分分析

理论

PCA(Principal Component Analysis)

4FD14774-4858-4664-83EA-ACEC694B869F.png image.png 划重点:
线性变换=>新特征轴可由原始特征轴线性变换表征
线性无关=>构建的特征轴是正交的
主要线性分量(或者说是主成分)=>方差加大的方向
PCA算法的求解就是找到主要线性分量及其表征方式的过程
相应的,PCA解释方差并对离群点很敏感:少量原远离中心的点对方差有很大的影响,从而也对特征向量有很大的影响。
[PCA参考教程]https://blog.csdn.net/hustqb/article/details/78394058
  • 具体使用代码
from sklearn.decomposition import PCA #主成分分析
#降维:对于数据而言,如果特征属性比较多,在构建过程中,会比较复杂,这个时候考虑将多维(高维)映射到低维的数据
#常用的方法:
#PCA:主成分分析(无监督)
#LDA:线性判别分析(有监督)类内方差最小,人脸识别,通常先做一次pca

# 将数据降低到n_components给定的维度
pca = PCA(n_components=2)#构建一个pca对象,设置最终维度是2维
# #这里是为了后面画图方便,所以将数据维度设置了2维,一般用默认不设置参数就可以

x_train = pca.fit_transform(x_train)#训练并转换
x_test = pca.transform(x_test)#转换

2 LDA 线性判别分析

理论
LDA (Linear Discriminate Analysis) BFDBD5AB-1D6F-49BA-9CD0-C4E09A970D17.png CE81BC9A-7F33-4411-B274-55F63056F582.png 37DDA763-41A7-4F85-ACC3-99039F2EEC09.png

[LDA参考资料]https://blog.csdn.net/weixin_40604987/article/details/79615968

相关文章

  • 2021-03-29

    LDA与PCA降维思想不同,对数据的要求也不同。 LDA需要数据有标记有分类,便于后面对类内类外的区分,而PCA则...

  • PCA与LDA做数据降维

    1 PCA 主成分分析 理论 PCA(Principal Component Analysis) 具体使用代码 2...

  • 三种常用降维方法的思想总结

    一.判别分析降维 LDA降维和PCA的不同是LDA是有监督的降维,其原理是将特征映射到低维上,原始数据的类别也...

  • 用线性判别分析 LDA 降维

    本文结构: 什么是 LDA 和 PCA 区别 LDA 投影的计算过程 LDA 降维的例子 1. 什么是 LDA 先...

  • 降维LDA与PCA

    1、LDA与PCA异同点 .PCA 希望投影后的数据方差尽可能的大(最大可分性),因为其假设方差越多,则所包含的信...

  • Iris数据集使用PCA/LDA/KPCA降维的结果比较

    一、实验描述 分别使用PCA、LDA和KPCA方法对Iris数据集进行降维,利用可视化工具比较降维的效果。 二、分...

  • 数据挖掘01

    数据预处理1.1 交叉熵特征选择与降维2.1 PCA2.2 LDA分类3.1 贝叶斯3.2 决策树3.3 神经网络...

  • 降维——PCA、LDA

    一、 PCA PCA 属于一种线性、非监督、全局的降维算法,旨在找到数据的主成分,并利用这些主成分表征原始数据,从...

  • 绝境逆生

    1.过拟合的解决办法2.L1/L2正则化3.特征如何降维 (pca lda)4.pca和lda的区别5.GBDT,...

  • 深度学习知识点汇总-机器学习基础(9)

    2.9 LDA和PCA比较 相同点: 1. 两者均可以对数据进行降维; 2. 两者在降维时均使用了矩阵特征分解的思...

网友评论

    本文标题:PCA与LDA做数据降维

    本文链接:https://www.haomeiwen.com/subject/roxmkqtx.html