美文网首页AI
均值,方差,协方差,协方差矩阵,特征值,特征向量

均值,方差,协方差,协方差矩阵,特征值,特征向量

作者: 北铭 | 来源:发表于2017-11-24 10:09 被阅读49次

1.均值:描述的是样本集合的中间点。公式如下

2.标准方差:描述的是样本集合的各个样本点到均值的距离之平均,一般是用来描述一维数据的。

3.协方差:
1)是一种用来度量两个随机变量关系的统计量。
2)只能处理二维问题。
3)计算协方差需要计算均值。

4. 方差与协方差的关系
方差是用来度量单个变量“自身变异”大小的总体参数,方差越大表明该变量的变异越大
协方差是用来度量两个变量之间“协同变异”大小的总体参数,即二个变量相互影响大小的参数,协方差的绝对值越大,则二个变量相互影响越大。

5.协方差矩阵
1)协方差矩阵能处理多维问题;
2)协方差矩阵是一个对称的矩阵,而且对角线是各个维度上的方差。
3)协方差矩阵计算的是不同维度之间的协方差,而不是不同样本之间的。
4)样本矩阵中若每行是一个样本,则每列为一个维度,所以计算协方差时要按列计算均值。如果数据是3维,那么协方差矩阵是:



协方差(i,j)=(第i列所有元素-第i列均值)*(第 j列所有元素-第j列均值)/(样本数-1)

下面在给出一个4维3列样本的实例:

我们还可以看出,协方差矩阵都是方阵,它的维度与样本维度有关(相等)

6.特征值与特征向量

转载自:http://blog.csdn.net/yangleo1987/article/details/52845912

相关文章

  • PCA

    求协方差矩阵,然后求出协方差矩阵的特征值和特征向量,想降到几维度,就取前几个特征值对应的特征向量(做归一化),每个...

  • 如何从形的角度理解协方差矩阵

    协方差矩阵定义了我们数据的传播(方差)和方向(协方差)。 协方差矩阵的最大特征向量总是指向数据最大方差的方向,并且...

  • PCA算法思想

    本章涉及到的知识点清单:1、矩阵的特征向量和特征值2、如何求解矩阵的特征向量和特征值3、方差、协方差和散度矩阵4、...

  • PCA算法及相关资料

    1.《机器学习实战》第13章2.特征向量和特征值3.PCA要对数据进行预处理的原因4.协方差与协方差矩阵

  • 均值,方差,协方差,协方差矩阵,特征值,特征向量

    1.均值:描述的是样本集合的中间点。公式如下 2.标准方差:描述的是样本集合的各个样本点到均值的距离之平均,一般是...

  • PCA

    这是一种数据压缩的好方法首先计算均值然后计算其协方差矩阵再对协方差矩阵进行特征值分解(SVD分解的特殊情况)取特征...

  • 异常检测

    1 PCA 标准化-协方差矩阵-特征值/特征向量-选择特征向量 计算投影值,投影值越大,越异常 2 DBSACN ...

  • 方差、协方差与归一化

    最近总是遇到协方差,不大理解,找到了相关的解释: 我所理解的协方差矩阵 协方差和协方差矩阵

  • 2018-10-29 修改model - 共用协方差矩阵

    1.协方差矩阵 协方差矩阵 Σ表示的是n个元素之间两两对应的关系,所以协方差矩阵 Σ是一个nxn的矩阵。 协方差矩...

  • PCA主成分分析

    步骤:1、对原始d维数据集做标准化处理2、构造样本的方差矩阵3、计算协方差矩阵的特征值和相应的特征向量4、选择与前...

网友评论

    本文标题:均值,方差,协方差,协方差矩阵,特征值,特征向量

    本文链接:https://www.haomeiwen.com/subject/sajxbxtx.html