美文网首页ML&DL
正交矩阵、EVD、SVD

正交矩阵、EVD、SVD

作者: cherryleechen | 来源:发表于2019-04-29 16:01 被阅读20次

一、正交矩阵

图1.1 正交矩阵

二、EVD

特征值分解(Eigen Value Decomposition, EVD)。
对于对称阵A_{m*m},设特征值为\lambda_i,对应的单位特征向量为x_i,则有

图2.1 EVD
若非满秩,会导致维度退化,使得向量落入维空间的子空间中。
最后,变换是变换的逆变换。

三、SVD

奇异值分解(Singular Value Decomposition, SVD)。
对任意一个m*n的矩阵A,能否找到一组正交基使得其经过A变换后得到的还是一组正交基呢?
答案是能,这也正是SVD的设计精髓所在。
现假设存在A_{m*n}rank(A)=k

图3.1 SVD1
图3.2 SVD2

因此,
A=U \Sigma V^T
AA^T=(U \Sigma V^T)(U \Sigma V^T)^T=U \Sigma V^T V \Sigma^T U^T=U \Sigma^2 U^T
A^T A=(U \Sigma V^T)^T(U \Sigma V^T)= V \Sigma^T U^T U \Sigma V^T=V \Sigma^2 V^T

相关文章

  • 正交矩阵、EVD、SVD

    一、正交矩阵 二、EVD 特征值分解(Eigen Value Decomposition, EVD)。对于对称阵,...

  • SVD

    谈谈矩阵的 SVD 分解SVD花书

  • 标准正交基与正交矩阵

    标准正交基标准正交基.PNG 坐标变换坐标变换.PNG 正交矩阵正交矩阵.PNG

  • 正交矩阵

    什么是正交矩阵 满足公式的矩阵就是正交矩阵,那么正交矩阵有什么特性呢? 将A表示由行向量组成的矩阵,则 根据公式,...

  • 线性代数笔记17

    第十七节 正交基 正交矩阵 标准正交基 orthonormal basis 设则 即,单位矩阵 只有当正交点积非0...

  • 奇异值分解(SVD)

    一些基础 关于正交矩阵 正交矩阵是指各行所形成的多个向量间任意拿出两个,都能正交关系式,正交矩阵的重要性质是AT=...

  • 正交矩阵

    定义:若n阶矩阵A满足 则称A为正交矩阵 定理:A为正交矩阵的充要条件是A的列向量和行向量都是标准(规范)正交基。...

  • 线性代数笔记30

    奇异值分解 SVD 不用特征值分解的原因,是因为它由三个问题:1,特征值矩阵常常不是正交的2,总是没有足够的特征向...

  • 第30课 奇异值分解

    奇异值分解:简称,是矩阵最终和最好的分解,分解的因子是正交矩阵,对角矩阵,正交矩阵,任意矩阵都有这种奇异值分解 对...

  • 正交矩阵

    转置矩阵为其逆矩阵。

网友评论

    本文标题:正交矩阵、EVD、SVD

    本文链接:https://www.haomeiwen.com/subject/abiynqtx.html