一、正交矩阵

图1.1 正交矩阵

二、EVD

特征值分解(Eigen Value Decomposition, EVD)。
对于对称阵，设特征值为，对应的单位特征向量为，则有

图2.1 EVD
若非满秩，会导致维度退化，使得向量落入维空间的子空间中。
最后，变换是变换的逆变换。

三、SVD

奇异值分解(Singular Value Decomposition, SVD)。
对任意一个的矩阵，能否找到一组正交基使得其经过变换后得到的还是一组正交基呢？
答案是能，这也正是SVD的设计精髓所在。
现假设存在，。

图3.1 SVD1
图3.2 SVD2

因此，
，
，
。