美文网首页
直观解释SVD

直观解释SVD

作者: 掰不开桃子的男人 | 来源:发表于2019-07-18 11:22 被阅读0次

基本概念

SVD(singular value decomposition),奇异值分解

对称方阵可以分解成特征值特征向量的形式:

S = Q \wedge Q ^ { T }

那么类比,任意矩阵m*n可以分解成类似形式吗?可以,分成奇异值特征向量

A = U \Sigma V ^ { \top }

也可以把A写成rank 1的矩阵之和:

A = \sigma _ { 1 } u _ { 1 } v _ { 1 } ^ { \mathrm { T } } + \sigma _ { 2 } u _ { 2 } v _ { 2 } ^ { \mathrm { T } } + \ldots + \sigma _ { r } u _ { r } v _ { r } ^ { \mathrm { T } }

其中\sigma _ {i}代表奇异值,总共只有r个,全部大于0,其他都为0.

有什么用?

可以把图片转为矩阵,通过丢弃不重要的奇异值,进行压缩:

参考https://www.zhihu.com/question/22237507?sort=created

怎么求解?

image.png image.png
  • u_iAA^T的eigenvector

  • \sigma_i^2AA^T的eigenvalue

上面两个式子左边都是对称方阵可以用特征值分解,然后得到U/\Sigma/V

直观解释

奇异值分解实际上把矩阵的变换分为了三部分:

  • 旋转

  • 拉伸

  • 投影

image.png image.png

参考:https://www.zhihu.com/question/22237507?sort=created

相关文章

网友评论

      本文标题:直观解释SVD

      本文链接:https://www.haomeiwen.com/subject/lxwklctx.html