美文网首页
直观解释SVD

直观解释SVD

作者: 掰不开桃子的男人 | 来源:发表于2019-07-18 11:22 被阅读0次

    基本概念

    SVD(singular value decomposition),奇异值分解

    对称方阵可以分解成特征值特征向量的形式:

    S = Q \wedge Q ^ { T }

    那么类比,任意矩阵m*n可以分解成类似形式吗?可以,分成奇异值特征向量

    A = U \Sigma V ^ { \top }

    也可以把A写成rank 1的矩阵之和:

    A = \sigma _ { 1 } u _ { 1 } v _ { 1 } ^ { \mathrm { T } } + \sigma _ { 2 } u _ { 2 } v _ { 2 } ^ { \mathrm { T } } + \ldots + \sigma _ { r } u _ { r } v _ { r } ^ { \mathrm { T } }

    其中\sigma _ {i}代表奇异值,总共只有r个,全部大于0,其他都为0.

    有什么用?

    可以把图片转为矩阵,通过丢弃不重要的奇异值,进行压缩:

    参考https://www.zhihu.com/question/22237507?sort=created

    怎么求解?

    image.png image.png
    • u_iAA^T的eigenvector

    • \sigma_i^2AA^T的eigenvalue

    上面两个式子左边都是对称方阵可以用特征值分解,然后得到U/\Sigma/V

    直观解释

    奇异值分解实际上把矩阵的变换分为了三部分:

    • 旋转

    • 拉伸

    • 投影

    image.png image.png

    参考:https://www.zhihu.com/question/22237507?sort=created

    相关文章

      网友评论

          本文标题:直观解释SVD

          本文链接:https://www.haomeiwen.com/subject/lxwklctx.html