【机器学习】主成分分析(PCA)

        利用假期的闲余时间，开始系统地学习机器学习的相关知识，希望可以从理论层面进行比较深入的学习。同时，希望通过学习笔记便于以后的复习，也希望对大家有所帮助。

        在许多领域和应用中，我们往往需要分析大量的指标，这样最突出的缺点就是计算量大，同时，变量之间的相关性可能对分析带来不便。因此，我们就需要在尽量减少原指标信息损失的情况下，对待分析的指标进行压缩。

        主成分分析(Principal Components Analysis)是一个简单的机器学习算法，作为一种重要的数据降维方法，它在数据压缩等领域有广泛的应用。

        对于PCA的基本思想以及使用方法不了解的，可以参考以下两篇博客。

        主成分分析（PCA）原理详解

        主成分分析（PCA）原理总结

        这里，我主要想自己推导一下PCA的公式，从而对PCA的原理有一个更加深刻的理解。

        写到这里，突然发现简书不支持LaTeX，突然一阵悲伤，只能上传图片了。

        参考书籍： the matrix cookbook （密码: gv2j）