【转】应用PCA进行降维的建议

PCA可以降维，那让我们联想到了之前说过拟合问题是由维度过高或者参数过多造成的，那么可不可以用PCA解决overfitting的问题呢？
Ans：NO！应用PCA提取主成分可能会解决一些overfitting的问题，但是呢，不建议用这种方法解决overfitting问题，还是建议用第三章中讲过的加入regularization项（也称为ridge regression）来解决。

PCA中主成分分析应用到那部分数据呢？
Ans：Only Training Data！可以用Cross-Validation data 和 test Data进行检验，但是选择主分量的时候只应用training data.

不要盲目PCA
Notice：only 当你在原数据上跑到了一个比较好的结果，又嫌它太慢的时候才采取PCA进行降维，不然降了半天白降了~