降维与度量学习

1.kNN算法：给定测试样本，基于某种距离度量，找出训练集中与其最近靠近的k个训练样本，然后基于这k个邻居的信息进行预测.通常分类任务中，使用“投票”法；回归任务中，使用“平均”法。

2.维数灾难（curse of dimensionality）：高维情形下，数据样本稀疏、距离计算困难。

3.降维（dimension reduction）。pca一种降维方法。

4. root mean square error（RMSE）：a typical performance measure for regression problems.

5. sklearn.preprocessing.OneHotEncoder：a OneHotEncoder encoder converts integer categorical values into to one-hot vectors。

6. feature scaling：min-max scaling、standardization。