KNN算法原理

（一）KNN三要素

1.确定K值是多少，如K = 5 / K = 10。

•   交叉验证法、网格参数校验法等

2.找出这K个距离最近的样本具体是哪几个。

•   样本少：欧氏距离
•   样本多：KD_tree

3. 根据找出的这K个样本，预测目标样本的结果。

•   分类预测：多数表决法
•   回归预测：平均值法。

（二）K值选择

1.网格参数交叉验证

（三）K个样本获取

1.KD_tree