什么是KNN
KNN算法的全名是K-Nearest Neighbor Algorithm, 它是一个简单且应用广泛的分类算法，同样它也能用于回归
KNN是一个无参数学习的模型，也就是它不会对底层的数据分布做出任何的假设，它是基于实例的学习(意味着我们的算法没有显式的训练模型，而是选择了记忆训练实例)
Knn示例
做出预测
若要对未标记的对象进行分类，则会首先计算出该队形对标记对象之间的距离，选择k个距离最近的点(KNN名字的由来),然后使用其中数量最多的某类标签作为该对象的标签，对于实际中的输入变量，最常用的距离计算方式是欧式距离
KNN算法是怎么工作的
KNN用于分类是输出是一个类别，对于离散型分类，返回k个点出现频率最多的类作为预测分类。
算法原理
距离度量
欧式距离计算一个新点和现有点在所有输入属性之上的差的平方和的根，其他常见的距离度量方法有汉明距离，曼哈顿距离，闵氏距离
欧式距离
K的取值
K的取值并不容易，K值太小意味着噪声会对结果产生更大的影响，k值太大会使得计算成本变高，这很大程度上取决于你的实际情况，有些情况你最好遍历所有可能的K值来决定使用哪个才能达到良好分类的目的
网友评论