本文所有代码均可在Pycharm编译运行

Python版本：3.6.2

//kNN.py
from numpy import *
import operator

def createDataSet():
    group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]])
    labels = ['A', 'A', 'B', 'B']
    return group, labels

def classify0(inX, dataSet, labels, k):
    dataSetSize = dataSet.shape[0]
    diffMat = tile(inX, (dataSetSize, 1)) - dataSet
    sqDiffMat = diffMat**2
    sqDistances = sqDiffMat.sum(axis=1)
    distances = sqDistances**0.5
    sortedDisIndicies = distances.argsort()    
    classCount = {}
    for i in range(k):
        voteIlabel = lables[sortedDisIndicies[i]]
        classCount[voteIlabel] = classCount.get(voteIlabel, 0) + 1
    sortedClassCount = sorted(classCount.items(), key=operator.itemgetter(1), reverse=True)
    return sortedClassCount[0][0]

以下是预测[0, 0]属于哪个分类

//TestkNN.py
import kNN

group, labels = kNN.createDataSet()

result = kNN.classify0([0, 0], group, labels, 3)

print(result)

//输出
B

---

详细说明：

createDataSet函数用来创建一个训练样本集(group)，以及标签向量(labels)。

classify0函数4个输入参数，从左到右分别是：①用于分类的输入向量，②训练样本集，③标签向量，④用于选择最近邻居的数目。

Numbers作图

该算法的思想是
用于分类的输入向量与训练样本集的所有向量的距离进行计算；
找出与输入向量最近的k个近邻；
统计这k个近邻分别属于哪一个分类，同时统计每个分类的数量，存放在字典中；
逆排序找出最多数量那个分类，逻辑上得出，输入向量与这些近邻同类。