kNN算法

from numpy import *
import operator

def createDataSet():
    #样本集
    group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]])
    #样本集对应的标签
    labels = ['A', 'A', 'B', 'B']
    return group, labels

    #inX为输入的待测向量，横纵坐标为其两个参数
    #dataSet为样本集
    #labels为样本集对应的标签
    #k为kNN算法的参数，为指定的接近样本的数量，需小于样本集的个数，用户自己指定
def classify0(inX, dataSet, labels, k):
    #取dataSet数据集的维度，其中shape为numpy中的函数，用法为Matrix.shape，则直接获取矩阵的全部维度，如二维矩阵，则输出（行数，列数），
    #如Matrix.shape[0]则表示获取二维矩阵的行数，shape[1]则为获取二维矩阵的列数
    dataSetSize = dataSet.shape[0]
    #tile为numpy中的函数，输入格式为（向量，（行，列）），输出为将输入的向量在行和列进行重复
    #此处将输入的待测向量转化为与样本集相同的矩阵大小（在行方向进行复制）进行做差
    diffMat = tile(inX, (dataSetSize, 1)) - dataSet
    #将作得的差进行平方，该步采用的是欧式距离公式，即两点间的距离公式
    sqDiffMat = diffMat**2
    #同理，采用两点间距离公式，讲得到的值进行相加，其中函数sum(axis=1)的axis=1表示矩阵在横向相加求和，axis=0则表示在竖向相加求和
    sqDistances = sqDiffMat.sum(axis=1)
    #两点距离公式的开平方根
    distances = sqDistances**0.5
    #对求得的距离进行排序，其中argsort为numpy中的函数，其作用为将数据从小到大排列，并提取出排序过后的下标作为新的数组的内容
    sortedDistIndicies = distances.argsort()
    #创建一个新的空字典，大小为动态大小
    classCount = {}
    #k为kNN方法中指定的考虑个数，进行循环
    for i in range(k):
        #将之前的sortedDistIndicies遍历,得到其对应样本集标签的下标（k由于小于样本集的个数，所以不冲突），将labels对应的字符赋予voteIlabel
        voteIlabel = labels[sortedDistIndicies[i]]
        #对字典文件进行赋值，如果存在相应的key，则返回value+1，否则则为0+1，对应的值越大则表明相同的概率越高越接近，即确定出现的频率
        classCount[voteIlabel] = classCount.get(voteIlabel, 0) + 1
    #采用sorted进行临时排序，获取classCount里的字符，reverse=True表示从大到小排序，key=operator.itemgetter(1)表示取第一个域的值
    sortedClassCount = sorted(classCount.items(), key=operator.itemgetter(1), reverse=True)
    #输出value最大值的key，即最接近的分类标签
    return sortedClassCount[0][0]