美文网首页
5. K近邻

5. K近邻

作者: MC1229 | 来源:发表于2016-12-24 09:48 被阅读32次
KNN概念

上图中的绿点,你会如何为它分类呢?采用KNN(K nearest neighborhoods)算法的话

-如果你取K为3,则3个近邻中有2红1蓝,分类为红;

-如果你取K为5,则5个近邻中有2红3蓝,分类为蓝。

以上可总结为如下表格:

KNN 算法

KNN 算法本身简单有效,它是一种 lazy-learning 算法,分类器不需要使用训练集进行训练,训练时间复杂度为0。KNN 分类的计算复杂度和训练集中的文档数目成正比,也就是说,如果训练集中文档总数为 n,那么 KNN 的分类时间复杂度为O(n)。

在实际应用中,K值一般取一个比较小的数值。K=N,则完全不足取,因为此时无论输入实例是什么,都只是简单的预测它属于在训练实例中最多的累,而忽略了训练实例中大量有用信息。

各种距离的定义和计算可参见:http://taop.marchtea.com/07.01.html

相关文章

  • 5. K近邻

    上图中的绿点,你会如何为它分类呢?采用KNN(K nearest neighborhoods)算法的话 -如果你取...

  • k 近邻法

    k 近邻法 k 近邻算法 k 近邻模型 k 近邻法的实现:kd 树 搜索 kd 树 k 近邻模型实现 k 近邻模型...

  • 统计学习方法之kNN算法

    k 近邻是什么 k 近邻法是机器学习中最基本的分类和回归方法,也称为kNN算法。通常k近邻法用于分类问题。k近邻法...

  • KNN算法及算法实现

    K近邻法 k近邻(k-nearest neighbor,k-NN)十一中基本分类与回归方法,k近邻法假设给定一个训...

  • “k 近邻算法”综述

    “k 近邻算法”综述 本来题目想叫“白话 k 近邻算法”,后来想想,“k 近邻算法” 的描述几乎就是“白话”,所以...

  • 3.1.1.10 降维与度量学习

    降维与度量学习 原理 《机器学习》周志华 10.1 k近邻学习 k近邻(k-Nearest Neighbor, k...

  • k近邻算法

    k近邻算法简介 k近邻算法(k-nearest neighbor, k-NN)是1967年由Cover T和Har...

  • 二:K近邻

    简介 K近邻算法,或者说K最近邻(kNN,k- NearestNeighbor)分类算法是数据挖掘分...

  • 机器学习笔记-k近邻算法

    K-近邻算法概述(KNN) k近邻法1968年由Cover和Hart提出。k-近邻算法采用测量不同特征值之间的距离...

  • 数据科学(机器学习:k-近邻算法)

    k-近邻法简介 k近邻法(k-nearest neighbor, k-NN)是1967年由Cover T和Hart...

网友评论

      本文标题:5. K近邻

      本文链接:https://www.haomeiwen.com/subject/xoylvttx.html