聚类(二):k-means算法(R&python)

作者: 三猫后端 | 来源:发表于2017-10-30 09:45 被阅读108次

原文链接:聚类(二):k-means算法(R&python)

微信公众号:机器学习养成记    搜索添加微信公众号:chenchenwings


聚类算法属于无监督的机器学习算法,即没有类别标签y,需要根据数据特征将相似的数据分为一组。k-means为聚类算法中最简单、常见的一种,通过计算距离,将相似性高的数据分在一起。

算法流程

随机选择k个点作为聚类中心,计算其他点与中心点的距离,选择距离最近的中心并归类,归类完成后计算每类的新中心点,重新计算每个点与中心点的聚类并选择距离最近的归类,重复此过程,直至中心点不再变化。

需要注意的是,使用k-means算法时,要先确认k的值,即想分为几类,k值一般设定为3-5。下图为从网上截取的图片,可以直观看到通过4次迭代,将点聚为3个簇(cluster)的过程。

R语言实现

在R中实现k-means聚类,可以直接使用kmeans()函数。在下面的例子中,我们使用iris数据集进行演示。

颜色代表聚类后得到的结果,形状代表真实的划分,“*”为聚类中心点。如下可查看每个样本点的聚类结果:

python实现

在python中实现k-means聚类,可以使用sklearn.cluster中的KMeans()函数同样使用iris数据集进行演示。

颜色代表聚类后得到的结果。

k-means优缺点

优点

(1)算法原理简单,聚类速度快。

(2)容易实现。

缺点

(1)k值需要事先给定,有时候不知道分成几类最合适。

(2)初始中心点的选择会影响聚类效果。这也是为什么每次进行聚类后,得到结果不同的原因。

(3)因为通过距离判断点的相似度进行聚类,因此k-means算法有一定的使用局限。当潜在簇的形状为大小相近的近似圆形,且每个簇之间聚类较明显,k-means聚类结果比较理想。


本公众号其他聚类篇文章:

聚类(一):DBSCAN算法实现(r语言)

微信公众号:机器学习养成记    搜索添加微信公众号:chenchenwings

扫描二维码,关注我们。

如需转载,请在开篇显著位置注明作者和出处,并在文末放置机器学习养成记二维码和添加原文链接。

快来关注我们吧!

相关文章

网友评论

    本文标题:聚类(二):k-means算法(R&python)

    本文链接:https://www.haomeiwen.com/subject/juqppxtx.html