原文链接:聚类(二):k-means算法(R&python)
微信公众号:机器学习养成记 搜索添加微信公众号:chenchenwings
聚类算法属于无监督的机器学习算法,即没有类别标签y,需要根据数据特征将相似的数据分为一组。k-means为聚类算法中最简单、常见的一种,通过计算距离,将相似性高的数据分在一起。
算法流程
随机选择k个点作为聚类中心,计算其他点与中心点的距离,选择距离最近的中心并归类,归类完成后计算每类的新中心点,重新计算每个点与中心点的聚类并选择距离最近的归类,重复此过程,直至中心点不再变化。
需要注意的是,使用k-means算法时,要先确认k的值,即想分为几类,k值一般设定为3-5。下图为从网上截取的图片,可以直观看到通过4次迭代,将点聚为3个簇(cluster)的过程。
R语言实现
在R中实现k-means聚类,可以直接使用kmeans()函数。在下面的例子中,我们使用iris数据集进行演示。
颜色代表聚类后得到的结果,形状代表真实的划分,“*”为聚类中心点。如下可查看每个样本点的聚类结果:
python实现
在python中实现k-means聚类,可以使用sklearn.cluster中的KMeans()函数同样使用iris数据集进行演示。
颜色代表聚类后得到的结果。
k-means优缺点
优点:
(1)算法原理简单,聚类速度快。
(2)容易实现。
缺点:
(1)k值需要事先给定,有时候不知道分成几类最合适。
(2)初始中心点的选择会影响聚类效果。这也是为什么每次进行聚类后,得到结果不同的原因。
(3)因为通过距离判断点的相似度进行聚类,因此k-means算法有一定的使用局限。当潜在簇的形状为大小相近的近似圆形,且每个簇之间聚类较明显,k-means聚类结果比较理想。
本公众号其他聚类篇文章:
微信公众号:机器学习养成记 搜索添加微信公众号:chenchenwings
扫描二维码,关注我们。
如需转载,请在开篇显著位置注明作者和出处,并在文末放置机器学习养成记二维码和添加原文链接。
快来关注我们吧!
网友评论