Kmeans是一种简单的聚类方法,一般在数据分析前期使用,选取适当的k,将数据分类后,然后分类研究不同聚类下数据的特点。
算法原理
kmeans的计算方法如下:
1 随机选取k个中心点;
2 遍历所有数据,将每个数据划分到最近的中心点,作为一个簇;
3 计算每个聚类的平均值,并作为新的中心点;
4 重复2-3,直到这k个中心点不再变化(收敛),或执行了足够多的迭代。
轮廓系数
轮廓系数(Silhouette Coefficient)结合了聚类的凝聚度(Cohesion)和分离度(Separation),用于评估聚类的效果。该值处于-1~1之间,值越大,表示聚类效果越好。具体计算方法如下:
1 对于第i个元素x_i,计算x_i与其同一个簇内的所有其他元素距离的平均值,记作a_i,用于量化簇内的凝聚度。
2 选取x_i外的一个簇b,计算x_i与b中所有点的平均距离,遍历所有其他簇,找到最近的这个平均距离,记作b_i,用于量化簇之间分离度。
3 对于元素x_i,轮廓系数s_i = (b_i – a_i)/max(a_i,b_i) 计算所有x的轮廓系数,求出平均值即为当前聚类的整体轮廓系数
从上面的公式,不难发现若s_i小于0,说明x_i与其簇内元素的平均距离小于最近的其他簇,表示聚类效果不好。如果a_i趋于0,或者b_i足够大,那么s_i趋近与1,说明聚类效果比较好。
注意点
1 随机初始化的中心点可能会影响聚类结果,可以多次聚类选择较优的聚类结果。
2 K值的选取直接影响聚类簇数。
如何选取合适的K值
1 最常用最简单的方法可视化数据,然后观察出聚类聚成几类比较合适,高维数据可视化困难。
2 令k从2到一个固定值如10,在每个k值上重复运行数次kmeans(避免局部最优解),并计算当前k的平均轮廓系数,最后选取轮廓系数最大的值对应的k作为最终的集群数目。
Kmeans算法优缺点
优点:1 对于类似球形簇的数据集,聚类效果明显;2 收敛速度较快,时间复杂度O(tkn) t为迭代次数 k中心点个数 n数据量;
缺点:1 K值难以确定;2 初始点不合适,可能陷入局部最优的聚类结果;3 对噪点敏感(更新中心点使用均值,均值对噪声敏感);4 对于不规则的簇,kmeans聚类结果差。
参考:https://www.cnblogs.com/bourneli/p/3645049.html
2020-05-30 11:22
今天的文章k均值kmeans_K均值算法的缺点分享到此就结束了,感谢您的阅读,如果确实帮到您,您可以动动手指转发给其他人。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/54074.html