cluster-analysis - "k means"和 "fuzzy c means"目标函数有什么区别？

Question

我想看看是否可以根据它们所处理的目标函数来比较两者的性能？

Answer 1

顺便说一句，Fuzzy-C-Means (FCM) 聚类算法也称为Soft K-Means。

目标函数实际上是相同的，唯一的区别是引入了一个向量，该向量表示给定点属于每个集群的百分比。该向量被提交给“刚度”指数，旨在更加重视较强的连接(反之亦然，最小化较弱连接的权重)；顺便说一句，当刚度因子趋于无穷大时，所得向量将变成二进制矩阵，从而使 FCM 模型与 K 均值模型相同。

我认为，除了没有分配点的簇可能存在的一些问题之外，可以通过模拟无限刚度因子(=通过引入函数将向量中的最大值更改为 1，并将其他值清零，以代替向量的幂)。这当然是运行 K 均值的一种非常低效的方式，因为该算法必须执行与真正的 FCM 一样多的操作(如果仅使用 1 和 0 值，这确实简化了算术，但没有简化复杂性)

就性能而言，FCM 因此需要对每个维度的每个点执行 k(即簇数)乘法(不包括考虑刚度的求幂)。再加上计算和管理邻近向量所需的开销，就解释了为什么 FCM 比普通 K 均值慢得多。

但是，当涉及到细长簇时(当在其他维度上一致的点倾向于沿着特定维度或两个维度分散时)，FCM/Soft-K-Means 比 Hard-K-Means 更“愚蠢”，并且这就是它仍然存在的原因;-)

摘 self 原来的回复:

另外，我只是想到了这一点，但没有考虑任何“数学”问题，FCM 可能比硬 K 均值收敛得更快，在一定程度上抵消了 FCM 更大的计算要求。

2018 年 5 月编辑:

实际上，我无法找到任何有信誉的研究来支持我对 FCM 更快收敛速度​​的上述预感。谢谢Benjamin Horn让我诚实;-)