machine-learning - Growing Neural Gas 如何用于聚类？

Question

我知道该算法是如何工作的，但我不确定它如何确定集群。根据图像，我猜测它将所有通过边缘连接的神经元视为一个簇。这样你可能就有两组神经元，每组神经元都连接起来。但真的是这样吗？

我也想知道..GNG真的是一个神经网络吗？它没有传播函数、激活函数或加权边......它不只是一个图吗？我想这有点取决于个人意见，但我想听听他们的意见。

更新:

这篇论文 www.booru.net/download/MasterThesisProj.pdf 涉及 GNG 聚类，在第 11 页上您可以看到一个看起来像连接神经元簇的示例。但随后我也对迭代次数感到困惑。假设我有 500 个数据点要聚类。一旦我将它们全部放入，我是否需要删除它们并再次添加它们以适应现有网络？我多久这样做一次？

我的意思是..我必须在某个时候重新添加它们..当在两个旧神经元u和v之间添加新神经元r时，以前属于u的一些数据点现在应该属于r，因为它更接近。但该算法不包含更改这些数据点的分配。即使我在一次迭代后删除它们并再次添加它们，那么第一次迭代其余部分的点的错误分配会改变网络的处理，不是吗？

Answer 1

NG 和 GNG 是自组织映射 (SOM) 的一种形式，也称为“Kohonen 神经网络”。

这些基于更古老、更广泛的中性网络观点，当时它们仍然受到自然的启发，而不是由 GPU 的矩阵运算能力驱动。那时，当你还没有大规模 SIMD 架构时，让神经元自组织而不是在严格的层中预先组织并没有什么坏处。

我不会将它们称为聚类，尽管该术语在相关工作中通常(ab-)使用。因为我没有看到这些“集群”有任何强大的属性。

SOM 实际上是地理中的 map 。 SOM 是一组节点(“神经元”)，通常排列在二维矩形或六边形网格中。 (= map )。然后迭代优化输入空间中的位置以适应数据。因为他们影响邻居，所以他们不能自由行动。想象一下在树上缠一张网；网的结就是你的神经元。 NG 和 GNG 看起来非常相似，但具有更灵活的节点结构。但实际上，SOM 的一个很好的特性是您可以获得的 2d map 。

我记得的唯一聚类方法是将输入数据投影到 SOM 网格的离散二维空间，然后在此投影上运行 k 均值。它可能会工作得还不错(例如:它的性能与 k-means 类似)，但我不相信它在理论上得到了很好的支持。