artificial-intelligence - 具有 Sigmoid 激活的神经网络是否使用阈值？

Question

我在这里有点困惑。我刚刚开始研究神经网络的主题，我构建的第一个主题使用了对每个神经元设置阈值的 Step-Activation。现在我不想实现 sigmoid 激活，但似乎这种类型的激活不使用阈值，只使用神经元之间的权重。但是在我找到的关于此的信息中有阈值的词，只有我找不到它们应该在激活函数中的位置。

神经网络的 sigmoid 激活函数中是否使用了阈值？

Answer 1

没有像步骤激活那样的离散跳跃。阈值可以被认为是 sigmoid 函数为 0.5 的点。一些 sigmoid 函数会将其设为 0，而有些会将其设置为不同的“阈值”。

阶跃函数可以被认为是 sigmoid 函数的一个版本，它的陡度设置为无穷大。在这种情况下有一个明显的阈值，对于不太陡峭的 sigmoid 函数，可以认为阈值是函数值为 0.5 的地方，或者是最大陡峭点。