javascript - 如何计算神经网络的输出？

Question

我大约一周前才开始学习人工神经网络，没有经过任何经典培训。仅通过观看视频和阅读博客/白皮书，我就已经走到了这一步。

我对 ANN 的最终输出有疑问。

举例来说，我正在构建一个具有两个输入节点、一个隐藏层中的 3 个节点和输出层中的一个节点的 XOR。 2 x 3 x 1。

首先，我想确保第一部分正确。

因此，隐藏层中的每个节点都有一个与其关联的权重，如果隐藏层中有 5 个节点，输入节点将计算其输入并将其乘以与隐藏层中每个节点关联的权重层。

因此，要计算第一个节点的 sigmoid，您需要将所有输入乘以权重(没有 + 表示偏差)，然后将 sigmoid 函数应用于输入 * 权重之和。然后我们用 sigmoid 压缩该值并得到 0.5866175789173301。

本质上，它是 (1 x .25) + (1 x .10) = .35。

现在，我只为每个节点执行三次并得到 3 个压扁的数字。

  // (input1 * HiddenNode(x)Weight) + (input2 * HiddenNode(x)Weight)
  activationFunction((1 * .25) + (1 * .10)) // 0.5866175789173301
  activationFunction((0 * .40) + (1 * .60)) // 0.6456563062257954
  activationFunction((1 * .20) + (0 * .80)) // 0.549833997312478

现在，根据我的理解，我再次总结并压缩这些答案:

  activationFunction(hidden1 + hidden2 + hidden3) // 0.8559569515861635

到目前为止我的理解正确吗？

我的问题是，如果您输入两个缩放数字来预测成绩，则 89 & 6.5 =(成绩/ sleep 时间)

如何计算从 0.8559 到 93 这样的数字的输出，并计算该值的误差？除了偏见之外我还错过了什么吗？

如果我输入最近 3 次股票价格变化的变化百分比，并且我希望它猜测第四个价格，我将如何转换这样的答案:

 activationFunction(hidden1 + hidden2 + hidden3) // 0.8559569515861635

像 0.10(股价变化百分比)这样的答案或任何其他现实世界的答案？

提前致谢!

Answer 1

与提到的人不同。输入不应该是二进制的。它们应该在一定范围内(sigmoid 为 0,1，TanH 为 -1,1)。

在第一部分中，如果您不考虑偏见，那么您是完全正确的。

// Completely right, each hidden node gets input from 2 input nodes
activationFunction((1 * .25) + (1 * .10)) // 0.5866175789173301
activationFunction((0 * .40) + (1 * .60)) // 0.6456563062257954
activationFunction((1 * .20) + (0 * .80)) // 0.549833997312478

// However, all the hidden nodes are connected the output node
output = activationFunction((0.59 * weight1) + (0.64 * weight2) + (0.55 * weight3))

始终记住，节点只能通过连接来连接到其他节点，而连接始终具有权重。

My question is, if you're feeding in two scaled numbers to predict grades, 89 & 6.5 = (grade/hours of sleep)

首先缩放输入(了解更多 here ):

89 > 0.89
6.5 > 6.4 / 24 = 0.27

因此，如果您获得的新成绩为 100，并且您的输出为 0.8559，则输出节点上的错误为 1.00 - 0.8559 = 0.1441。然后你通过网络反向传播这一点，但我不是为你解释这一点的合适人选。