python - 为什么局部响应规范纸方程和 tensorflow 实现之间存在这种差异？

Question

我在 Alex 的 paper 中发现了这个等式关于本地响应规范化:

正如我们在上面看到的，在我们计算总和后，功率提高了，将它与 alpha 相乘，然后在添加 k 后添加。

但是，我在 TensorFlow 文档中看到它显示为

sqr_sum[a, b, c, d] =
  sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum ** beta)

只针对总和提高贝塔值。

为什么这里有差异？

此外，当我查看 TensorFlow 代码本身时，我看到了这一点:

output[b, r, c, d] /= (
            np.power(bias + alpha * np.sum(patch * patch), beta))

哪个看起来正确？

我在这里有点困惑。有人可以纠正我吗？

Answer 1

这是 Tensorflow 文档中的错误。

它已于 2 月 26 日通过此提交修复: https://github.com/tensorflow/tensorflow/commit/ab48dbd4ac2095548a5bc8505e08e751d409727f#diff-632987400e5affbcdba4533444460b0e