python - 无法在 TensorFlow 中为 GradientDescentOptimizer 收集梯度

Question

我一直在尝试为 TensorFlow 中的 GradientDescentOptimizer 的每个步骤收集梯度步长，但是当我尝试将 apply_gradients() 的结果传递给 时，我一直遇到 TypeError >sess.run()。我尝试运行的代码是:

import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data

x = tf.placeholder(tf.float32,[None,784])
W = tf.Variable(tf.zeros([784,10]))
b = tf.Variable(tf.zeros([10]))
y = tf.nn.softmax(tf.matmul(x,W)+b)
y_ = tf.placeholder(tf.float32,[None,10])
cross_entropy = -tf.reduce_sum(y_*log(y))

# note that up to this point, this example is identical to the tutorial on tensorflow.org

gradstep = tf.train.GradientDescentOptimizer(0.01).compute_gradients(cross_entropy)

sess = tf.Session()
sess.run(tf.initialize_all_variables())
batch_x,batch_y = mnist.train.next_batch(100)
print sess.run(gradstep, feed_dict={x:batch_x,y_:batch_y})

请注意，如果我用 print sess.run(train_step,feed_dict={x:batch_x,y_:batch_y}) 替换最后一行，其中 train_step = tf.GradientDescentOptimizer(0.01 ).minimize(cross_entropy)，不会引发错误。我的困惑是因为 minimize 使用与第一步完全相同的参数调用 compute_gradients。有人可以解释为什么会出现这种行为吗？

Answer 1

Optimizer.compute_gradients()方法返回 (Tensor, Variable) 对列表，其中每个张量是相对于相应变量的梯度。

Session.run() 需要一个 Tensor 对象列表(或可转换为 Tensor 的对象)作为它的第一个参数。它不理解如何处理对列表，因此你会得到一个 TypeError，你尝试运行 sess.run(gradstep, ...)

正确的解决方案取决于您要执行的操作。如果要获取所有的渐变值，可以执行以下操作:

grad_vals = sess.run([grad for grad, _ in gradstep], feed_dict={x: batch_x, y: batch_y})

# Then, e.g., nuild a variable name-to-gradient dictionary.
var_to_grad = {}
for grad_val, (_, var) in zip(grad_vals, gradstep):
    var_to_grad[var.name] = grad_val

如果还想获取变量，可以单独执行如下语句:

sess.run([var for _, var in gradstep])

...不过请注意——无需进一步修改您的程序——这将只返回每个变量的初始值。您将必须运行优化器的训练步骤(或以其他方式调用 Optimizer.apply_gradients() )来更新变量。