Tensorflow 梯度

Question

我正在尝试调整 tf DeepDream 教程代码以使用另一个模型。现在当我调用 tf.gradients() 时:

t_grad = tf.gradients(t_score, t_input)[0]
g      = sess.run(t_grad, {t_input:img0})

我收到一个类型错误:

TypeError: Fetch argument None of None has invalid type <type 'NoneType'>,     
must be a string or Tensor. (Can not convert a NoneType into a Tensor or 
Operation.)

我应该从哪里开始寻找修复这个错误？

是否可以将 tf.gradients() 与包含优化器的模型一起使用？

Answer 1

我猜你的 t_grad有一些 None s。 None在数学上等同于 0 梯度，但在成本不依赖于它所针对的参数的特殊情况下返回。我们不只返回 0 而不是 None 的原因有很多。您可以在讨论中看到 here

因为 None在上面的情况下可能会很烦人，或者在计算二阶导数时，我使用下面的辅助函数

def replace_none_with_zero(l):
  return [0 if i==None else i for i in l]