python - 运行 Adam 优化器

Question

我正在尝试运行 AdamOptimizer 进行一步训练，但未成功。

optimizer = tf.train.AdamOptimizer(learning_rate)
init = tf.global_variables_initializer()

with tf.Session() as sess:
    sess.run(init)
    sess.run(optimizer.minimize(cost), feed_dict={X:X_data, Y: Y_data})

控制台吐出一个丑陋的错误:

FailedPreconditionError (see above for traceback): Attempting to use uninitialized value beta1_power
 [[Node: beta1_power/read = Identity[T=DT_FLOAT, _class=["loc:@W1"], _device="/job:localhost/replica:0/task:0/cpu:0"](beta1_power)]]

在代码中，cost 是一个定义明确的函数，它使用两个参数 X、Y(分别是 NN 的入口和训练标签)实现一个 conv NN 和一个 logistic 损失函数

对可能出错的地方有什么想法吗？

Answer 1

optimizer.minimize(cost) 正在您的图表中创建新的值和变量。

当您调用 sess.run(init) 时，.minimize 方法创建的变量尚未定义:因此您的错误。

您只需在调用 tf.global_variables_initializer() 之前声明您的最小化操作:

optimizer = tf.train.AdamOptimizer(learning_rate)
minimize = optimizer.minimize(cost)
init = tf.global_variables_initializer()

with tf.Session() as sess:
    sess.run(init)
    sess.run(minimize, feed_dict={X:X_data, Y: Y_data})