- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我创建了一个自定义 tf.Estimator,我正在使用 tf.train.AdamOptimizer 训练其权重。当我继续训练现有模型时,我观察到在 Tensorboard 中继续训练开始时指标发生了急剧变化。几步之后,指标稳定下来。该行为看起来类似于训练模型时的初始 transient 。如果我继续在同一个 Estimator 实例上训练,或者如果我从检查点重新创建估计器,行为是相同的。我怀疑移动平均数和/或偏差校正因子在重新开始训练时被重置。模型权重本身似乎得到了适当的恢复,因为指标确实从之前稳定的地方继续,只是有效学习率似乎太高了。
以前的 Stack-Overflow 答案似乎表明,这些辅助学习参数应该与检查点一起与模型权重一起存储。那我在这里做错了什么?如何控制这些辅助变量的恢复?我希望能够继续训练,就好像它从未停止过一样。然而,其他人有时似乎在寻找相反的控制,以在不重置模型权重的情况下完全重置优化器。显示如何实现这两种效果的答案可能最有帮助。
这是我的 model_fn
的草图:
def model_fn(features, labels, mode, params):
inputs = features['inputs']
logits = create_model(inputs, training=mode == tf.estimator.ModeKeys.TRAIN)
if mode == tf.estimator.ModeKeys.PREDICT:
...
if mode == tf.estimator.ModeKeys.TRAIN:
outputs = labels['outputs']
loss = tf.losses.softmax_cross_entropy(
tf.one_hot(outputs,tf.shape(inputs)[-1]),
logits,
# reduction=tf.losses.Reduction.MEAN,
)
optimizer = tf.train.AdamOptimizer(learning_rate=params.learning_rate)
update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS)
with tf.control_dependencies(update_ops):
train_op = optimizer.minimize(loss, tf.train.get_or_create_global_step())
accuracy = tf.metrics.accuracy(
labels = outputs,
predictions = tf.argmax(logits, axis=-1),
)
tf.summary.histogram('logits',logits)
tf.summary.scalar('accuracy', accuracy[1])
tf.summary.scalar('loss', loss)
return tf.estimator.EstimatorSpec(
mode=tf.estimator.ModeKeys.TRAIN,
loss=loss,
train_op=train_op)
if mode == tf.estimator.ModeKeys.EVAL:
...
raise ValueError(mode)
训练步骤调用如下:
cfg = tf.estimator.RunConfig(
save_checkpoints_secs = 5*60, # Save checkpoints every 1 minutes.
keep_checkpoint_max = 10, # Retain the 10 most recent checkpoints.
save_summary_steps = 10,
log_step_count_steps = 100,
)
estimator = tf.estimator.Estimator(
model_fn = model_fn,
params = dict(
learning_rate = 1e-3,
),
model_dir = model_dir,
config=cfg,
)
# train for the first time
estimator.train(
input_fn=train_input_fn,
)
# ... at some later time, train again
estimator.train(
input_fn=train_input_fn,
)
编辑:
tf.estimator.Estimator
的warm_start_from
参数的文档和 tf.estimator.WarmStartSettings
并不完全清楚在默认情况下到底会发生什么,正如我在上面的例子中所使用的那样。但是,[tf.train.warm_start
] ( https://www.tensorflow.org/api_docs/python/tf/train/warm_start ) 的文档似乎表明在默认情况下,所有 TRAINABLE_VARIABLES
都将热启动,这
excludes variables such as accumulators and moving statistics from batch norm
确实,我在 VARIABLES
中找到了 Adam 的累加器变量,但在 TRAINABLE_VARIABLES
中找不到。这些文档页面还说明了如何将热启动变量列表更改为 tf.Variable
实例列表或其名称列表。但是,仍然存在一个问题:鉴于使用 tf.Estimator
,我没有图表来收集这些变量/它们的名称,我如何提前创建这些列表之一?
编辑2:
warm_start
的源代码突出显示了一个未记录的功能:变量名列表实际上是一个正则表达式列表,要与 GLOBAL_VARIABLES 匹配。因此,可以使用
warm_start_from=tf.estimator.WarmStartSettings(
ckpt_to_initialize_from=str(model_dir),
# vars_to_warm_start=".*", # everything in TRAINABLE_VARIABLES - excluding optimiser params
vars_to_warm_start=[".*"], # everything in GLOBAL_VARIABLES - including optimiser params
),
加载所有变量。然而,即便如此,摘要统计数据中的峰值仍然存在。有了这个,我现在完全不知所措。
最佳答案
默认情况下,指标添加到 local variables和 metric variables集合,默认情况下这些没有检查点。
如果你想将它们包含在检查点中,你可以将度量变量附加到全局变量集合中:
tf.add_to_collection(tf.GraphKeys.GLOBAL_VARIABLES, tf.get_collection(tf.GraphKeys.METRIC_VARIABLES))
或者您可以返回 Scaffold
用custom Saver
set ,将变量传递给 Saver
的检查点 var_list
argument .这默认为全局变量集合。
关于python - 使用 AdamOptimizer 继续训练自定义 tf.Estimator,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54060667/
在 Tensorflow(从 v1.2.1 开始)中,似乎有(至少)两个并行 API 来构建计算图。 tf.nn 中有函数,如 conv2d、avg_pool、relu、dropout,tf.laye
我正在处理眼睛轨迹数据和卷积神经网络。我被要求使用 tf.reduce_max(lastconv, axis=2)代替 MaxPooling 层和 tf.reduce_sum(lastconv,axi
TensorFlow 提供了 3 种不同的数据存储格式 tf.train.Feature .它们是: tf.train.BytesList tf.train.FloatList tf.train.In
我正在尝试为上下文强盗问题 (https://medium.com/emergent-future/simple-reinforcement-learning-with-tensorflow-part
我在使用 Tensorflow 时遇到问题: 以下代码为卷积 block 生成正确的图: def conv_layer(self, inputs, filter_size = 3, num_filte
我正在将我的训练循环迁移到 Tensorflow 2.0 API .在急切执行模式下,tf.GradientTape替换 tf.gradients .问题是,它们是否具有相同的功能?具体来说: 在函数
tensorflow 中 tf.control_dependencies(tf.get_collection(tf.GraphKeys.UPDATE_OPS)) 的目的是什么? 更多上下文:
我一直在努力学习 TensorFlow,我注意到不同的函数用于相同的目标。例如,为了平方变量,我看到了 tf.square()、tf.math.square() 和 tf.keras.backend.
我正在尝试使用自动编码器开发图像着色器。有 13000 张训练图像。如果我使用 tf.data,每个 epoch 大约需要 45 分钟,如果我使用 tf.utils.keras.Sequence 大约
我尝试按照 tensorflow 教程实现 MNIST CNN 神经网络,并找到这些实现 softmax 交叉熵的方法给出了不同的结果: (1) 不好的结果 softmax = tf.nn.softm
其实,我正在coursera上做deeplearning.ai的作业“Art Generation with Neural Style Transfer”。在函数 compute_layer_styl
训练神经网络学习“异或” 我正在尝试使用“批量归一化”,我创建了一个批量归一化层函数“batch_norm1”。 import tensorflow as tf import nump
我正在尝试协调来自 TF“图形和 session ”指南以及 TF“Keras”指南和 TF Estimators 指南的信息。现在在前者中它说 tf.Session 使计算图能够访问物理硬件以执行图
我正在关注此处的多层感知器示例:https://github.com/aymericdamien/TensorFlow-Examples我对函数 tf.nn.softmax_cross_entropy
回到 TensorFlow = 2.0 中消失了。因此,像这样的解决方案...... with tf.variable_scope("foo"): with tf.variable_scope
我按照官方网站中的步骤安装了tensorflow。但是,在该网站中,作为安装的最后一步,他们给出了一行代码来“验证安装”。但他们没有告诉这段代码会给出什么输出。 该行是: python -c "imp
代码: x = tf.constant([1.,2.,3.], shape = (3,2,4)) y = tf.constant([1.,2.,3.], shape = (3,21,4)) tf.ma
我正在尝试从 Github 训练一个 3D 分割网络.我的模型是用 Keras (Python) 实现的,这是一个典型的 U-Net 模型。模型,总结如下, Model: "functional_3"
我正在使用 TensorFlow 2。我正在尝试优化一个函数,该函数使用经过训练的 tensorflow 模型(毒药)的损失。 @tf.function def totalloss(x): x
试图了解 keras 优化器中的 SGD 优化代码 (source code)。在 get_updates 模块中,我们有: # momentum shapes = [K.int_shape(p) f
我是一名优秀的程序员,十分优秀!