python - 使用 tf.estimator 进行分布式训练导致更多训练步骤

Question

我正在 Cloud ML Engine 上试验分布式训练选项，我观察到一些奇怪的结果。我基本上更改了人口普查自定义估算器示例以包含稍微不同的模型，并将我的损失函数更改为 AdamOptimizer 作为唯一真正的更改。基于此其他thread ，我的理解是，任何分布式训练都应该是数据并行异步训练，这表明“如果在 10 个工作节点之间分配 10,000 个批处理，则每个节点大约处理 1,000 个批处理。”在我的实验中，我有大约 650k 个训练示例，并且我正在运行以下实验 1 个 epoch，批量大小为 128。给定 650k 个训练示例和 128 个批量大小，我预计在一个时代。这是我看到的不同 --scale-tier

的性能

未分发

• 基本:8 步/秒，5.1k 步，11 分钟墙时间
• BASIC_GPU:24 步/秒，5.1k 步，3.5 分钟挂墙时间

分布式

• STANDARD_1:14.5 步/秒 -- 26k 步(26k*128 = ~3.3M，比数据中的实际训练样本多得多)，29 分钟墙时间

• CUSTOM -- 5 个 complex_model_m worker，2 个 large_model 参数服务器:27 步/秒，31k 步(128*31k = ~3.9M，远远超过数据中实际的 650k 训练样本)，wall time 20分钟

我的期望是，基于这篇文章的数据并行是分布式训练将在所有工作人员之间拆分批处理，所以如果我有 5 个工作人员处理大约 5k 个批处理，那么每个工作人员将执行大约 1,000 个批处理。然而，我观察到的实际行为是，它似乎更接近 5 名 worker 中的每一个自己执行 1 个时期。在分布式设置中进行训练时，一个时期采取的步数是训练示例的 6 倍——我知道步数的真正定义是每次更新梯度，但我对数据并行训练的理解是这只会拆分批处理，因此应该有相同数量的梯度更新——有什么理由可以预期这种行为吗？在数据并行异步训练分布式环境中需要更多训练步骤是否有意义？谁能解释我观察到的行为？

Answer 1

前面的回答很好地解释了性能瓶颈。让我解释一下“epochs”以及 TensorFlow 如何处理数据集。

TensorFlow 中分布式训练的工作方式是每个工作器独立迭代整个数据集。一个常见的误解是训练集是在 worker 之间划分的，但事实并非如此。

在典型的队列设置中(参见 this tutorial )，每个工作人员都会创建自己的队列。该队列中充满了所有训练文件的所有文件名的列表(通常该列表会被打乱，每次队列用完时，它都会重新填充并重新打乱)。每个文件都逐个实例地读取，数据被解析、预处理，然后被送入另一个队列，在该队列中对实例进行洗牌和批处理。一旦读取了任何文件的最后一个实例，下一个文件名就会从文件名队列中弹出。如果没有更多文件要弹出，则“纪元”已完成。

这里的要点是所有这些队列默认都是本地 -- 不是共享的。因此，每个工作人员都在独立地重复相同的工作——创建包含所有文件的队列并遍历整个数据集。那么，一个完整的 epoch 大致等于完整数据集中的实例数 * worker 数。 (我不确定你的 standard_1 结果，但 CUSTOM 的结果意味着你有你的 master + 5 workers = 6 workers * 650K examples *(1 batch/128 examples)= 31K steps)。

仅供引用，不鼓励使用 epoch 来参数化分布式训练，因为它太困惑了，甚至可能存在一般问题。坚持使用 max_steps。

请注意，由于 TensorFlow 的设计，“批量大小”是指每个工作人员的批量大小。但是每个工作人员将以大致相同的速率向参数服务器发送更新，因此在大致相当于处理一个“批处理”所需时间的时间段内，参数发生的更新次数大致为 批量大小 * num_workers。这就是我们所说的有效批量大小。这反过来又会产生一些实际后果:

1. 您倾向于使用较小的 batch_size，尤其是在您有大量工作人员的情况下，以便有效批量大小保持不变。
2. 随着工作人员数量的增加，有效批量大小也会增加，因此您需要降低学习率，至少在使用“ Vanilla ”随机梯度下降时如此。具有自适应学习率的优化器(例如 Adagrad、Adam 等)往往对初始学习率具有鲁棒性，但如果您添加足够多的工作器，您仍然可能需要调整学习率。

您可能想知道为什么 TensorFlow 以这种方式处理训练数据。这是因为在分布式系统中，您不能指望机器具有相同的速度，甚至根本不可靠。如果您将训练数据划分为不相交的集合，发送给每个 worker ，然后一台或多台机器相对于另一台机器速度较慢，或者网络在一台机器上出现故障，等等，您的训练过程将看到来自“快速”/可靠的 worker 比“慢”/不可靠的 worker 更频繁。这会使结果偏向于这些实例(或者在极端情况下，将它们全部忽略)。