gpt4 book ai didi

tensorflow - 如何使用 Dataset API 最大化 tensorflow GPU 训练中的 CPU 利用率?

转载 作者:行者123 更新时间:2023-12-02 02:40:23 27 4
gpt4 key购买 nike

我正在使用新的数据集 API 来训练简单的前馈 DL 模型。我对最大化训练速度感兴趣。由于我的网络规模不大,正如预期的那样,我看到 GPU 利用率较低。没事儿。但我不明白的是为什么CPU使用率也远未达到100%。我使用的是多 cpu/gpu 核心机器。目前,batch_size = 128 时,我的速度可达 140 步/秒。如果我缓存数据集,我最多可达 210 步(初始扫描后)。所以我希望通过足够的预取,我应该能够在没有缓存的情况下达到相同的速度。然而,使用各种预取和 prefetch_to_device 参数,我无法获得超过 140 步/秒的速度。我还将 num_parallel_calls 设置为 cpu 核心数,大约提高了 20%。

理想情况下,我希望预取线程位于与输入管道的其余部分不相交的CPU核心上,这样它提供的任何好处都是严格相加的。但从 CPU 使用情况分析来看,我怀疑预取和输入处理发生在每个核心上:

enter image description here

有没有办法更好地控制CPU分配?我尝试过 prefetch(1)、prefetch(500) 和其他几个值(在批处理之后或数据集构建结束时),以及与 prefetch_to_device(gpu_device, batch_size = None, 1, 500 等) 结合使用)。到目前为止,不带 prefetch_to_device 的 prefetch(500) 效果最好。

为什么预取不会尝试耗尽我机器上的所有 CPU 功率?训练速度还有哪些其他可能的瓶颈?

非常感谢!

最佳答案

Dataset.prefetch(buffer_size)转换为您的输入管道添加了管道并行性和(有界)缓冲。因此,增加 buffer_size 可能会增加 Dataset.prefetch() 输入运行的时间(因为缓冲区更有可能有可用空间),但它不会提高输入运行的速度(从而提高 CPU 使用率)。

通常,要提高管道速度并增加 CPU 使用率,您可以通过将 num_parallel_calls=N 添加到任意 Dataset.map() 来添加数据并行性。转换,您也可以考虑使用 tf.contrib.data.parallel_interleave()同时处理多个输入源并避免 I/O 阻塞。

tf.data Performance Guide有关如何提高输入管道性能的更多详细信息,包括这些建议。

关于tensorflow - 如何使用 Dataset API 最大化 tensorflow GPU 训练中的 CPU 利用率?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51510462/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com