python - Tensorflow 不使用 GPU

Question

我目前正在尝试训练聊天机器人，更具体地说 this one .但是当我开始训练聊天机器人时，它使用了我 100% 的 CPU 和大约 10% 的 GPU。有人可能知道为什么。

我已经安装了 tensorflow-gpu 并确保我拥有正确版本的 CUDA 和 cuDNN。我还确保我没有安装基础 tensorflow pip 包。我的 GPU 也有最新的 Nvidia 驱动程序。我还尝试卸载并重新安装我所有的驱动程序、CUDA、cuDNN、tensorflow-gpu 及其所有依赖项和 python 本身——但都没有用。

我可以创建一个 python 脚本并包含 with tf.device('/gpu:0'); 并使用它毫无问题地创建一个图形，所以它肯定检测到 GPU 但只是没有' 似乎在利用它。

运行 sess = tf.Session(config=tf.ConfigProto(log_device_placement=True)) 时，我得到以下输出:

2019-05-22 16:47:00.168170: I C:\tf_jenkins\workspace\rel-win\M\windows-gpu\PY\36\tensorflow\core\platform\cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX AVX2

2019-05-22 16:47:00.433514: I C:\tf_jenkins\workspace\rel-win\M\windows-gpu\PY\36\tensorflow\core\common_runtime\gpu\gpu_device.cc:1105] Found device 0 with properties:

name: GeForce GTX 1060 with Max-Q Design major: 6 minor: 1 memoryClockRate(GHz): 1.48

pciBusID: 0000:01:00.0

totalMemory: 6.00GiB freeMemory: 4.97GiB

2019-05-22 16:47:00.450094: I C:\tf_jenkins\workspace\rel-win\M\windows-gpu\PY\36\tensorflow\core\common_runtime\gpu\gpu_device.cc:1195] Creating TensorFlow device (/device:GPU:0) -> (device: 0, name: GeForce GTX 1060 with Max-Q Design, pci bus id: 0000:01:00.0, compute capability: 6.1)

Device mapping:

/job:localhost/replica:0/task:0/device:GPU:0 -> device: 0, name: GeForce GTX 1060 with Max-Q Design, pci bus id: 0000:01:00.0, compute capability: 6.1

2019-05-22 16:47:01.391802: I C:\tf_jenkins\workspace\rel-win\M\windows-gpu\PY\36\tensorflow\core\common_runtime\direct_session.cc:297] Device mapping:

/job:localhost/replica:0/task:0/device:GPU:0 -> device: 0, name: GeForce GTX 1060 with Max-Q Design, pci bus id: 0000:01:00.0, compute capability: 6.1

Answer 1

看起来您的 GPU 设置没有任何问题(特别是如果您可以确认 GPU 在训练时比不训练时使用得更多，例如使用 nvidia-smi )

但请注意，您的 GPU 不一定会成为训练的瓶颈，这意味着某些仅 CPU 密集型计算(如数据增强)可能速度太慢，以至于您的 GPU 未得到充分利用。

我建议分析您的训练代码，看看是什么占用了所有 CPU 资源。