python - Tensorflow 2 没有在 gpu 上运行

Question

我正在使用 tensorflow-gpu 版本 2.0.0 并且我已经安装了 gpu 驱动程序以及 CUDA 和 cuDNN( CUDA 版本 10.1.243_426 和 cuDNN v7.6.5.32 并且我使用的是 Windows!)

当我编译我的模型或运行时:

from tensorflow.python.client import device_lib 
print(device_lib.list_local_devices())

它会打印出:

2020-01-12 19:56:50.961755: I tensorflow/core/platform/cpu_feature_guard.cc:142] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2
2020-01-12 19:56:50.974003: I tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully opened dynamic library nvcuda.dll
2020-01-12 19:56:51.628299: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1618] Found device 0 with properties:
name: GeForce MX150 major: 6 minor: 1 memoryClockRate(GHz): 1.5315
pciBusID: 0000:01:00.0
2020-01-12 19:56:51.636256: I tensorflow/stream_executor/platform/default/dlopen_checker_stub.cc:25] GPU libraries are statically linked, skip dlopen check.
2020-01-12 19:56:51.642106: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1746] Adding visible gpu devices: 0
2020-01-12 19:56:52.386608: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1159] Device interconnect StreamExecutor with strength 1 edge matrix:
2020-01-12 19:56:52.393162: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1165]      0
2020-01-12 19:56:52.396516: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1178] 0:   N
2020-01-12 19:56:52.400632: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1304] Created TensorFlow device (/device:GPU:0 with 1356 MB memory) -> physical GPU (device: 0, na
me: GeForce MX150, pci bus id: 0000:01:00.0, compute capability: 6.1)
[name: "/device:CPU:0"
device_type: "CPU"
memory_limit: 268435456
locality {
}
incarnation: 1008745203605650029
, name: "/device:GPU:0"
device_type: "GPU"
memory_limit: 1422723891
locality {
  bus_id: 1
  links {
  }
}
incarnation: 18036547379173389852
physical_device_desc: "device: 0, name: GeForce MX150, pci bus id: 0000:01:00.0, compute capability: 6.1"
]

也就是说 tensorflow 肯定会使用 gpu 设备!但是当我运行我的模型时，我可以看到 gpu 没有做任何事情!

但是你可以看到一部分 gpu 内存正在被使用，甚至我也可以看到一个 gpu 事件，这是我的程序!!

这是怎么回事？!难道我做错了什么？!我已经搜索了很多，并在 SO 中检查了很多问题，但没有人问过这样的问题!

Answer 1

摘自TensorFlow官方文档。

 import tensorflow as tf 
    tf.debugging.set_log_device_placement(True)

    # Create some tensors
    a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
    b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
    c = tf.matmul(a, b)

    print(c)

如果您运行上面的代码(如果您的 GPU 对 TensorFlow 可见，则它应该在您的 GPU 上运行)，那么您的训练将在 TensorFlow 上运行。

你一定会看到这样的输出:

Executing op MatMul in device /job:localhost/replica:0/task:0/device:GPU:0 tf.Tensor( [[22. 28.] [49. 64.]], shape=(2, 2), dtype=float32)

此外，您还可以看到任务管理器中的专用 GPU 内存使用量激增 --> 看起来您的 GPU 正在被使用，但可以肯定的是运行上面的代码。