c++ - 使用 tensorflow C++ 的 OpenGL 程序对 cuInit : CUDA_ERROR_OUT_OF_MEMORY 的调用失败

Question

我在 python 上使用 tensorflow 训练了一个没有问题的模型。我现在正尝试将此模型的推理集成到预先存在的支持 OpenGL 的软件中。但是，我在 cuInit 期间得到了一个 CUDA_ERROR_OUT_OF_MEMORY(也就是说，甚至在加载模型之前，就在创建 session 时)。 OpenGL 似乎确实占用了一些 MiB 内存(大约 300 MB)，如 gpustat 或 nvidia-smi 所示。

TF 和 OpenGL 都试图访问/分配 GPU 内存时是否可能发生冲突？有没有人遇到过这个问题？我在谷歌搜索中发现的大多数引用文献都是在模型加载时，而不是在 session /CUDA 初始化时。这是否与 OpenGL 完全无关，我只是找错了树？一个简单的 TF C++ 推理示例有效。感谢您的帮助。

为了完整性，这里是 tensorflow 日志输出:

2018-01-08 12:11:38.321136: I tensorflow/core/platform/cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: SSE4.1 SSE4.2 AVX AVX2 FMA
2018-01-08 12:11:38.379100: E tensorflow/stream_executor/cuda/cuda_driver.cc:406] failed call to cuInit: CUDA_ERROR_OUT_OF_MEMORY
2018-01-08 12:11:38.379388: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:158] retrieving CUDA diagnostic information for host: rosenblatt
2018-01-08 12:11:38.379413: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:165] hostname: rosenblatt
2018-01-08 12:11:38.379508: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:189] libcuda reported version is: 384.98.0
2018-01-08 12:11:38.380425: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:369] driver version file contents: """NVRM version: NVIDIA UNIX x86_64 Kernel Module  384.98  Thu Oct 26 15:16:01 PDT 2017 GCC version:  gcc version 5.4.0 20160609 (Ubuntu 5.4.0-6ubuntu1~16.04.5)"""
2018-01-08 12:11:38.380481: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:193] kernel reported version is: 384.98.0
2018-01-08 12:11:38.380497: I tensorflow/stream_executor/cuda/cuda_diagnostics.cc:300] kernel version seems to match DSO: 384.98.0

编辑:删除对 OpenGL 的所有引用会导致同样的问题，因此它与库之间的冲突无关。

Answer 1

好的，问题是在二进制文件的调试版本中使用了 sanitizer 。发布版本或没有 sanitizer 的调试版本按预期工作。