tensorflow - 运行 TensorFlow 时使用 CNMeM 有什么意义吗？

Question

CNMeM library是一个“帮助深度学习框架管理 CUDA 内存的简单库。”

CNMeM has been reported to give some interesting speed improvements ，并得到 Theano、Torch 和 Caffe 的支持。但是，与 Theano、Torch 和 Caffe 不同，TensorFlow 在开始 session 时会预先分配 GPU 内存。

在运行基于 TensorFlow 的程序时使用 CNMeM 是否有帮助(例如，减少运行时间)？

Answer 1

没有。 Tensorflow 有自己的 GPU 内存管理。事实上，无论您的问题有多大，它都会预先占用整个 GPU 内存。