Tensorflow全局设置可见GPU编号操作-6ren

Tensorflow全局设置可见GPU编号操作

转载作者：qq735679552 更新时间：2022-09-29 22:32:09

CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章Tensorflow全局设置可见GPU编号操作由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.

笔者需要tensorflow仅运行在一个GPU上（机器本身有多GPU），而且需要依据系统参数动态调节，故无法简单使用CUDA_VISIBLE_DEVICES.

一种方式是全局使用tf.device函数生成的域，但设备号需要在绘制Graph前指定，仍然不够灵活.

查阅文档发现config的GPUOptions中的visible_device_list可以定义GPU编号从visible到virtual的映射，即可以设置tensorflow可见的GPU device，从而全局设置了tensorflow可见的GPU编号。代码如下:

 
    ? 
   
         config  
         = 
         tf.ConfigProto() 
        
         config.gpu_options.visible_device_list  
         = 
         str 
         (device_num) 
        
         sess  
         = 
         tf.Session(config 
         = 
         config)

参考多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置，还可以通过os包设置全局变量CUDA_VISIBLE_DEVICES，代码如下:

os.environ["CUDA_VISIBLE_DEVICES"] = "2" 。

补充知识：TensorFlow 设置程序可见GPU与逻辑分区。

TensorFlow 设置程序可见GPU(多GPU情况) 。

 
    ? 
   
         import 
         matplotlib as mpl 
        
         import 
         matplotlib.pyplot as plt 
        
         % 
         matplotlib inline 
        
         import 
         numpy as np 
        
         import 
         sklearn 
        
         import 
         pandas as pd 
        
         import 
         os 
        
         import 
         sys 
        
         import 
         time 
        
         import 
         tensorflow as tf 
        
         from 
         tensorflow_core.python.keras.api._v2  
         import 
         keras 
        
         print 
         (tf.__version__) 
        
         print 
         (sys.version_info) 
        
         for 
         module  
         in 
         mpl, np, pd, sklearn, tf, keras: 
        
         print 
         (module.__name__, module.__version__) 
        
         # 打印变量所在位置 
        
         tf.debugging.set_log_device_placement( 
         True 
         )  
        
         # 获取物理GPU的个数 
        
         gpus  
         = 
         tf.config.experimental.list_physical_devices( 
         "GPU" 
         )  
        
         if 
         len 
         (gpus) > 
         = 
         1 
         : 
        
         # 设置第几个GPU 当前程序可见 
        
         tf.config.experimental.set_visible_devices(gpus[ 
         0 
         ],  
         "GPU" 
         ) 
        
         print 
         ( 
         "物理GPU个数:" 
         ,  
         len 
         (gpus)) 
        
         # 获取逻辑GPU的个数 
        
         logical_gpus  
         = 
         tf.config.experimental.list_logical_devices( 
         "GPU" 
         )  
        
         print 
         ( 
         "逻辑GPU个数:" 
         ,  
         len 
         (logical_gpus))

TensorFlow 设置GPU的逻辑分区。

 
    ? 
   
         import 
         matplotlib as mpl 
        
         import 
         matplotlib.pyplot as plt 
        
         % 
         matplotlib inline 
        
         import 
         numpy as np 
        
         import 
         sklearn 
        
         import 
         pandas as pd 
        
         import 
         os 
        
         import 
         sys 
        
         import 
         time 
        
         import 
         tensorflow as tf 
        
         from 
         tensorflow_core.python.keras.api._v2  
         import 
         keras 
        
         print 
         (tf.__version__) 
        
         print 
         (sys.version_info) 
        
         for 
         module  
         in 
         mpl, np, pd, sklearn, tf, keras: 
        
         print 
         (module.__name__, module.__version__) 
        
         # 打印变量所在位置 
        
         tf.debugging.set_log_device_placement( 
         True 
         )  
        
         # 获取物理GPU的个数 
        
         gpus  
         = 
         tf.config.experimental.list_physical_devices( 
         "GPU" 
         )  
        
         if 
         len 
         (gpus) > 
         = 
         1 
         : 
        
         # 设置第几个GPU 当前程序可见 
        
         tf.config.experimental.set_visible_devices(gpus[ 
         0 
         ],  
         "GPU" 
         ) 
        
         # 设置GPU的 逻辑分区 
        
         tf.config.experimental.set_virtual_device_configuration( 
        
         gpus[ 
         0 
         ],  
        
         [tf.config.experimental.VirtualDeviceConfiguration(memory_limit 
         = 
         3072 
         ), 
        
         tf.config.experimental.VirtualDeviceConfiguration(memory_limit 
         = 
         3072 
         )]) 
        
         print 
         ( 
         "物理GPU个数:" 
         ,  
         len 
         (gpus)) 
        
         # 获取逻辑GPU的个数 
        
         logical_gpus  
         = 
         tf.config.experimental.list_logical_devices( 
         "GPU" 
         )  
        
         print 
         ( 
         "逻辑GPU个数:" 
         ,  
         len 
         (logical_gpus))

TensorFlow 手动设置处理GPU 。

 
    ? 
   
         import 
         matplotlib as mpl 
        
         import 
         matplotlib.pyplot as plt 
        
         % 
         matplotlib inline 
        
         import 
         numpy as np 
        
         import 
         sklearn 
        
         import 
         pandas as pd 
        
         import 
         os 
        
         import 
         sys 
        
         import 
         time 
        
         import 
         tensorflow as tf 
        
         from 
         tensorflow_core.python.keras.api._v2  
         import 
         keras 
        
         print 
         (tf.__version__) 
        
         print 
         (sys.version_info) 
        
         for 
         module  
         in 
         mpl, np, pd, sklearn, tf, keras: 
        
         print 
         (module.__name__, module.__version__) 
        
         # 打印变量所在位置 
        
         tf.debugging.set_log_device_placement( 
         True 
         )  
        
         # 自动指定处理设备 
        
         tf.config.set_soft_device_placement( 
         True 
         ) 
        
         # 获取物理GPU的个数 
        
         gpus  
         = 
         tf.config.experimental.list_physical_devices( 
         "GPU" 
         )  
        
         for 
         gpu  
         in 
         gpus: 
        
         # 设置内存自增长方式 
        
         tf.config.experimental.set_memory_growth(gpu,  
         True 
         )  
        
         print 
         ( 
         "物理GPU个数:" 
         ,  
         len 
         (gpus)) 
        
         # 获取逻辑GPU的个数 
        
         logical_gpus  
         = 
         tf.config.experimental.list_logical_devices( 
         "GPU" 
         )  
        
         print 
         ( 
         "逻辑GPU个数:" 
         ,  
         len 
         (logical_gpus)) 
        
         c  
         = 
         [] 
        
         # 循环遍历当前逻辑GPU 
        
         for 
         gpu  
         in 
         logical_gpus: 
        
         print 
         (gpu.name) 
        
         # 手动设置处理GPU 
        
         with tf.device(gpu.name): 
        
         a  
         = 
         tf.constant([[ 
         1.0 
         ,  
         2.0 
         ,  
         3.0 
         ], [ 
         4.0 
         ,  
         5.0 
         ,  
         6.0 
         ]]) 
        
         b  
         = 
         tf.constant([[ 
         1.0 
         ,  
         2.0 
         ], [ 
         3.0 
         ,  
         4.0 
         ], [ 
         5.0 
         ,  
         6.0 
         ]]) 
        
         # 矩阵相乘 并且添加至列表 
        
         c.append(tf.matmul(a, b)) 
        
         # 手动设置处理GPU 
        
         with tf.device( 
         "/GPU:0" 
         ): 
        
         matmul_sum  
         = 
         tf.add_n(c) 
        
         print 
         (matmul_sum)

以上这篇Tensorflow全局设置可见GPU编号操作就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我.

原文链接：https://blog.csdn.net/silent56_th/article/details/81319597 。

最后此篇关于Tensorflow全局设置可见GPU编号操作的文章就讲到这里了,如果你想了解更多关于Tensorflow全局设置可见GPU编号操作的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！。

文章推荐： PowerShell操作Excel、CSV详细介绍

文章推荐：基于tf.shape(tensor)和tensor.shape()的区别说明

文章推荐： Python logging模块异步线程写日志实现过程解析

gpu - 如果有多个 GPU，哪一个 GPU 会实际渲染到所有显示器？
谁能解释或指出在多 GPU/多显示器设置中渲染如何工作的解释(或至少一些线索)？例如，我安装了 5 个 NVIDIA Quadro 4000 视频卡并连接了 9 个显示器。显示不进行任何分组。刚刚在
gpu - Spacy + GPU 给出错误 : GPU is not accessible. 库是否安装正确？
以下代码报错: import spacy spacy.require_gpu() Traceback (most recent call last): File "/home/user/Pycha
gpu - 为什么深度学习需要 GPU？
正如问题已经暗示的那样，我是深度学习的新手。我知道模型的学习过程在没有 GPU 的情况下会很慢。如果我愿意等待，如果我只使用CPU可以吗？最佳答案在计算深度学习(以及一般的神经网络)中执行的许多操
gpu - 渲染脚本和 GPU
我知道 Renderscript 的设计是为了掩盖我正在运行的处理器的事实，但是有没有办法编写代码，以便在支持 GPU 计算的设备(目前是 Nexus 10)上运行显卡？有什么方法可以判断脚本的功能正
gpu - GPU 编程简介
关闭。这个问题是opinion-based 。目前不接受答案。想要改进这个问题吗？更新问题，以便 editing this post 可以用事实和引文来回答它。 . 已关闭 8 年前。 Improv
gpu - 找一个有足够显存的 GPU
我想以编程方式找出可用的 GPU 及其当前内存使用情况，并根据内存可用性使用其中一个 GPU。我想在 PyTorch 中执行此操作。我在这个 post 中看到了以下解决方案: import torc
gpu - 类似于 GPU Gems 系列的实际 GPU 技术摘要
我喜欢 GPU Gems 的结构化技术摘要。但是自上次发布以来已经过去了很长时间，应该开发新算法来处理新型硬件。我可以阅读有关最近 GPU 技术成就的哪些信息？潜伏在编程板上是唯一的方法吗？最佳
gpu - CPU->GPU 传输 vs GPU->CPU 传输
我一直在做一些关于测量数据传输延迟的实验 CPU->GPU 和 GPU->CPU。我发现对于特定消息大小，CPU->GPU 数据传输速率几乎是 GPU->CPU 传输速率的两倍。谁能解释我为什么会这样
gpu - 如何在多 GPU 节点上获取分配给 SLURM 作业的 GPU ID？
当我使用选项 --gres=gpu:1 向具有两个 GPU 的节点提交 SLURM 作业时，如何获取为该作业分配的 GPU ID？是否有用于此目的的环境变量？我使用的 GPU 都是 nvidia GP
gpu - matmul 上 GPU 的 Tensorflow 问题。无法识别 GPU
我用 gpu、cuda 7.0 和 cudnn 6.5 安装了 tensorflow。当我导入 tensorflow 时，它运行良好。我正在尝试在 Tensorflow 上运行一个简单的矩阵乘法，但
gpu - 如何为每个任务设置 1 个 gpu 的 slurm/salloc 但让作业使用多个 gpu？
我们正在寻找有关 slurm salloc gpu 分配的一些建议。目前，给定: % salloc -n 4 -c 2 -gres=gpu:1 % srun env | grep CUDA CUD
python - tensorflow-gpu 库是否自动在 GPU 上运行 tensorflow 代码(非 GPU)？
我是否必须自定义为非 GPU Tensorflow 库编写的代码以适应tensorflow-gpu 库？我有一个 GPU，想运行仅为非 GPU tensorflow 库编写的 Python 代码。我
python - tensorflow-gpu 库是否自动在 GPU 上运行 tensorflow 代码(非 GPU)？
我是否必须自定义为非 GPU Tensorflow 库编写的代码以适应tensorflow-gpu 库？我有一个 GPU，想运行仅为非 GPU tensorflow 库编写的 Python 代码。我
gpu - 在两个不同的 GPU 上运行相同的深度学习代码时会出现非常奇怪的行为
我正在使用 pytorch 框架训练网络。我的电脑里有 K40 GPU。上周，我在同一台计算机上添加了 1080。在我的第一个实验中，我在两个 GPU 上观察到相同的结果。然后，我在两个 GPU 上
gpu - Slurm 超额订阅 GPU
有没有办法在 Slurm 上超额订阅 GPU，即运行共享一个 GPU 的多个作业/作业步骤？我们只找到了超额订阅 CPU 和内存的方法，但没有找到 GPU。我们希望在同一 GPU 上并行运行多个作业
gpu - 重置单个 GPU 的内存使用情况
我可以访问 4 个 GPU(不是 root 用户)。其中一个 GPU(2 号)表现怪异，它们的一些内存被阻塞但功耗和温度非常低(好像没有任何东西在上面运行)。请参阅下图中 nvidia-smi 的详细
gpu - Tensorflow 不使用 GPU
我正在尝试通过 Tensorflow 运行示例 seq2seq，但它不会使用 GPU。以下是我在带有 Tesla K20x 的 Linux 系统上安装 Tensorflow 所采取的步骤 git cl
gpu - 用于科学计算的 GPU 精度
一位电气工程师最近提醒我不要使用 GPU 进行科学计算(例如，在精度非常重要的地方)，因为没有像 CPU 那样的硬件保护措施。这是真的吗？如果是的话，典型硬件中的问题有多普遍/严重？最佳答案实际上
gpu - 是否有等效的任务管理器可以显示 GPU 使用历史？
关闭。这个问题不满足Stack Overflow guidelines .它目前不接受答案。想改善这个问题吗？更新问题，使其成为 on-topic对于堆栈溢出。 7年前关闭。 Improve thi
gpu - 如何有效利用 GPU 进行强化学习？
最近我研究了强化学习，有一个问题困扰着我，我找不到答案:如何使用 GPU 有效地完成训练？据我所知，需要与环境持续交互，这对我来说似乎是一个巨大的瓶颈，因为这项任务通常是非数学的/不可并行化的。然而，

qq735679552

个人简介

我是一名优秀的程序员,十分优秀！

作者热门文章

滴滴打车优惠券免费领取

全站热门文章

首页

博学

6Ren·AI

商城

Tensorflow全局设置可见GPU编号操作