gpt4 book ai didi

gpu - 在 Google Colaboratory 中,有没有办法支付更大的 GPU?

转载 作者:行者123 更新时间:2023-12-04 14:04:26 30 4
gpt4 key购买 nike

关闭。这个问题不符合 Stack Overflow guidelines 。它目前不接受答案。












想改善这个问题吗?更新问题,使其成为 Stack Overflow 的 on-topic

去年关闭。




Improve this question




我正在测试对 Colaboratory 的 GPU 支持。 GPU 的 RAM 有限。

name: "/device:CPU:0" 
device_type: "CPU"
memory_limit: 268435456 locality { }
incarnation: 14648174833476954761,
name: "/device:GPU:0"
device_type: "GPU"
memory_limit: 356515840
locality { bus_id: 1 }
incarnation: 11566567776783368174
physical_device_desc: "device: 0,
name: Tesla K80,
pci bus id: 0000:00:04.0,
compute capability: 3.7"]

GPU显存的大小是356MB,请问有没有办法弄个付费版来增加GPU显存?也许这已经是付费谷歌产品的一部分,有人知道这是什么产品吗?

最佳答案

Colab 中的 GPU 不共享。每个用户都可以完全访问具有 12G 内存的 k80。

看到 356MB 的空闲 GPU 内存几乎总是表明您创建了一个没有 allow_growth = True 的 TensorFlow session 。选项。看:
https://www.tensorflow.org/guide/using_gpu#allowing_gpu_memory_growth

如果你不设置这个选项,默认情况下,当 session 创建时,TensorFlow 将保留几乎所有的 GPU 内存。

好消息 :从本周开始,Colab 现在默认设置此选项,因此当您在 Colab 上使用多个笔记本时,您应该会看到低得多的增长。而且,您还可以通过从运行时菜单中选择“管理 session ”来检查每个笔记本的 GPU 内存使用情况。

enter image description here

选择后,您将看到一个对话框,其中列出了所有笔记本和每个笔记本消耗的 GPU 内存。要释放内存,您也可以从此对话框终止运行时。

enter image description here

关于gpu - 在 Google Colaboratory 中,有没有办法支付更大的 GPU?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48889114/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com