gpt4 book ai didi

python - Cuda和pytorch内存使用

转载 作者:行者123 更新时间:2023-12-04 13:16:10 29 4
gpt4 key购买 nike

我正在使用 CudaPytorch:1.4.0

当我尝试增加 batch_size 时,出现以下错误:

CUDA 内存不足。尝试分配 20.00 MiB(GPU 0;4.00 GiB 总容量;2.74 GiB 已分配;7.80 MiB 空闲;PyTorch 总共保留 2.96 GiB)

我还没有发现任何关于 Pytorch 内存使用情况的信息。

另外,我不明白为什么我只有 7.80 mib 可用?

我应该只使用性能更好的视频卡,还是可以释放一些内存?仅供引用,我有 GTX 1050 TI、python 3,7 和 torch==1.4.0,我的操作系统是 Windows 10。

最佳答案

我遇到了同样的问题,以下对我有用:

torch.cuda.empty_cache()
# start training from here

即使在这之后如果您收到错误,那么您应该减少 batch_size

关于python - Cuda和pytorch内存使用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60276672/

29 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com