gpt4 book ai didi

python-3.x - 错误 : OOM when allocating tensor with shape

转载 作者:行者123 更新时间:2023-12-01 00:18:16 24 4
gpt4 key购买 nike

在使用 Apache JMeter 进行性能测试期间,我的初始模型遇到了问题。

Error: OOM when allocating tensor with shape[800,1280,3] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc [[Node: Cast = CastDstT=DT_FLOAT, SrcT=DT_UINT8, _device="/job:localhost/replica:0/task:0/device:GPU:0"]] Hint: If you want to see a list of allocated tensors when OOM happens, add report_tensor_allocations_upon_oom to RunOptions for current allocation info.

最佳答案

OOM 代表内存不足。这意味着您的 GPU 空间不足,大概是因为您分配了其他太大的张量。您可以通过缩小模型或减少批量大小来解决此问题。从它的外观来看,您正在输入一张大图像 (800x1280),您可能需要考虑下采样。

关于python-3.x - 错误 : OOM when allocating tensor with shape,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50760543/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com