machine-learning - 当我们在 PyTorch 张量上调用 cpu().data.numpy() 时会发生什么？

Question

我正在做一个项目，需要将损失张量中的数据传递给绘图库。

当我执行这个调用时会发生什么 -> loss.cpu().data.numpy()

是否存在从计算图中分离张量的风险？

Answer 1

.cpu()将张量复制到 CPU，但如果它已经在 CPU 上，则没有任何变化。

.numpy()从张量创建一个 NumPy 数组。张量和数组共享底层内存，因此如果就地修改 NumPy 数组，更改将反射(reflect)在原始张量中。如果您计划对 NumPy 数组进行就地修改，通常应该创建它的副本。如果 loss 在 GPU 上，loss.cpu() 已经创建了一个副本，因此就地修改只会影响中间 CPU 张量，您没有使用。

Is there a risk of detaching the tensor from the computation graph?

不，就计算图而言，原始张量损失不受此影响。