python - pyTorch 中的矩阵乘法

Question

我正在 pyTorch 中编写一个简单的神经网络，其中特征和权重都是 (1, 5) 张量。我在下面提到的两种方法之间有什么区别？

y = activation(torch.sum(features*weights) + bias)

和

yy = activation(torch.mm(features, weights.view(5,1)) + bias)

Answer 1

逐步考虑:

x = torch.tensor([[10, 2], [3,5]])
y = torch.tensor([[1,3], [5,6]])

x * y
# tensor([[10,  6],
#         [15, 30]])

torch.sum(x*y)

#tensor(61)

x = torch.tensor([[10, 2], [3,5]])
y = torch.tensor([[1,3], [5,6]])

np.matmul(x, y)
# array([[20, 42],
#       [28, 39]])

所以 matmul 和 * operator 是有区别的。此外，torch.sum 从张量中得出一个完整的总和，而不是按行或按列。